مجموعة فدية تُدار بالذكاء الاصطناعي تعود بسلاح جديد

JadePuffer، الجهة التهديدية التي وُثقت سابقًا بأنها أدارت أول حملة فدية من البداية إلى النهاية بواسطة نموذج لغوي كبير، يعود بأداة جديدة. وفقًا لمجلة Infosecurity Magazine، نشرت المجموعة في حملتها اللاحقة أداة إغلاق تُدعى ENCFORGE صُممت خصيصًا لتدمير مكونات نماذج الذكاء الاصطناعي بدلاً من مجرد تشفير الملفات وقواعد البيانات العادية.

هذا مهم لأنه يشير إلى تحول في اختيار الأهداف. كانت عمليات الفدية السابقة، بما فيها حملة JadePuffer الأصلية، تركز على تشفير قواعد بيانات الإنتاج والمطالبة بفدية لاستعادتها. وصف التوثيق الأصلي من Sysdig لهجوم JadePuffer مشغلاً عميلاً ذاتيًا استغل منصة Langflow ونفذ الاختراق بأقل قدر من الإشراف البشري. يبدو أن ENCFORGE تُوسع هذا النهج الآلي نفسه، ولكن بهدف جديد: محو النماذج المُدرَّبة والأوزان وملفات التكوين التي تعتمد عليها المؤسسات لتشغيل أنظمة الذكاء الاصطناعي.

لماذا يغير استهداف نماذج الذكاء الاصطناعي المعادلة

تحتجز برامج الفدية التقليدية البيانات كرهائن. أما تدمير مكونات نماذج الذكاء الاصطناعي فهو نوع مختلف من الابتزاز. غالبًا ما تمثل النماذج المُدرَّبة شهورًا من وقت الحوسبة، وبيانات تدريب منقاة، وأعمال ضبط دقيق لا يمكن ببساطة استعادتها من نسخة احتياطية روتينية إذا لم تكن هذه النسخة مصممة خصيصًا لاستعادة النماذج. بالنسبة للشركات التي بنت أدوات ذكاء اصطناعي تواجه العملاء، أو أتمتة داخلية، أو خطوط معالجة بيانات حول هذه النماذج، قد يكون فقدانها بالكامل أكثر إرباكًا من فقدان قاعدة بيانات واحدة، لأن إعادة بناء نموذج من الصفر تستغرق وقتًا لا تملكه الأعمال الحية غالبًا.

هناك أيضًا بُعد خصوصية يستحق الإشارة. العديد من نماذج الذكاء الاصطناعي التي تستخدمها الشركات تُدرَّب أو تُضبط بدقة على مجموعات بيانات تتضمن معلومات العملاء، سواء كانت نصوص دعم، أو بيانات سلوكية، أو سجلات شخصية تُستخدم لتخصيص خدمة. عندما يستهدف مشغلو برامج الفدية البنية التحتية المحيطة بهذه النماذج، سواء عن طريق تشفير قواعد البيانات المحيطة أو الآن بتدمير النماذج نفسها، فإن البيانات الشخصية المتدفقة عبر هذه البنية تصبح معرضة لخطر التسرب والفقدان. نادرًا ما يكون لدى المستهلكين رؤية حول أي من البائعين يشغّل أنظمة ذكاء اصطناعي تعتمد على معلوماتهم، مما يجعل هذا النوع من الهجمات أصعب في الاكتشاف من الخارج وأصعب في الاستعداد له كفرد.

جزء من نمط أوسع في الهجمات الذاتية التحكم

عودة JadePuffer بأداة ENCFORGE تتناغم مع توجه يراقبه باحثو الأمن عن كثب هذا العام. أظهرت نتائج مستقلة حول أول هجوم فدية ذاتي التحكم بالكامل من الذكاء الاصطناعي أن وكيل ذكاء اصطناعي يمكنه فحص الثغرات، والوصول، وتنفيذ محاولة ابتزاز دون وجود مشغل بشري يوجه كل خطوة في الوقت الفعلي. هذه السابقة مهمة هنا لأنها تشير إلى أن JadePuffer ليست تجربة لمرة واحدة. إنها جهة تهديدية طورت أدواتها الخاصة، وانتقلت من تشفير قواعد البيانات إلى أداة إغلاق مصممة خصيصًا ضد البنية التحتية للذكاء الاصطناعي. ومع تبني المزيد من المؤسسات لمنصات الذكاء الاصطناعي مثل Langflow وأدوات تنسيق مماثلة، تتسع مساحة الهجوم لهذا النوع من الحملات، وهو موضوع تطرقت له ملخصات أمنية تتابع هجمات الفدية والهجمات الموجهة بالذكاء الاصطناعي إلى جانب تهديدات ناشئة أخرى.

ماذا يعني هذا بالنسبة لك

لن يقوم معظم القراء بتشغيل نموذج ذكاء اصطناعي بأنفسهم، لكن التأثيرات غير المباشرة تمتد لأبعد من إدارات تقنية المعلومات. إذا كانت أي جهة تتعامل معها، سواء كانت بائع تجزئة، أو مقدم رعاية صحية، أو خدمة مالية، تستخدم أنظمة ذكاء اصطناعي تتعرض لهجوم كهذا، فقد تشمل التداعيات انقطاع الخدمة، أو تأخر الدعم، أو في أسوأ الحالات، تسريب البيانات التي دُرِّبت عليها هذه النماذج أو شُغّلت بها. ما زالت برامج الفدية التي تستهدف البنية التحتية للذكاء الاصطناعي مشكلة بين الشركات حاليًا، لكن بيانات المستهلكين الكامنة داخل هذه البنية هي ما يمنح هذه الهجمات قوة ضغطها.

بالنسبة للمؤسسات التي تبني أو تشغل أنظمة ذكاء اصطناعي، فهذه إشارة واضحة على أن مكونات النماذج تحتاج إلى نفس انضباط النسخ الاحتياطي، وضوابط الوصول، والمراقبة كأي أصل بالغ الأهمية. لم يعد التعامل مع النموذج المُدرَّب على أنه قابل للاستبدال بسهولة افتراضًا آمنًا.

توصيات عملية قابلة للتطبيق

  • إذا كنت تدير بنية تحتية للذكاء الاصطناعي، فتأكد من أن أوزان النماذج ومخرجات التدريب منسوخة احتياطيًا بشكل منفصل عن أنظمة الإنتاج، مع وجود نسخ غير متصلة بالإنترنت أو غير قابلة للتغيير.
  • راجع ضوابط الوصول على منصات تنسيق الذكاء الاصطناعي؛ فقد استغلت حملات الفدية ذاتية التشغيل أدوات مكشوفة أو سيئة التكوين للحصول على موطئ قدم.
  • كمستهلك، اسأل مزودي الخدمات عن كيفية حماية أنظمة الذكاء الاصطناعي التي تعالج بياناتك، خصوصًا للخدمات التي تتعامل مع معلومات شخصية أو مالية حساسة.
  • كن يقظًا لانقطاعات الخدمة أو إشعارات الاختراق من الشركات التي تستخدمها؛ فبرامج الفدية التي تستهدف الخلفيات الخلفية للذكاء الاصطناعي قد تؤخر استعادة الخدمة لفترة أطول من الانقطاع العادي.

يُعتبر تطور JadePuffer من ابتزاز قواعد البيانات إلى تدمير نماذج الذكاء الاصطناعي تذكيرًا بأن مشغلي برامج الفدية يتكيفون بسرعة مع أي مكان تتركز فيه القيمة وقوة الضغط. ومع تحول أنظمة الذكاء الاصطناعي إلى بنية تحتية أساسية لمزيد من الشركات، ستصبح حمايتها جزءًا أساسيًا من وضعية الأمان لدى الجميع، وليس مجرد فكرة لاحقة.