مجموعة مدعومة من الدولة الروسية حوّلت Claude إلى أداة لتطوير البرمجيات الخبيثة

أوقفت Anthropic عملية مدعومة من دولة روسية، تُتابَع داخليًا تحت اسم GTG-20006، استخدمت نموذج Claude AI الخاص بها كجزء من خط أنابيب نشط لتطوير البرمجيات الخبيثة. وفقًا لـ Anthropic، لم تكتفِ المجموعة بطلب كتابة كود من Claude مرة واحدة ثم الانصراف. بدلاً من ذلك، استخدمت النموذج في حلقة مستمرة: توليد برمجية خبيثة، واختبارها ضد منتجات الأمان، وعندما يتم رصد البرمجية الخبيثة، يُغذّى الاكتشاف مرة أخرى إلى Claude لإنتاج نسخة مُعاد بناؤها مصممة للتسلل عبر نفس الدفاعات.

تربط التقارير المرتبطة بالحملة الفاعل بجماعة Midnight Blizzard، وهي مجموعة تهديد مرتبطة بمصالح الدولة الروسية ولها تاريخ طويل من العمليات المركّزة على التجسس. ويُقال إن النشاط استهدف منظمات أوكرانية وأوروبية، بما يتوافق مع تركيز المجموعة النموذجي على جمع المعلومات الاستخباراتية بدلاً من الجريمة الإلكترونية ذات الدافع المالي. وتقول Anthropic إنها حددت الحسابات المرتبطة بالعملية وأغلقتها بمجرد اكتشاف إساءة الاستخدام.

كيف عمل سير عمل البرمجيات الخبيثة المدعوم بالذكاء الاصطناعي

ما يجعل هذه الحالة جديرة بالملاحظة ليس أن القراصنة استخدموا روبوت محادثة ذكيًا. بل سير العمل نفسه. تقليديًا، يعدّل مؤلفو البرمجيات الخبيثة كودهم يدويًا بعد أن يرصد مزوّدو مكافحة الفيروسات أو أدوات الكشف على نقاط النهاية عيّنة ما. وتستغرق تلك العملية وقتًا ومهارة وتكرارًا. وبإدخال Claude في تلك الحلقة، يبدو أن GTG-20006 ضغطت الدورة: فبدلاً من أن يعيد مطوّر بشري صياغة الكود المرصود سطرًا بسطر، أصبح نموذج الذكاء الاصطناعي أداة سريعة وفورية لتوليد متغيرات قادرة على تفادي توقيعات الكشف.

يعكس هذا نمطًا أوسع حذّر منه باحثو الأمن: مساعدات البرمجة بالذكاء الاصطناعي قوية لأنها تخفض الحاجز التقني أمام كتابة كود وظيفي بسرعة، وتنطبق الكفاءة نفسها سواء كان الهدف النهائي تطبيقًا شرعيًا أو قطعة من البرمجيات الخبيثة. ويشير إفصاح Anthropic إلى أن أنظمة المراقبة الخاصة بالشركة كانت قادرة على التقاط إساءة الاستخدام والتصرف حيالها، وهو مؤشر ذو دلالة على أن مزوّدي الذكاء الاصطناعي يراقبون بنشاط هذا النوع من السلوك بدلاً من التعامل معه كمخاطر افتراضية.

ويأتي هذا أيضًا إلى جانب نتائج حديثة أخرى حول نقاط ضعف في منظومات المساعدات الذكية. كشف باحثون في Zenity مؤخرًا عن ثغرات بنقرة صفرية في Claude وChatGPT Atlas يمكن أن تتيح للمهاجمين اختطاف أدوات متصفح الذكاء الاصطناعي دون أي تفاعل من المستخدم على الإطلاق. ومجتمعة، تشير هذه القصص إلى الموضوع الأساسي نفسه: مع اندماج أدوات الذكاء الاصطناعي في سير العمل اليومي، أصبحت الأدوات نفسها وطريقة استخدام الفاعلين الخصوم لها أسطح هجوم تستحق التدقيق.

لماذا يهم هذا أبعد من العنوان الرئيسي

من المفيد أن نكون دقيقين بشأن ما حدث وما لم يحدث هنا. لم يتم "اختراق" Claude لمساعدة المهاجمين سرًا، ولا يوجد أي مؤشر على أن مستخدمي Claude العاديين تعرّضوا لبرمجيات خبيثة عبر التطبيق نفسه. كانت هذه حالة مجموعة متطورة مرتبطة بالدولة استخدمت منتج ذكاء اصطناعي شرعيًا كأداة تطوير، بالطريقة نفسها التي قد تستخدم بها أي برنامج برمجة، وأساءت استخدامه لتوليد كود خبيث. ويُعد رد Anthropic، باكتشاف النمط وقطع الوصول، نوع الإجراء التنفيذي المهم لمنع منصات الذكاء الاصطناعي من أن تصبح أدوات افتراضية للعمليات الإلكترونية الهجومية.

ومع ذلك، فإن الحادثة تذكير بأن تطوير البرمجيات الخبيثة بمساعدة الذكاء الاصطناعي لم يعد نظريًا. فالفاعلون المدعومون من الدول يجرّبون هذه الأدوات لتسريع عملياتهم، وسيحتاج المدافعون إلى أخذ البرمجيات الخبيثة التي يمكن إعادة توليدها وتعديلها بسرعة أكبر من ذي قبل في الحسبان. وبالنسبة للمنظمات في أوكرانيا وأوروبا، التي يبدو أنها كانت محور هذه الحملة تحديدًا، فإنها تعزّز أيضًا أن المجموعات الدافعة للتجسس لا تزال تعطي الأولوية لجمع المعلومات الاستخباراتية على المكسب المالي السريع.

ما الذي يعنيه هذا لك

لمعظم المستخدمين الأفراد، لا تمثل هذه الحملة تحديدًا تهديدًا جديدًا مباشرًا. ويُقال إن GTG-20006 ركّزت على التجسس المستهدف ضد منظمات، وليس على هجمات استهلاكية جماعية. لكن الاتجاه الأوسع، أي أدوات الذكاء الاصطناعي التي تُسرّع تطوير البرمجيات الخبيثة وتفاديها، له آثار لاحقة على الجميع. فالتكرار الأسرع للبرمجيات الخبيثة يعني أن مزوّدي الأمان وأدوات مكافحة الفيروسات قد يحتاجون إلى تحديث توقيعات الكشف بمعدل أكبر، ويرفع قيمة أدوات الأمان القائمة على السلوك على حساب تلك التي تعتمد فقط على توقيعات البرمجيات الخبيثة المعروفة.

وهي أيضًا لحظة جيدة لإعادة النظر في النظافة الأمنية الأساسية، لأن البرمجيات الخبيثة المدعومة بالذكاء الاصطناعي لا تزال تعتمد على طرق التسليم نفسها: رسائل التصيد، والمرفقات الخبيثة، والبرمجيات المخترقة. لا تغيّر أي أداة ذكاء اصطناعي الطريقة التي تصل بها البرمجيات الخبيثة إلى الجهاز من الأساس.

النقاط الرئيسية

  • أبقِ أنظمة التشغيل والمتصفحات وبرامج الأمان محدّثة حتى تتمكن أدوات الكشف من رصد متغيرات البرمجيات الخبيثة الأحدث بسرعة.
  • كن متشككًا تجاه المرفقات أو الروابط غير المطلوبة، حتى من مرسلين يبدون مألوفين، لأن طرق التسليم لا تزال دون تغيير.
  • ينبغي للمنظمات، لا سيما في القطاعات التي يُرجّح أن تستهدفها جهات مدعومة من الدول، أن تعطي الأولوية للكشف القائم على السلوك على حساب الأدوات المعتمدة على التوقيعات فقط.
  • تابع كيف يستجيب مزوّدو الذكاء الاصطناعي الرئيسيون لتقارير إساءة الاستخدام. فإيقاف Anthropic لـ GTG-20006 يُظهر أن الإنفاذ على مستوى المنصة جزء فعّال من معادلة الأمان، وليس مجرد فكرة لاحقة.

مع تزايد قدرات أدوات البرمجة بالذكاء الاصطناعي، من المرجّح أن تصبح حوادث كهذه أكثر شيوعًا لا أقل. ويُعد البقاء على اطلاع بكيفية الدفاع عن هذه الأدوات وإساءة استخدامها على حد سواء من أبسط الطرق التي يمكن للمستخدمين والمنظمات أن يبقوا بها متقدمين بخطوة.