قراصنة روس يسخرون ضمانات سلامة الذكاء الاصطناعي ضد الأدوات الأمنية

اتخذت حملة برمجيات خبيثة حديثة العهد مرتبطة بقراصنة روس نهجًا غير معتاد للتهرب من الاكتشاف: تضمين طلب أسلحة نووية مزيف داخل سكربت VBS خبيث. الهدف ليس صنع سلاح، بل إرباك أنظمة الذكاء الاصطناعي التي تُستخدم بشكل متزايد لتحليل الأكواد المشبوهة. من خلال إدراج لغة تحاكي طلبًا للحصول على معلومات حول أسلحة نووية، يبدو أن المهاجمين يحاولون التعثر بضمانات السلامة المدمجة في نماذج الذكاء الاصطناعي، مما يدفع تلك الأنظمة إلى رفض معالجة الملف أو تحليله بشكل كامل.

تسلط هذه التقنية الضوء على توتر متزايد في الأمن السيبراني: مع اعتماد فرق أمنية متزايد على أدوات الذكاء الاصطناعي لفرز وتحليل البرمجيات الخبيثة على نطاق واسع، يتعلم المهاجمون استغلال آليات السلامة ذاتها المصممة لجعل تلك الأدوات جديرة بالثقة.

كيف تعمل خدعة الموجه النووي المزيف

توجد ضمانات سلامة الذكاء الاصطناعي لسبب وجيه. نماذج اللغة الكبيرة مُدرَّبة على رفض الطلبات التي قد تسهّل ضررًا في العالم الحقيقي، بما في ذلك التعليمات التفصيلية المتعلقة بأسلحة الدمار الشامل. عندما تقوم أداة أمنية مدعومة بالذكاء الاصطناعي بفحص ملف، فإنها تقرأ عادةً المحتويات، بما في ذلك أي نص مضمن، كجزء من عملية التحليل.

من خلال زرع لغة تحاكي طلب أسلحة نووية داخل سكربت VBS، يبدو أن القراصنة يراهنون على أن سلوك الرفض المدمج في نموذج الذكاء الاصطناعي سينشط. بدلاً من الإبلاغ عن الملف كبرمجية خبيثة، قد يتوقف الذكاء الاصطناعي عند هذا الحد، أو يرفض مواصلة التحليل، أو ينتج تقييمًا غير مكتمل أو غير موثوق. في الواقع، يصبح المحتوى الخبيث نوعًا من أنواع الطُعم، مستخدمًا التدريب الأخلاقي للذكاء الاصطناعي ضده.

هذا ليس عيبًا خاصًا ببائع أو منتج واحد. إنه يعكس تحديًا أوسع: ضمانات السلامة مصممة عادةً حول مراجعة المحتوى ومنع الضرر، وليس حول التهرب العدائي أثناء التحليل الفني للبرمجيات الخبيثة. عندما تتصادم هاتان الهدفان، يجد المهاجمون ثغرة.

لماذا يهم هذا لتحليل الأمان المدعوم بالذكاء الاصطناعي

تبنت فرق الأمن بسرعة أدوات الذكاء الاصطناعي للمساعدة في فرز الحجم الهائل من الملفات المشبوهة ومحاولات التصيد والسكربتات التي يواجهونها يوميًا. تعد هذه الأدوات بفرز أسرع ويمكنها تحديد أنماط قد يفوتها المحللون البشريون. لكن هذا الحادث يذكّرنا بأن أنظمة الذكاء الاصطناعي المستخدمة في سير العمل الأمني تحمل سطح هجوم خاصًا بها، وهو أمر لم تكن طرق اكتشاف البرمجيات الخبيثة التقليدية مصممة لتوقعه.

إذا كان من الممكن التلاعب بنموذج الذكاء الاصطناعي لتخطي التحليل أو تخفيفه لمجرد أن الملف يحتوي على كلمات تحفيزية معينة، فهذه نقطة عمياء كبيرة. كما يثير أسئلة حول مدى اعتماد المؤسسات على التحليل المدعوم بالذكاء الاصطناعي دون إشراف بشري، خاصةً للقرارات عالية المخاطر مثل ما إذا كان الملف آمنًا للفتح أو التنفيذ.

هذا النوع من التقنيات يتناسب مع نمط أوسع من المهاجمين الذين يكيّفون أساليبهم مع من يقوم بالدفاع، سواء كان شخصًا أو شيئًا آخر. تمامًا كما حوّل مشغلو برامج الفدية أهداف هندستهم الاجتماعية نحو المديرين في منتصف مسيرتهم المهنية بدلاً من المديرين التنفيذيين، يقوم مؤلفو البرمجيات الخبيثة الآن بتخصيص تقنيات التهرب الخاصة بهم للأنظمة المحددة، بما في ذلك نماذج الذكاء الاصطناعي، التي تقف بينهم وبين أهدافهم.

ماذا يعني هذا بالنسبة لك

بالنسبة لمعظم المستخدمين الأفراد، تستهدف هذه التقنية تحديدًا البنية التحتية الأمنية للمؤسسات بدلاً من الأجهزة الشخصية مباشرةً. من غير المرجح أن تواجه خدعة سكربت VBS هذه على جهازك الشخصي بطريقة تؤثر على تصفحك اليومي أو عادات بريدك الإلكتروني. لكن الدرس الأساسي ينطبق على نطاق واسع: الأدوات الآلية، سواء كانت ماسحات برمجيات خبيثة قائمة على الذكاء الاصطناعي أو مرشحات البريد العشوائي أو برامج مكافحة الفيروسات، ليست معصومة من الخطأ، والمهاجمون يبحثون بنشاط عن طرق لاستغلال نقاطها العمياء.

إذا كان مكان عملك يستخدم أدوات أمنية مدعومة بالذكاء الاصطناعي، فهذه لحظة مناسبة للسؤال عن كيفية التحقق من صحة تلك الأدوات وما إذا كان المحللون البشريون ما يزالون يراجعون الملفات المُبلَّغ عنها أو غير المُبلَّغ عنها. بالنسبة للأفراد، الخلاصة أكثر عمومية: لا تفترض أنه لمجرد أن ملفًا لم يتم الإبلاغ عنه بواسطة ماسح آلي، فهو آمن تلقائيًا. الدفاعات المتعددة الطبقات، والتشكك تجاه السكربتات أو المرفقات غير المتوقعة، والنظافة الأمنية الأساسية تظل مهمة كما كانت دائمًا.

خلاصات قابلة للتنفيذ

  • تجنب فتح ملفات VBS غير المرغوب فيها أو السكربتات أو المستندات الممكّنة بوحدات الماكرو، بغض النظر عن مسح آلي مسحها.
  • إذا كنت تدير أدوات أمنية في العمل، اسأل عما إذا كان تحليل البرمجيات الخبيثة المدعوم بالذكاء الاصطناعي يشمل مراجعة بشرية احتياطية للملفات التي تثير حالات رفض أو عمليات فحص غير مكتملة.
  • حافظ على طبقات الكشف التقليدية، مثل مكافحة الفيروسات القائمة على التوقيعات ومراقبة الشبكة، إلى جانب أدوات الذكاء الاصطناعي الأحدث بدلاً من استبدالها بالكامل.
  • ابقَ على اطلاع حول كيفية تكيف المهاجمين مع الدفاعات مدفوعة بالذكاء الاصطناعي، لأن تقنيات مثل هذه من المرجح أن تتطور بدلاً من أن تختفي.

مع ازدياد اندماج الذكاء الاصطناعي في سير عمل الأمن السيبراني، تُظهر حوادث مثل هذه أن ضمانات السلامة المصممة للحفاظ على أمان أنظمة الذكاء الاصطناعي يمكن أن تصبح أيضًا هدفًا في حد ذاتها. البقاء على اطلاع على هذه التكتيكات الناشئة، والحفاظ على دفاعات متعددة الطبقات مع مراجعة بشرية، يظل أفضل طريقة للبقاء في صدارة المهاجمين الذين يبحثون باستمرار عن نقاط ضعف جديدة لاستغلالها.