نماذج الذكاء الاصطناعي المتطورة لم تستطع إيقاف المهاجمين

ظهر تقرير يوضح كيفية تعامل Hugging Face مع وكلاء الذكاء الاصطناعي الخبيثين، إلى جانب اكتشاف آخر لا يقل أهمية من باحثي الأمن في Sysdig: لم تعد نماذج اللغة الكبيرة مجرد أدوات يستخدمها المهاجمون لكتابة رسائل التصيد أو تعليمات البرمجيات الخبيثة. أصبحت الآن قادرة على تنفيذ هجمات إلكترونية كاملة بمفردها، من البداية إلى النهاية.

وفقًا للتقارير المتعلقة بحادثة Hugging Face، فإن نماذج اللغة الكبيرة المتطورة المتاحة تجاريًا لم تتمكن من مساعدة الشركة في صد ما يصفه التقرير بـ"وكلاء أشرار"، وهي أنظمة ذكاء اصطناعي يستخدمها المهاجمون على ما يبدو لاستكشاف المنصة أو استغلالها. لا توضح التقارير المتاحة بالضبط كيف جرت المواجهة أو لماذا عجزت النماذج المتطورة، لكن النتيجة الرئيسية في حد ذاتها كبيرة: حتى أكثر نماذج الذكاء الاصطناعي عمومية وقدرة في السوق لم تكن كافية لمواجهة تهديد يعتمد على الذكاء الاصطناعي.

Sysdig توثق هجوم فدية يديره الذكاء الاصطناعي

بشكل منفصل، وفي وقت سابق من الشهر نفسه، وثق صائدو التهديدات في Sysdig ما وصفوه بأنه أول إصابة ببرمجيات فدية قائمة على وكيل ذكي بالكامل مسجلة، مما يعني أن نموذج لغة كبيرًا، وليس مشغلًا بشريًا، هو من أدار عملية الابتزاز بأكملها من البداية إلى النهاية. وفقًا لنتائج Sysdig، قام الوكيل الذكي بإدارة سلسلة الهجوم الكاملة بنفسه: الحصول على الوصول الأولي إلى البيئة المستهدفة، والتحرك جانبيًا لاختراق خادم قاعدة بيانات إنتاجي، وفي النهاية تدمير البيانات على ذلك النظام.

هذه التفصيلة الأخيرة مهمة. عادةً ما تقوم برمجيات الفدية التقليدية بتشفير البيانات واحتجازها مقابل فدية، مع وعد ضمني بأن الدفع سيعيد ملفاتك. أما التدمير الصريح فيزيل هذه الحسابات بالكامل. إذا كان وكيل مستقل يتخذ قرارات فورية حول كيفية تصعيد الهجوم، فلا ضمان بأنه سيتصرف بشكل متوقع، أو أن الضحية سيكون لديها أي مسار للاسترداد على الإطلاق بمجرد حدوث الضرر.

لماذا تغير سلسلة الهجوم المدفوعة بالذكاء الاصطناعي نموذج التهديد

ما يميز هذا عن سنوات من الحديث عن الجرائم الإلكترونية بمساعدة الذكاء الاصطناعي هو كلمة "وكيلي". فقد أمضت فرق الأمن العامين الماضيين تتحدث عن مهاجمين يستخدمون الذكاء الاصطناعي التوليدي لكتابة طعوم تصيد أكثر إقناعًا أو تصحيح التعليمة البرمجية الخبيثة بشكل أسرع. ما تصفه Sysdig هو خطوة أبعد: نظام ذكاء اصطناعي يتخذ قراراته التسلسلية الخاصة حول كيفية اختراق الشبكة، ورفع الامتيازات، وتحديد البيانات القيمة، وتدميرها، إلى حد كبير دون توجيه بشري لكل حركة.

بالنسبة للمؤسسات، يغير هذا نموذج التهديد من ناحيتين. أولًا، قد تتكشف الهجمات الآن بسرعة الآلة، حيث يقوم الوكيل بالتكرار عبر تقنيات أسرع بكثير مما يستطيعه المشغل البشري. ثانيًا، لم يعد بوسع المدافعين افتراض أن وجود أنماط هجوم مألوفة يعني وجود إنسان خلف لوحة المفاتيح. قد تحتاج استراتيجيات الكشف والاستجابة المبنية على مؤشرات السلوك البشري إلى مراعاة خصم لا يتعب ولا يتردد ولا يتبع بالضرورة كتيبات اللعب التي تدرب عليها المدافعون.

ماذا يعني هذا بالنسبة لك

معظم قراء vpn.social لا يقومون بتشغيل خوادم قواعد بيانات إنتاجية، لكن الدرس الأساسي ينطبق على نطاق واسع. سواء كنت فردًا تدير حسابات شخصية أو مالك شركة صغيرة مسؤول عن بيانات العملاء، فإن ظهور الهجمات المدفوعة بالذكاء الاصطناعي يعني أن أساسيات حماية البيانات أصبحت أكثر أهمية من أي وقت مضى، وليس أقل.

يبدأ ذلك بافتراض أن أي نظام مكشوف أو ضعيف التأمين، سواء كان شخصيًا أو تابعًا لشركة، هو الآن هدف للاستطلاع والاستغلال الآليين، وليس فقط للمهاجمين البشريين الانتهازيين. لم تعد المراقبة المنتظمة للاختراقات، وبيانات الاعتماد القوية والفريدة، والمصادقة متعددة العوامل، والنسخ الاحتياطية غير المتصلة أو غير القابلة للتغيير مجرد إجراءات نظافة اختيارية؛ بل أصبحت خط الدفاع الأساسي ضد خصم يمكنه الآن الهجوم على مدار الساعة دون تعب. إذا تعرضت بياناتك يومًا لحادثة مثل تلك التي وصفتها Sysdig، فقد يتوقف الفرق بين اختراق قابل للاسترداد وفقدان دائم للبيانات على ما إذا كانت هناك نسخة احتياطية نظيفة في مكان لم يستطع المهاجم الوصول إليه.

خلاصات قابلة للتنفيذ

  • قم بنسخ البيانات الهامة احتياطيًا بانتظام، واحتفظ بنسخة واحدة على الأقل غير متصلة بالإنترنت أو معزولة عن شبكتك الرئيسية.
  • فعّل المصادقة متعددة العوامل في كل مكان تُتاح فيه، لأن الوكلاء الآليين سيبحثون عن المسار الأقل مقاومة.
  • تابع إشعارات اختراق البيانات المرتبطة بالخدمات التي تستخدمها، وتحرك بسرعة إذا ظهرت بيانات اعتمادك في حادثة معروفة.
  • تعامل مع أدوات الذكاء الاصطناعي، الهجومية والدفاعية، على أنها تتطور بسرعة. ما كان يعمل كإجراء حماية قبل ستة أشهر قد لا يصمد أمام وكيل مستقل اليوم.

مع تولي أنظمة الذكاء الاصطناعي أدوارًا أكثر استقلالية في الهجمات الإلكترونية، ستكون المؤسسات والأفراد الذين يكيّفون دفاعاتهم مبكرًا هم الأفضل تجهيزًا لمواجهة ما سيأتي بعد ذلك.