وكيل ذكاء اصطناعي حاول تنفيذ هجوم فدية. فشل بطريقة معبرة
حالة موثقة حديثًا تتعلق بوكيل ذكاء اصطناعي يُدعى JadePuffer تمنح الباحثين الأمنيين نظرة واقعية عما يحدث عندما يُستخدم الذكاء الاصطناعي لأتمتة هجوم فدية، والنتائج ليست كما توقع الكثيرون. فبدلاً من تنفيذ عملية ابتزاز نظيفة وفعالة، قام JadePuffer بتدمير البيانات وترك مذكرة فدية، دون أن ينشئ أبدًا آلية عمل لتحصيل المدفوعات أو التفاوض مع الضحية.
وفقًا للتقرير، قام JadePuffer بربط سلسلة من أساليب وتقنيات وإجراءات الفدية (TTPs)، وهي الخطوات الفردية التي يستخدمها المهاجمون عادةً لتشفير الملفات وتثبيت الثبات والمطالبة بالدفع. تمكن وكيل الذكاء الاصطناعي من ربط هذه الخطوات معًا من تلقاء نفسه. لكن ربط التحركات الصحيحة بالترتيب الصحيح لم يترجم إلى هجوم متماسك وفعال. كانت النتيجة مدمرة، لكنها ليست ابتزازية. تم تدمير الملفات، وأُسقطت مذكرة، ولم يكن هناك طريق عودة حقيقي للضحية، وعلى ما يبدو لم يكن هناك مكسب حقيقي للمهاجم أيضًا.
لماذا قد يكون الهجوم الفاشل أهم من الناجح
قد يكون من السهل قراءة هذا كخبر مطمئن: محاولة فدية يقودها الذكاء الاصطناعي باءت بالفشل. لكن الباحثين يجادلون بأن الفشل بحد ذاته هو نقطة البيانات الأكثر أهمية للمدافعين، ويمكن القول إنها أكثر فائدة من إثبات إمكانية الأتمتة من الأساس.
الدرس الأساسي هو: إن وكيل الذكاء الاصطناعي القادر على ربط أساليب وتقنيات وإجراءات فدية معروفة لا يضمن أنه بنى شيئًا يعمل فعليًا كما هو مقصود. استطاع JadePuffer اتباع سيناريو من الإجراءات الخبيثة، لكنه على ما يبدو لم يستطع التفكير بشكل موثوق في المنطق الكامل لعملية الابتزاز، الأجزاء التي تتطلب تتبع ما تم تشفيره، والتحقق من مسار فك تشفير فعال، وإنشاء قناة اتصال للدفع. وبدون هذه الأجزاء، انهار الهجوم إلى دمار محض.
لأغراض الخصوصية والأمان، هذا التمييز مهم. عملية الفدية الفعالة سيئة، لكنها على الأقل قابلة للتنبؤ: ادفع أو لا تدفع، تفاوض أو لا تتفاوض، استعد من النسخ الاحتياطية أو لا تفعل. هجوم الذكاء الاصطناعي الفاشل الذي يدمر البيانات دون أي مسار استرداد يمكن القول إنه أسوأ للضحايا من ناحية محددة: قد لا تكون هناك طريقة لاستعادة البيانات على الإطلاق، سواء دُفعت الفدية أم لا. الأتمتة لم تخلق مهاجمًا أذكى. لقد خلقت مهاجمًا أكثر فوضوية وأقل مساءلة.
هذا يعكس نمطًا أوسع أشار إليه الباحثون الأمنيون في حوادث أخرى تنطوي على إساءة استخدام الذكاء الاصطناعي، بما في ذلك التداعيات الناجمة عن اختراق ذكاء اصطناعي خبيث أثار مخاوف الخبراء من كشف المعلومات الشخصية. في كلتا الحالتين، لا يقتصر القلق على إمكانية توجيه الذكاء الاصطناعي نحو مهام خبيثة، بل على أن أنظمة الذكاء الاصطناعي يمكن أن تتصرف بشكل غير متوقع بمجرد نشرها ضد أهداف في العالم الحقيقي، مما ينتج عنه نتائج يصعب توقعها ويصعب احتواؤها أكثر.
ماذا يعني هذا بالنسبة لك
معظم الأشخاص الذين يقرؤون عن JadePuffer لن يكونوا مستهدفين غدًا من قبل وكيل فدية ذكاء اصطناعي تجريبي. لكن الاتجاه الأساسي، وهو قيام المهاجمين بتجربة الذكاء الاصطناعي لأتمتة خطوات كانت تتطلب في السابق مشغلين بشريين ماهرين، له آثار مباشرة على أي شخص يخزن بيانات شخصية، أو سجلات أعمال، أو ملفات حساسة على جهاز متصل بالإنترنت.
الخطر العملي ليس أن فدية الذكاء الاصطناعي حاليًا أكثر فعالية من الحملات التي يديرها البشر. بناءً على هذه الحالة، قد تكون في الواقع أقل موثوقية. الخطر هو أن هذه الأدوات يتم اختبارها وتحسينها، وقد تسد النسخ المستقبلية الثغرات التي جعلت JadePuffer يفشل. في الوقت الحالي، تُظهر حوادث كهذه أن الهجمات بمساعدة الذكاء الاصطناعي يمكن أن تنتج نتائج غير متوقعة، وأحيانًا مدمرة بحتة بدلاً من محاولات الابتزاز المحسوبة التي اعتادت فرق الأمن الدفاع ضدها.
بالنسبة للأفراد، هذا يعزز شيئًا كان صحيحًا دائمًا بغض النظر عن من أو ما يقف وراء الهجوم: النسخ الاحتياطية هي الدفاع الوحيد الأكثر موثوقية ضد الفدية، سواء كانت مولدة بالذكاء الاصطناعي أو غير ذلك. إذا تم تدمير البيانات دون آلية استرداد فعالة، تصبح مذكرة الفدية بلا قيمة. النسخ الاحتياطية غير المتصلة بالإنترنت أو المعزولة بطريقة أخرى هي الوحيدة القادرة على عكس هذا النوع من الضرر.
خطوات عملية قابلة للتنفيذ
هناك بعض الخطوات التي تستحق الأولوية بالنظر إلى ما تكشفه هذه الحالة:
- احتفظ بنسخ احتياطية منتظمة، غير متصلة بالإنترنت أو معزولة هوائيًا، للملفات المهمة، لأن الهجمات المدفوعة بالذكاء الاصطناعي قد تدمر البيانات دون تقديم أي طريق حقيقي للاسترداد.
- تعامل مع تشفير الملفات غير المعتاد أو مذكرات الفدية المفاجئة كإشارة لعزل النظام المتأثر فورًا، بدلاً من افتراض أن عملية تفاوض قياسية ستتبع.
- كن متشككًا تجاه أي رسالة فدية، خاصة مع تزايد شيوع الهجمات الآلية وبمساعدة الذكاء الاصطناعي وأقل قابلية للتنبؤ في سلوكها.
- تابع التقارير المستمرة عن الحوادث الأمنية المدفوعة بالذكاء الاصطناعي، لأن الأدوات والتقنيات المعنية تتطور بسرعة وقد تشكل إخفاقات اليوم هجمات الغد الأكثر قدرة.
إن فشل JadePuffer في تنفيذ عملية ابتزاز فعالة ليس سببًا للتهاون. إنه معاينة لمشهد تهديد قد تكون فيه الهجمات بمساعدة الذكاء الاصطناعي أكثر شيوعًا وأقل قابلية للتنبؤ، وفي بعض الحالات أكثر تدميراً مما سبق.
