وكيل ذكاء اصطناعي يُزعم أنه نفذ العملية بأكملها
Hugging Face، المنصة واسعة الاستخدام لاستضافة نماذج ومجموعات بيانات التعلم الآلي، كشفت عن حادث أمني بتفصيل يميزه عن تقارير الاختراق النموذجية: تقول الشركة إن الاختراق في بنيتها التحتية للإنتاج كان مدفوعًا، من البداية إلى النهاية، بواسطة وكيل ذكاء اصطناعي ذاتي التشغيل. بدلاً من مهاجم بشري يستخدم أدوات آلية في مراحل مختلفة، تصف Hugging Face سيناريو حيث قام نظام ذكاء اصطناعي بالتخطيط للهجوم وتنفيذه إلى حد كبير بمفرده، من الوصول الأولي إلى الاختراق الأعمق للأنظمة الداخلية.
يهمنا هذا لأنه أحد أولى الحالات الموثقة علنًا حيث يبدو أن وكيل ذكاء اصطناعي نفذ هجومًا إلكترونيًا من البداية إلى النهاية، بدلاً من مجرد مساعدة مشغل بشري في مهمة ضيقة مثل كتابة رسائل تصيد احتيالي أو فحص المنافذ المفتوحة. كان التمييز بين الهجمات بمساعدة الذكاء الاصطناعي والهجمات المدفوعة بالذكاء الاصطناعي نظريًا إلى حد كبير في أوساط الأمن. يشير كشف Hugging Face إلى أن هذا الخط بدأ يتلاشى في الممارسة العملية.
كيف تطور الاختراق المبلغ عنه
وفقًا للتفاصيل التي ظهرت حول الحادث، تم إخفاء كود خبيث داخل مجموعة بيانات تم تحميلها إلى المنصة. عند معالجتها، استغل هذا الكود نقاط ضعف في أنظمة Hugging Face لرفع الصلاحيات، مما منح وكيل الذكاء الاصطناعي للمهاجم وصولاً أوسع مما كان ينبغي أن يكون لديه. من هناك، انتقل الوكيل عبر البنية التحتية الداخلية، وصولاً في النهاية إلى بيانات اعتماد الخدمة ومجموعات البيانات الداخلية.
تقول Hugging Face إن الاختراق تم اكتشافه بواسطة أدواتها الأمنية الخاصة المدعومة بالذكاء الاصطناعي، والتي رصدت أنماطًا غير عادية في بيانات القياس عن بُعد الأمنية قبل أن يتصاعد الموقف أكثر. فعليًا، تم استخدام نظام ذكاء اصطناعي واحد لاختراق دفاعات الشركة بينما ساعد نظام ذكاء اصطناعي آخر في اكتشافه. هذا التناظر من المرجح أن يصبح موضوعًا متكررًا في مناقشات الأمن السيبراني مستقبلاً، حيث يعتمد المهاجمون والمدافعون بشكل متزايد على أدوات آلية ومتكيفة.
لماذا يثير هذا تساؤلات خصوصية جديدة
بالنسبة لمنصة مثل Hugging Face، تتجاوز المخاطر الاختراق المؤسسي النموذجي. تستضيف الخدمة نماذج ومجموعات بيانات يستخدمها الباحثون والشركات الناشئة والمطورون الأفراد حول العالم، وكثير منهم يرفعون بيانات تتضمن معلومات شخصية أو مملوكة أو حساسة لأغراض التدريب والاختبار. إذا تم كشف مجموعات البيانات الداخلية وبيانات الاعتماد، كما تشير التقارير عن هذا الحادث، فإن تأثير الخصوصية اللاحق قد يمتد إلى ما هو أبعد من بنية Hugging Face التحتية ويطال المشاريع والمنظمات التي تعتمد عليها.
هناك أيضًا قلق هيكلي هنا يتجاوز هذا الحادث الفردي. عندما يتم تنفيذ الاختراق بواسطة وكيل ذاتي التشغيل بدلاً من شخص يعمل خطوة بخطوة، يمكنه التحرك بشكل أسرع والتكيف مع العقبات بطرق يصعب التنبؤ بها باستخدام نماذج التهديد التقليدية. قامت فرق الأمن تاريخيًا ببناء الدفاعات حول السلوك البشري المتوقع، مثل وتيرة الاستطلاع، التسلسل النموذجي لرفع الصلاحيات، والأنماط الشائعة للحركة الجانبية. لا يحتاج المهاجم المدفوع بالذكاء الاصطناعي إلى اتباع هذا الدليل، مما يعني أن أدوات الكشف تحتاج إلى التطور بنفس السرعة.
هذا جزء من سبب أهمية التحقق المستقل من ممارسات الأمن لأي منصة تتعامل مع كميات كبيرة من بيانات المستخدم. تمامًا كما واجه مزودو VPN تدقيقًا حول مدى تأكيد وضعهم الأمني بشكل مستقل بدلاً من مجرد الادعاء، كما غطينا في نظرتنا على تدقيقات أمن VPN المستقلة، من المرجح أن تواجه منصات البنية التحتية للذكاء الاصطناعي ضغطًا مماثلاً لنشر تقييمات أمنية شفافة ومحققة من طرف ثالث بدلاً من الاعتماد فقط على أنظمة الكشف الداخلية.
ماذا يعني هذا بالنسبة لك
إذا كنت تستخدم Hugging Face لاستضافة أو تنزيل أو تحسين النماذج ومجموعات البيانات، فإن هذا الحادث هو تذكير بمراجعة بيانات الاعتماد والبيانات التي ربطتها بالمنصة، وتدوير أي مفاتيح API أو رموز مرتبطة بالمشاريع المستضافة هناك. تعامل مع مجموعات البيانات المرفوعة من مصادر غير مألوفة بنفس الحذر الذي تطبقه على أي ملف قابل للتنفيذ، حيث أن الكود الخبيث المضمن في مجموعة بيانات كان محوريًا في كيفية بدء هذا الهجوم على ما يبدو.
على نطاق أوسع، هذه الحلقة إشارة إلى أن التهديدات المدفوعة بالذكاء الاصطناعي لم تعد افتراضية بحتة. بينما تتناقش الحكومات حول مدى الرؤية التي يجب أن تتمتع بها سلطات إنفاذ القانون في الاتصالات والأنظمة الخاصة، ويتجسد ذلك في المعارك المستمرة حول تشريعات مثل تلك المفصلة في تغطيتنا لـ مشروع القانون C-22 والاتصالات المشفرة، فإن حوادث كهذه تزيد المحادثة تعقيدًا. إضعاف التشفير أو بناء أبواب خلفية لأغراض الرقابة، وهو قلق دفع بالفعل بعض المزودين للرد كما رأينا عندما هددت NordVPN بالخروج من كندا بسبب مشروع القانون C-22، من شأنه فقط أن يخلق المزيد من نقاط الدخول ليستغلها المهاجمون الذاتيون، لا أقل.
خلاصات قابلة للتنفيذ
قم بتدقيق أي حسابات أو رموز أو مفاتيح API متصلة بـ Hugging Face أو منصات ذكاء اصطناعي مماثلة، وقم بتدوير بيانات الاعتماد كإجراء احترازي. دقق في مجموعات البيانات من الطرف الثالث قبل دمجها في خطوط أنابيبك الخاصة، وفضل المصادر ذات الأصل الواضح. تابع الإفصاحات الرسمية عن الحوادث مباشرة من المزودين بدلاً من الاعتماد على ملخصات غير مباشرة، لأن التفاصيل التقنية في الاختراقات المدفوعة بالذكاء الاصطناعي تتطور بسرعة. أخيرًا، راقب كيف تستجيب المنصات هيكليًا، وليس فقط بشكل تفاعلي، حيث أن هجومًا إلكترونيًا بواسطة وكيل ذكاء اصطناعي مثل هذا يشير إلى أن الدفاعات المبنية فقط حول سلوك المهاجم البشري لم تعد كافية بمفردها.
