OpenAI تحذر من خطر الهجمات السيبرانية الذاتية في نموذج Astra
كشفت OpenAI أن نموذجها القادم للذكاء الاصطناعي، والمعروف داخليًا باسم Astra، قد يصل إلى عتبة خطر الأمن السيبراني "الحرجة" وفقًا لإطار السلامة الخاص بالشركة. يأتي هذا الكشف، الذي نشرته SecurityWeek أولاً، متمركزًا حول مخاوف من أن النموذج قد يكون قادرًا على سلوك هجوم سيبراني ذاتي، مما يعني أنه يمكن أن يخطط أو ينفذ أو يساعد في أنشطة الاختراق بأقل قدر من التوجيه البشري.
هذه لحظة جديرة بالملاحظة لأنها تأتي مباشرة من OpenAI نفسها، وليس من باحث خارجي أو مجموعة رقابية. تستخدم الشركات التي تبني أنظمة ذكاء اصطناعي متطورة عادةً مستويات مخاطر داخلية لتقرر كيف يمكن إطلاق النموذج، وما هي تدابير الحماية المطلوبة، وما إذا كانت هناك حاجة لاختبارات إضافية قبل أن يتمكن الجمهور من الوصول إليه. يشير تصنيف "حرج" لمخاطر الأمن السيبراني إلى أن مقيمي OpenAI أنفسهم يرون احتمالًا حقيقيًا لإساءة استخدام Astra في عمليات اختراق هجومية إذا لم يتم التحكم فيه بعناية.
لماذا تعتبر عتبة "حرجة" مهمة
بالنسبة لمعظم تحديثات الذكاء الاصطناعي، تكون الاختلافات بين إصدارات النماذج تدريجية: استجابات أسرع، كتابة أفضل، استدلال محسّن. أما تصنيف مخاطر الأمن السيبراني فهو مختلف. إنه يشير إلى أن قدرات النموذج قد تجاوزت منطقة تعتقد الشركة فيها أن التقنية نفسها، وليس فقط كيفية اختيار شخص ما لاستخدامها، يمكن أن تمكن من إلحاق الضرر على نطاق واسع.
تعتبر قدرة الهجوم السيبراني الذاتي ذات أهمية خاصة لأنها تزيل عاملًا مقيدًا رئيسيًا في الاختراق التقليدي: وقت الإنسان ومهارته. فنموذج يمكنه تحديد الثغرات بشكل مستقل، أو كتابة كود استغلال، أو ربط خطوات الهجوم معًا دون إشراف مستمر يمكن، نظريًا، أن يسمح لمهاجمين أقل مهارة بشن هجمات أكثر تعقيدًا، أو يسمح لمهاجمين مهرة بشن عدد أكبر بكثير من الهجمات في وقت واحد. هذا التأثير المضاعف هو بالضبط ما يقلق باحثي السلامة عندما يتحدثون عن عتبات "حرجة" لأنظمة الذكاء الاصطناعي.
من المفيد أن نكون واضحين بشأن ما نعرفه وما لا نعرفه هنا. تؤكد التقارير المتاحة أن OpenAI وضعت علامة على هذا الخطر داخليًا لـ Astra، لكنها لا تفصّل القدرات التقنية المحددة التي أدت إلى هذا التصنيف، ولا تحدد تاريخ إطلاق أو ما هي إجراءات التخفيف التي تخطط OpenAI لتنفيذها. ما يهم القراء الآن هو الاتجاه الأوسع الذي يندرج فيه هذا: يتم تقييم نماذج الذكاء الاصطناعي بشكل متزايد، وفي بعض الحالات تقييدها، تحديدًا بسبب قدرتها على أتمتة الاختراق الهجومي.
نمط يتجاوز OpenAI
Astra ليست حالة معزولة. فقد اضطرت شركات ذكاء اصطناعي أخرى بالفعل للتعامل مع أدلة واقعية على استخدام نماذجها كأسلحة في هجمات سيبرانية. فقد أكدت Anthropic، الشركة التي تقف وراء نماذج Claude، مؤخرًا أنها كانت تحقق في ثلاث حوادث مرتبطة بالاختراق تم اكتشافها خلال مراجعة 141,000 محادثة، مما يظهر أن سوء الاستخدام ليس نظريًا، إنه يحدث بالفعل في أنظمة الإنتاج.
بشكل منفصل، وثق باحثون أمنيون حالة حيث قام ممثل تهديد بتحويل DeepSeek إلى أداة هجوم آلية إلى حد كبير، ويقال إنها أصابت أكثر من 460 هدفًا بأقل تدخل يدوي. وبجمع هذه الحوادث مع إفصاح OpenAI عن Astra، تشير إلى أن الاختراق الذاتي القائم على الذكاء الاصطناعي ينتقل من خطر افتراضي إلى نمط موثق عبر منصات ذكاء اصطناعي رئيسية متعددة.
ماذا يعني هذا بالنسبة لك
بالنسبة لمستخدمي الإنترنت العاديين، فإن تداعيات الخصوصية لنموذج ذكاء اصطناعي يمكنه شن هجمات سيبرانية بإشراف بشري أقل كبيرة. يمكن استخدام أدوات الهجوم الذاتية أو شبه الذاتية لمسح البيانات الشخصية المكشوفة، أو أتمتة حملات التصيد الاحتيالي، أو فحص الحسابات والأجهزة بحثًا عن نقاط ضعف أسرع مما يستطيع المدافعون الاستجابة. حتى لو لم يُساء استخدام Astra نفسه بهذه الطريقة أبدًا، فإن القدرة الأساسية، بمجرد وجودها في نموذج واحد، تميل إلى الظهور في نماذج أخرى مع نضوج التقنية.
هذا لا يعني أن الذعر مبرر. إنه يعني أن أساسيات الأمان الشخصي تصبح أكثر أهمية، وليس أقل، مع تقدم هذه الأدوات: كلمات مرور قوية وفريدة، ومصادقة متعددة العوامل، والتعامل الحذر مع الروابط والمرفقات، والحفاظ على تحديث البرامج. لا يزال المهاجمون الذين يستخدمون الذكاء الاصطناعي لتوسيع نطاق عملياتهم يعتمدون على نفس نقاط الضعف التي اعتمدوا عليها دائمًا: بيانات اعتماد مُعاد استخدامها، وأنظمة غير مُصححة، وخطأ بشري.
البقاء متقدمًا على المنحنى
قرار OpenAI بوضع علامة على مخاطر الأمن السيبراني لـ Astra داخليًا هو، بشكل ما، علامة على أن النظام يعمل كما هو مقصود: الشركة تحدد مصدر قلق قبل الإطلاق الواسع بدلاً من بعد وقوع حادثة. لكنه يؤكد أيضًا أن قدرة الهجوم السيبراني الذاتي لم تعد مصدر قلق بعيد لمختبرات الذكاء الاصطناعي، بل أصبحت اعتبارًا نشطًا يشكل كيفية بناء النماذج الجديدة وإطلاقها.
مع مواجهة المزيد من الشركات لتصنيفات مخاطر مماثلة، يجب على القراء توقع استمرار التدقيق في كيفية اختبار نماذج الذكاء الاصطناعي ونشرها. في غضون ذلك، يظل التعامل مع أساسيات الأمن السيبراني الشخصي كأولوية، وليس كفكرة لاحقة، الطريقة الأكثر موثوقية للبقاء محميًا مع استمرار تطور قدرات الذكاء الاصطناعي، والمخاطر التي تأتي معها.
