اختراق متصفح الذكاء الاصطناعي بنقرة صفرية يضرب كلود وأطلس ChatGPT

كشف باحثو الأمن في زينيتي عن تقنيتين لاختراق متصفحات الذكاء الاصطناعي بنقرة صفرية قادرتين على اختطاف ملحق كلود من أنثروبك في كروم ومتصفح أطلس ChatGPT من أوبن إيه آي. على عكس هجمات التصيد التقليدية التي تتطلب من المستخدم النقر على رابط خبيث أو فتح مرفق، تعمل هذه الأساليب - بحسب التقارير - بمجرد أن يقرأ وكيل الذكاء الاصطناعي بريداً إلكترونياً مُصمماً خصيصاً أو منشوراً على منصة X، دون الحاجة إلى أي تفاعل من المستخدم باستثناء قيام الذكاء الاصطناعي بما صُمم من أجله: تصفح المحتوى نيابة عنك.

هذا الفارق مهم. إذ ينقل اختراق متصفح الذكاء الاصطناعي بنقرة صفرية سطح الهجوم من المستخدم البشري إلى وكيل الذكاء الاصطناعي نفسه. فإذا مُنح المساعد صلاحية قراءة صندوق بريدك، أو تلخيص صفحات الويب، أو اتخاذ إجراءات داخل جلسة متصفح، يصبح أي محتوى يصادفه وسيلة محتملة لإيصال تعليمات مخفية. يُظهر بحث زينيتي، كما نقله موقع SecurityWeek، أن كلاً من كلود في كروم وأطلس ChatGPT كانا عرضة لهذا النوع من التلاعب.

كيف تعمل الهجمات المبلغ عنها

صُممت ملحقات متصفح الذكاء الاصطناعي والمتصفحات الوكيلة مثل أطلس لقراءة المحتوى وتفسيره والتصرف بناءً عليه عبر الويب، بما في ذلك رسائل البريد الإلكتروني والمنشورات الاجتماعية والنصوص المضمّنة في الصفحات. هذه الوظيفة هي جوهر قيمة هذه الأدوات، لكنها تعني أيضاً أن الذكاء الاصطناعي لا يستطيع دوماً التمييز بين تعليمة شرعية من مستخدمه وأخرى مخفية مدفونة داخل صفحة ويب أو بريد إلكتروني أو منشور على وسائل التواصل الاجتماعي يصادف معالجته.

يُطلق على هذه الفئة من الثغرات عادةً اسم "حقن التوجيهات" (prompt injection). حيث يصمم المهاجم محتوىً يبدو غير ضار للقارئ البشري لكنه يحتوي على نصوص صُممت خصيصاً ليتم تفسيرها كأوامر من قِبل نموذج الذكاء الاصطناعي. وعندما يعالج متصفح الذكاء الاصطناعي أو الملحق هذا المحتوى كجزء من مهمة روتينية (تلخيص سلسلة رسائل بريد إلكتروني، أو فحص موقع ويب، أو تصفح خط زمني)، يمكن خداعه لتنفيذ تعليمات لم يوافق عليها المستخدم قط.

بحسب التقارير، فإن نتائج زينيتي تتجاوز مجرد ثغرتين معزولتين. فالشركة تفحص مجموعة أوسع من نقاط الضعف في متصفحات الذكاء الاصطناعي، ويضاف عملها إلى مجموعة متنامية من الأبحاث تُظهر أن أدوات التصفح الوكيلة، التي ما تزال جديدة في السوق، تخضع للتدقيق بحثاً عن ثغرات أمنية قبل أن تنضج دفاعاتها بالكامل. ويعكس هذا نمطاً شوهد في أماكن أخرى من أمن البرمجيات، حيث تُستغل ثغرات اليوم صفر في منصات موثوقة قبل أن تتمكن التصحيحات من اللحاق بها، كما حدث في حالة قراصنة مدعومين من الدولة الروسية يستغلون ثغرة يوم صفري في زيمبرا لاستهداف حسابات بريد إلكتروني مرتبطة بحلف الناتو.

لماذا يهم هذا الخصوصية

تُسوّق مساعدات متصفح الذكاء الاصطناعي كأدوات إنتاجية: تقرأ بريدك الإلكتروني، وتلخص ألسنة تبويبك، بل ويمكنها اتخاذ إجراءات مثل ملء النماذج أو التنقل في المواقع نيابة عنك. وهذا المستوى من الصلاحيات هو بالضبط ما يجعل اختراق متصفح الذكاء الاصطناعي بنقرة صفرية مقلقاً جداً من منظور الخصوصية. فإذا تمكن المهاجم من اختطاف عملية اتخاذ القرار لدى الذكاء الاصطناعي عبر محتوى يصادفه فحسب، فإنه يحتمل أن يحصل على موطئ قدم في كل ما يملك الذكاء الاصطناعي صلاحية رؤيته أو فعله، دون الحاجة أبداً إلى أن ينقر الضحية على أي شيء.

هذا نموذج تهديد مختلف جوهرياً عن هجمات سرقة بيانات الاعتماد أو إيصال البرمجيات الخبيثة التي اعتاد معظم الناس الحماية منها. فهو لا يعتمد على خداع الشخص؛ بل يعتمد على خداع البرنامج الذي يتصرف نيابة عن ذلك الشخص. وقد تجلّت ديناميكيات مماثلة في سياقات أخرى حين يصبح برنامج محلي موثوق هدفاً، كما حدث عندما حُوِّلت أداة أمان مصرفية كورية شرعية إلى موجه هجمات عبر استغلال ثغرة يوم صفري. القاسم المشترك: الأدوات المصممة لمساعدة المستخدمين يمكن للمهاجمين إعادة توظيفها حين لا تكون حدود الثقة محكمة الإغلاق.

ما يعنيه هذا بالنسبة لك

إذا كنت تستخدم ملحقات متصفح ذكاء اصطناعي أو أدوات تصفح وكيلة مثل كلود في كروم أو أطلس ChatGPT، فإن هذا الكشف هو تذكير بالتفكير ملياً في الصلاحيات التي تمنحها لها. هذه الأدوات قوية تحديداً لأنها تستطيع القراءة والتصرف بناءً على المحتوى تلقائياً، لكن هذه الأتمتة نفسها تزيل طبقة من الحكم البشري كانت تشكل رادعاً طبيعياً ضد التلاعب.

في الوقت الحالي، يتمثل الرد العملي في الحذر لا الذعر. قلّص نطاق الصلاحيات التي تمنحها لوكلاء متصفح الذكاء الاصطناعي، خاصة للحسابات الحساسة مثل البريد الإلكتروني أو المنصات المالية. أبقِ هذه الملحقات والمتصفحات محدثة، إذ يقوم البائعون عادة بإصدار تصحيحات للثغرات التي يُكشف عنها بعد أن يبلغهم الباحثون بها بشكل مسؤول. وانتبه إلى أن المحتوى القادم من مرسلين أو حسابات غير مألوفة، حتى لو بدا نصاً عادياً، قد يكون مصمماً لعيون الذكاء الاصطناعي لا لعينيك أنت.

أهم النقاط المستخلصة

  • يتيح اختراق متصفح الذكاء الاصطناعي بنقرة صفرية للمهاجمين اختطاف وكلاء ذكاء اصطناعي مثل كلود في كروم وأطلس ChatGPT دون أي نقرة من المستخدم، وذلك ببساطة عبر رسائل بريد إلكتروني أو منشورات اجتماعية مصممة خصيصاً.
  • تستغل هذه التقنية كيفية معالجة وكلاء الذكاء الاصطناعي للمحتوى وتصرفهم بناءً عليه، وهي فئة من الثغرات تُعرف بحقن التوجيهات (prompt injection).
  • راجع وقيّد الصلاحيات التي تمنحها لمساعدات متصفح الذكاء الاصطناعي، لا سيما فيما يتعلق بالبريد الإلكتروني والوصول إلى الحسابات.
  • أبقِ أدوات متصفح الذكاء الاصطناعي محدثة وتابع تصحيحات البائعين الأمنية في أعقاب هذا الكشف.
  • تعامل مع وكلاء الذكاء الاصطناعي باعتبارهم جزءاً آخر من سطح الهجوم لديك، لا مجرد ميزة راحة، عند تقييم وضع خصوصيتك الشخصي أو المؤسسي.