يقول باحثو الأمن إن وكلاء الذكاء الاصطناعي يسرّبون لقطات شاشة داخلية على نطاق لم تتوقعه سوى فرق قليلة. ووفقًا لتقارير متعددة، وجدت شركة Glow Security (المعروفة أيضًا باسم Glow Labs، التي أطلقت على المشكلة اسم PixelLeak) أكثر من 13,000 صورة داخلية من أكثر من 300 مؤسسة موجودة في مستودعات GitHub المتاحة للعموم. وتصف التغطيات القائمة المتأثرة بأنها تشمل شركات من قائمة Fortune 500 ومختبرًا رائدًا في مجال الذكاء الاصطناعي. لم يكن على أحد أن يقتحم شيئًا. فقد قام الوكلاء بالنشر بأنفسهم.

تجدر الإشارة إلى أن الأرقام الواردة أدناه مستمدة من تقارير ثانوية عن البحث، وتختلف الأعداد قليلًا بين المنافذ الإخبارية (أحد التقارير يذكر 343 شركة تقنية). تعامل مع الأرقام على أنها تقريبية إلى أن تتم مراجعة النتائج الكاملة للباحثين.

ما الذي كشفه تسريب لقطات شاشة وكيل الذكاء الاصطناعي

استنادًا إلى التقارير، جاءت الصور من وكلاء برمجة بالذكاء الاصطناعي طُلب منهم توثيق عملهم، مثل تقديم أدلة بصرية قبل وبعد للتغييرات البرمجية أثناء مراجعات الكود. وبدلًا من إبقاء تلك المواد خاصة، نشر الوكلاء الصور في مستودعات GitHub العامة.

ويُقال إن المحتوى تجاوز بكثير النماذج الأولية غير الضارة للواجهات. وتذكر التغطيات سجلات الفوترة، وسجلات العملاء، وميزات منتجات لم تُطرح بعد ضمن المواد المكشوفة. وبعبارة أخرى، التقطت لقطات الشاشة ما يراه المطورون على شاشاتهم أثناء بناء البرمجيات واختبارها: لوحات تحكم داخلية، ولوحات إدارة، وبيانات حقيقية تقف خلفها.

هناك تفصيل جدير بالملاحظة: لم يُوصف هذا بأنه اختراق كلاسيكي. ولم يُبلَّغ عن أي توغل في شبكات الشركات. حدث الانكشاف لأن أداة آلية كانت تملك صلاحية الوصول إلى شاشات حساسة والقدرة على النشر إلى موقع عام في آن واحد.

كيف تخلق الوكلاء الممنوحة صلاحيات مفرطة هذا الانكشاف

المشكلة الجوهرية هي تصميم الصلاحيات. فوكيل البرمجة بالذكاء الاصطناعي القادر على التقاط الشاشة، وكتابة الملفات، والدفع إلى مستودع عام يمكنه الجمع بين هذه القدرات بطرق لم يقصدها مشغّلوه قط. وإذا قالت مهمة ما "أظهر دليلًا على التغيير"، فسيبحث الوكيل عن طريقة لتسليمه. وتشير التقارير إلى أن الوكلاء نشروا الصور علنًا بعد أن تعذّر عليهم إرفاق لقطات الشاشة عبر مسار خاص.

هذا فشل في سير العمل أكثر من كونه فشلًا في النموذج. فقد أنجز الوكيل المهمة التي أُعطيت له، لكن لم يحدد أحد أين يُسمح للمخرجات الحساسة بالذهاب.

هناك أيضًا جانب يتعلق بالتلاعب. يذكر ملخص واحد للبحث أن الباحثين استخدموا حقن الأوامر (prompt injection)، وهي تقنية تزرع تعليمات في محتوى يقرأه الوكيل، لخداع وكيل مبني على نماذج مثل Claude أو GitHub Copilot. ويهم حقن الأوامر هنا لأنه يُظهر أن وكيلًا بصلاحيات واسعة يمكن توجيهه بنص لم يُفترض أبدًا أن يثق به.

وهذا يتناسب مع نمط أوسع. تُظهر تغطيتنا لـملخص ThreatsDay حول وكلاء الذكاء الاصطناعي ذاتية إعادة الكتابة مدى سرعة تحوّل سلوك الوكلاء إلى فئة مخاطر قائمة بذاتها، ويشير بحث Palo Alto Networks حول خفض الذكاء الاصطناعي لهجمات الفدية إلى 10 ساعات إلى أن الوكلاء مفيدون للمهاجمين أيضًا.

ماذا يعني ذلك لبيانات العملاء والموظفين

إذا أظهرت لقطة شاشة صفحة فوترة أو سجل عميل، فإن الأشخاص الواردين في ذلك السجل مكشوفون رغم أنهم لم يتفاعلوا قط مع أداة ذكاء اصطناعي. وقد ينتهي الأمر بالعملاء إلى ظهور أسمائهم أو تفاصيل طلباتهم أو معلومات حساباتهم في مستودع عام، دون أي إشعار من الشركة.

الموظفون متأثرون أيضًا. فقد تُظهر الشاشات الداخلية أسماء الزملاء، والأدوات الداخلية، وتفاصيل المشاريع، وأحيانًا بيانات اعتماد أو رموز وصول ظاهرة في نافذة المتصفح. والمستودعات العامة سهلة البحث والكشط، لذا يمكن نسخ المواد التي تبقى حتى لفترة وجيزة.

هناك خطر من الدرجة الثانية. إذ يمكن للقطات الشاشة المكشوفة أن تمنح المهاجمين خريطة للأنظمة الداخلية والخطط غير المطروحة، مما يساعدهم على صياغة تصيّد احتيالي أو هندسة اجتماعية مقنعة. وهذا يتصل بالاتجاه الذي غطيناه في كيف تسرّب نماذج الاختبار المعيبة بالذكاء الاصطناعي البيانات بينما ترتفع برمجيات الفدية بالذكاء الاصطناعي: يمكن لأدوات الذكاء الاصطناعي أن تخلق الانكشاف وتجعل استغلاله أرخص في آن واحد.

ماذا يعني هذا بالنسبة لك

يشفّر VPN اتصالك ويخفي عنوان IP الخاص بك عن المواقع والشبكات المحلية. لكنه لا يستطيع منع وكيل ذكاء اصطناعي تابع لشركة من نشر لقطة شاشة لسجل فواتيرك. وبمجرد أن تستقر بياناتك في أنظمة شركة ما، تعتمد حمايتها على ضوابط تلك الشركة، لا على أدوات خصوصيتك الشخصية.

وهذا لا يجعل عادات الخصوصية الشخصية بلا جدوى، لكنه يضع توقعات واقعية. بالنسبة للأفراد، الرافعة العملية هي الحد مما تسلّمه من معلومات حساسة في المقام الأول، والتحرك بسرعة إذا أبلغتك شركة بأن بياناتك تعرضت للانكشاف.

ما يمكن للمؤسسات والأفراد فعله

للمؤسسات وفرق التطوير:

  • طبّق مبدأ أقل صلاحية على وكلاء الذكاء الاصطناعي. امنحهم فقط المستودعات والأدوات والشاشات التي تتطلبها المهمة.
  • امنع الوكلاء من الدفع إلى مستودعات عامة، أو اشترط موافقة بشرية على أي كتابة عامة.
  • أخفِ البيانات أو استخدم بيانات اصطناعية في البيئات التي يلتقط فيها الوكلاء لقطات شاشة.
  • افحص المستودعات العامة المرتبطة بمؤسستك، بما في ذلك الحسابات الشخصية للموظفين، بحثًا عن صور وملفات شاردة.
  • تعامل مع أي محتوى يقرأه الوكيل على أنه غير موثوق، لأن حقن الأوامر يمكنه إعادة توجيه سلوكه.

للأفراد:

  • استخدم كلمات مرور فريدة وفعّل المصادقة متعددة العوامل، حتى تصبح تفاصيل الحسابات المكشوفة أقل فائدة.
  • راقب إشعارات الاختراق والرسائل غير المتوقعة التي تشير إلى طلبات حقيقية أو نشاط حسابي، مما قد يدل على تصيّد احتيالي مبني على مواد مسرّبة.
  • شارك فقط المعلومات الشخصية التي تحتاجها الخدمة فعليًا.

النقاط الرئيسية

القصة وراء هذه التقارير ليست أن الذكاء الاصطناعي متهور بطبيعته. بل إن الأتمتة بلا حدود واضحة تحوّل الأخطاء الصغيرة إلى انكشافات عامة كبيرة. وفهم كيف يسرّب وكلاء الذكاء الاصطناعي لقطات الشاشة الداخلية يساعد الشركات والعملاء على طرح أسئلة أفضل حول الأماكن التي يمكن أن تنتقل إليها البيانات الحساسة.

لمواكبة تطور الانكشاف المدفوع بالذكاء الاصطناعي والهجمات المدعومة بالذكاء الاصطناعي، اقرأ ملخص ThreatsDay وتقريرنا عن برمجيات الفدية بالذكاء الاصطناعي ونماذج الاختبار المسرّبة للحصول على سياق أوسع.