ثغرة يوم صفر جديدة تستهدف وكيل الذكاء الاصطناعي من ميتا
كشف researcher الأمني باتريك واردل عن ثغرة يوم الصفر في وكيل الذكاء الاصطناعي Muse من ميتا، إلى جانب أداة إثبات مفهوم تُدعى "not-a-mused" توضح الخلل أثناء التنفيذ. وفقًا للإفصاح، تسمح المشكلة لعملية محلية تعمل بالفعل على الجهاز بإعادة توجيه الإملاء الصوتي المخصص لوكيل Muse AI، مما يختطف فعليًا قناة الإدخال الصوتي التي يعتمد عليها المستخدمون للتفاعل مع المساعد.
هذا ليس هجومًا عن بُعد بالمعنى التقليدي. فهو يتطلب وجود شيء آخر يعمل بالفعل على نفس الجهاز، لكن هذا التمييز أقل أهمية مما قد يبدو. يمكن للبرمجيات الخبيثة، أو تطبيق ضار، أو عملية خلفية مخترقة أن تُصنَّف جميعها كـ"العملية المحلية" اللازمة لاستغلال الخلل. بمجرد وجود هذا الموطئ، يُظهر إثبات المفهوم الخاص بواردل كيف يمكن اعتراض الإملاء المخصص لغرض معين أو إعادة توجيهه دون أن يدرك المستخدم أي خطأ.
كيف يعمل اختطاف الإملاء
صُمم Muse AI، مثل العديد من وكلاء الذكاء الاصطناعي الحديثة، لقبول الإدخال الصوتي والتصرف بناءً عليه بسرعة، سواء كان ذلك صياغة رسالة أو الإجابة على سؤال أو تفعيل إجراء آخر. تعتمد هذه السرعة والراحة على ثقة المساعد في خط أنابيب الصوت الذي يغذيه بالأوامر. يُظهر بحث واردل أن هذه الثقة يمكن استغلالها: يمكن لعملية محلية أن تدرج نفسها في خط الأنابيب هذا وتعيد توجيه حركة الإملاء، مما يعني أن الكلمات التي ينطق بها المستخدم قد لا تذهب إلى حيث يتوقع، أو قد يُستبدل محتوى من مصدر آخر دون تحذير مرئي.
الخطر العملي واضح ومباشر. غالبًا ما يتضمن الإدخال الصوتي مواد حساسة مثل الرسائل الشخصية أو تفاصيل الحساب أو استعلامات البحث التي يفترض الشخص أنها خاصة. إذا تمكنت عملية محلية من إعادة توجيه أو التقاط تدفق الإملاء هذا بهدوء، فإنها تفتح الباب للتنصت أو التلاعب دون أن يكون لدى المستخدم أي وسيلة للكشف عنه في الوقت الفعلي. صُممت أداة إثبات المفهوم المسماة "not-a-mused" تحديدًا لتوضيح هذا السلوك بدلًا من أن تكون مجموعة أدوات هجومية، لكن وجودها يؤكد أن الخلل قابل للإثبات وليس نظريًا.
لماذا يتناسب هذا مع نمط أوسع
يأتي هذا الإفصاح وسط تدقيق متزايد على كيفية تعامل وكلاء الذكاء الاصطناعي مع الأذونات والثقة والوصول الخلفي على الأجهزة التي تعمل عليها. سبق أن أشار researchers الأمنيون إلى نمط من أنظمة الذكاء الاصطناعي التي تُجرّ إلى سلاسل الهجمات من خلال استقلاليتها المصممة. وثّقت SentinelOne أربع حوادث منفصلة لهجمات إلكترونية بالذكاء الاصطناعي الوكيلي، مما يُظهر أن الأدوات المصممة للتخطيط وتنفيذ المهام بأقل قدر من الإشراف البشري أصبحت بشكل متزايد أهدافًا، وليس مجرد أدوات، للمهاجمين.
تتناسب مشكلة الإملاء في Muse AI مع هذا الاتجاه نفسه. مع منح وكلاء الذكاء الاصطناعي وصولًا أكثر مباشرة إلى الميكروفونات والملفات والمدخلات الحساسة الأخرى، يتوسع سطح الهجوم بطرق لا تكون دائمًا واضحة للأشخاص الذين يستخدمونها. إنه تذكير بأن ميزات الراحة، مثل الإملاء بدون استخدام اليدين، غالبًا ما تأتي مع افتراضات ثقة يكون المهاجمون متحمسين لاختبارها. يظهر هذا التوتر نفسه في زوايا أخرى من مشهد الخصوصية، بما في ذلك النقاشات حول مقدار جمع البيانات الذي تبرره أنظمة حماية المستخدم، حيث يكون التوازن بين الوظائف والتعرض موضوعًا متكررًا.
ماذا يعني هذا لك
إذا كنت تستخدم Muse AI أو أي مساعد ذكاء اصطناعي يعتمد على الإملاء أو الأوامر الصوتية، فإن هذا الإفصاح دافع مفيد للتفكير في ما يمكن لهذا المساعد الوصول إليه على جهازك وما يعمل بجانبه أيضًا. تتطلب الثغرة وجود عملية محلية بالفعل، لذا تبقى نظافة الجهاز الأساسية، والحفاظ على تحديث البرامج، وتجنب التنزيلات غير الموثوقة، ومراجعة التطبيقات التي لديها وصول إلى الميكروفون أو الخلفية، خط الدفاع الأول.
يجدر أيضًا التذكر أن الإفصاح عن ثغرة يوم صفر من researcher مثل واردل يدفع عادةً الموردين إلى التحقيق والإصلاح بسرعة. مراقبة تحديثات Muse AI وتطبيقها فور توفرها خطوة معقولة. في غضون ذلك، الانتباه إلى المعلومات الحساسة التي تمليها على أي وكيل ذكاء اصطناعي، خاصة على الأجهزة المشتركة أو الأقل أمانًا، احتياط معقول.
النقاط الرئيسية
ثغرة يوم الصفر في Muse AI تذكير في الوقت المناسب بأن وكلاء الذكاء الاصطناعي، رغم كل راحتها، تقدم اعتبارات خصوصية جديدة لم تكن موجودة مع التطبيقات التقليدية. قد تبدو إعادة توجيه الإملاء بواسطة عملية محلية مشكلة تقنية ضيقة، لكنها تشير إلى سؤال أكبر بكثير: كم نثق في خطوط الأنابيب التي تغذي مساعدينا من الذكاء الاصطناعي، ومن قد يكون يستمع أيضًا؟
حتى تصدر ميتا إرشادات أو إصلاحًا، يجب على المستخدمين مراجعة أذونات التطبيقات بانتظام، والحفاظ على تحديث الأجهزة، والبقاء حذرين بشأن ما يقولونه بصوت عالٍ لأي نظام ذكاء اصطناعي. مع تزايد اندماج وكلاء الذكاء الاصطناعي في الحياة الرقمية اليومية، فإن التعامل مع وصولها إلى الميكروفونات والبيانات الشخصية بنفس التدقيق الممنوح لأي تطبيق حساس آخر هو ببساطة ممارسة جيدة.
