ChatGPhish: ثغرة Markdown في ChatGPT تتيح التصيد عبر حقن التوجيهات
تثير ثغرة تصيد جديدة تم الكشف عنها في ChatGPT تُدعى ChatGPhish مخاوف جدية حول كيفية تحويل التصفح المدعوم بالذكاء الاصطناعي ضد المستخدمين الذين يسعى لمساعدتهم. كشف باحثون في شركة Permiso Security أن ثقة ChatGPT المضمنة في الروابط والصور بصيغة Markdown تخلق فجوة تسمح للمهاجمين بحقن توجيهات خبيثة مباشرة في ملخصات الويب التي يقدمها الذكاء الاصطناعي، مما يحول ميزة إنتاجية اعتيادية إلى آلية لتوصيل التصيد.
كيف تستغل ChatGPhish ثقة ChatGPT بصيغة Markdown
عندما يتصفح ChatGPT الويب ويلخص المحتوى لمستخدم، فإنه يعالج ويعرض تنسيق Markdown، بما في ذلك الروابط التشعبية والصور المدمجة. تستغل ثغرة ChatGPhish هذا السلوك عبر تضمين تعليمات مُصممة خصيصًا داخل محتوى صفحة الويب. ولأن ChatGPT يعتبر ذلك المحتوى مدخلًا موثوقًا، يمكن للتعليمات المحقونة أن تعيد توجيه مخرجات الذكاء الاصطناعي، أو تجبره على عرض روابط خادعة، أو تطلب منه استخلاص بيانات الاعتماد من المستخدم بذريعة كاذبة.
هذا هجوم حقن توجيهات غير مباشر. على عكس الحقن المباشر، حيث يتلاعب المستخدم عمدًا بالذكاء الاصطناعي عبر مدخلات مصممة، يخفي الحقن غير المباشر أوامر خبيثة داخل محتوى خارجي يقوم الذكاء الاصطناعي بجلبه ومعالجته ذاتيًا. لا يرى المستخدم التعليمات المخفية أبدًا، بل يرى فقط المخرجات التي صممها المهاجم ليُنتجها الذكاء الاصطناعي. في حالة ChatGPhish، قد تتضمن تلك المخرجات رسائل تصيد مقنعة تبدو وكأنها صادرة من الذكاء الاصطناعي نفسه، مما يضفي عليها طابعًا زائفًا من الشرعية.
ما يجعل هذا الأمر جديرًا بالملاحظة هو أن سطح الهجوم ليس نموذج الذكاء الاصطناعي الأساسي، بل الثقة التي يمنحها لمحتوى الويب الذي يلخصه. لا يحتاج المهاجم إلى اختراق أنظمة OpenAI، بل يكفيه السيطرة على صفحة ويب قد يطلب المستخدم من ChatGPT تلخيصها أو التلاعب بها.
مَن هم الأكثر عرضة للخطر وما البيانات التي قد تتسرب
كل من يستخدم ميزات تصفح الويب أو التلخيص في ChatGPT معرض للخطر، لكن بعض المجموعات تواجه خطرًا أعلى. المستخدمون الذين يعتمدون على ChatGPT لتلخيص المقالات أو المستندات أو صفحات الطرف الثالث بسرعة هم الأكثر عرضة للصفحات المحقونة دون أن يدركوا ذلك. أما مستخدمو المؤسسات الذين أدمجوا ChatGPT في سير عمل يتضمن مصادر بيانات خارجية فيواجهون خطرًا مضاعفًا.
البيانات المعرضة للخطر هي بشكل رئيسي بيانات الاعتماد. يمكن لهجمة ChatGPhish الناجحة أن تخدع المستخدم لتقديم كلمة مرور، أو رمز مصادقة، أو تفاصيل حساب عبر صفحة تصيد يعرضها الذكاء الاصطناعي وكأنها شرعية. ونظرًا لأن مليارات من بيانات الاعتماد متداولة أصلًا في مستودعات الاختراقات، بما في ذلك 19 مليار كلمة مرور مكشوفة في تسريب RockYou2024، فإن أي وسيلة تصيد إضافية تتجاوز الشك الطبيعي للمستخدم تشكل خطرًا جديًا.
الحسابات المرتبطة بخدمات الدفع، أو الأنظمة المؤسسية، أو البيانات الشخصية الحساسة هي الأهداف الأكثر إغراءً. ومن المرجح أن تتجاوز رسالة التصيد، التي تبدو جزءًا طبيعيًا من رد ChatGPT، المرشحات الذهنية التي يستخدمها المستخدمون عند اكتشاف رسائل التصيد التقليدية.
لماذا يواجه مستخدمو الشبكات العامة وشبكات VPN خطرًا متزايدًا
يواجه مستخدمو شبكات Wi-Fi العامة خطرًا مركبًا من ChatGPhish. ففي الشبكات غير المشفرة أو ضعيفة التأمين، يُعد اعتراض حركة المرور تهديدًا واقعيًا. ومع أن هجمة ChatGPhish بحد ذاتها لا تتطلب الوصول على مستوى الشبكة، فإن الجمع بين بيئة شبكة مخترقة وملخص ذكاء اصطناعي تم التلاعب به يخلق وضعًا خطيرًا للغاية. يمكن استخدام بيانات اعتماد التصيد التي يُحتطَف بها في مقهى أو مطار فورًا، قبل أن تتاح للمستخدم فرصة اكتشاف الاختراق.
يساهم استخدام VPN في معالجة طبقة من هذه المشكلة عبر تشفير حركة المرور بين جهاز المستخدم والإنترنت، مما يقلل من خطر اعتراض الشبكة. لكنه لا يمنع ChatGPT من معالجة محتوى ويب خبيث وعرض التوجيهات المحقونة. تعمل هجمة ChatGPhish في طبقة التطبيق، مما يعني أن الحماية على مستوى الشبكة وحدها غير كافية. يجب على المستخدمين أن يبقوا متنبهين لطلبات بيانات الاعتماد غير المتوقعة التي تظهر داخل ملخصات الذكاء الاصطناعي، بصرف النظر عن مدى تأمين حركة مرور شبكاتهم.
خطوات عملية لتجنب استهدافك من ChatGPhish
إلى أن تصدر OpenAI تصحيحًا نهائيًا أو تغييرًا هندسيًا يمنع حقن التوجيهات المعتمدة على Markdown، يمكن للمستخدمين اتخاذ عدة خطوات عملية لتقليل تعرضهم.
أولاً، تعامل مع أي طلب لبيانات اعتماد أو تسجيل دخول يظهر من خلال ملخص ChatGPT بريبة فورية. لا يوجد سبب مشروع لـ ChatGPT لطلب كلمات مرور أو رموز تحقق كجزء من تلخيص الويب. إذا رأيت طلبًا كهذا، أغلق الجلسة وانتقل مباشرة إلى الموقع المعني عبر متصفحك.
ثانيًا، كن انتقائيًا بشأن الصفحات التي تطلب من ChatGPT تلخيصها، لاسيما الصفحات القادمة من مصادر لا تعرفها أو لا تثق بها. الصفحات التي يسيطر عليها المهاجمون هي الوسيلة الأساسية لتوصيل حمولات ChatGPhish.
ثالثًا، راجع ممارسات أمان حساباتك وبيانات اعتمادك الأوسع الآن، لا بعد وقوع حادث. استخدام كلمات مرور قوية وفريدة لكل حساب يعني أنه حتى إذا نجحت هجمة تصيد في الحصول على إحدى بيانات الاعتماد، يبقى الضرر محدودًا. ونظرًا لسهولة إعادة تدوير بيانات الاعتماد في الهجمات بعد التسريبات الكبيرة، فإن هذا إجراء أساسي لا يمكن التهاون فيه.
أخيرًا، تابع نشرات الأمان الصادرة عن OpenAI بحثًا عن تصحيحات أو تخفيفات تتعلق بـ ChatGPhish. تطبيق التحديثات فورًا هو أحد أبسط وسائل الدفاع ضد الثغرات المعلن عنها.
ما يعنيه هذا لك
يأتي ChatGPhish كتذكير بأن أدوات الذكاء الاصطناعي ترث المخاطر المرتبطة بالمحتوى الذي تعالجه. الثقة بملخص الذكاء الاصطناعي ليست مرادفة للثقة بالمصدر الأساسي، والمهاجمون يستغلون هذه الفجوة بالفعل. الهجوم لا يتطلب مهارات تقنية متقدمة من جانب المهاجم، مما يعني أنه مرجح لأن ينتشر خارج نطاق باحثي الأمن إلى الاستخدام الإجرامي الفعلي.
أكثر خطوة عملية يمكنك اتخاذها الآن هي تدقيق أمان بيانات اعتمادك. إذا كانت كلمة المرور نفسها تحمي عدة حسابات، فإن محاولة تصيد واحدة ناجحة عبر ChatGPhish قد تؤدي إلى اختراق أوسع نطاقًا. الاطلاع على تغطية اختراق RockYou2024 هو نقطة انطلاق مفيدة لفهم حجم بيئة تهديدات بيانات الاعتماد التي تجعل هجمات مثل ChatGPhish ذات عواقب وخيمة. تبقى كلمات المرور الفريدة والقوية والمصادقة متعددة العوامل على جميع الحسابات الحساسة خط دفاعك الأول الأكثر موثوقية عندما تتحول أدوات الذكاء الاصطناعي إلى سطوح للتصيد.
