أفاد باحثو Huntress أن المهاجمين يسيئون استخدام ميزة Custom GPT في ChatGPT لانتحال هوية منتجات الذكاء الاصطناعي وخداع الأشخاص لتثبيت حصان طروادة المتقدم للوصول عن بُعد (RAT). يُعدّ هذا الاكتشاف تذكيرًا مفيدًا بأن واجهة مألوفة وموثوقة قد تحمل تهديدًا. لا تعتمد حملة Custom GPT الخبيثة لبرمجيات الوصول عن بُعد هذه على ثغرة في جهاز الكمبيوتر الخاص بك. بل تعتمد عليك أنت في تصديق نافذة الدردشة التي أمامك.
كيف يعمل طُعم Custom GPT الخبيث
Custom GPT هي نسخ مخصصة من ChatGPT يمكن لأي شخص إنشاؤها ونشرها. هذا الانفتاح هو ما يجعل الميزة مفيدة، وهو أيضًا ما يستغله المهاجمون. وفقًا لـ Huntress، يبني الجهات الفاعلة المهددة نماذج Custom GPT تتنكر في هيئة منتجات ذكاء اصطناعي شرعية، ثم توجّه الزوار نحو تثبيت البرمجيات الخبيثة.
المقال المصدر موجز في التفاصيل التقنية، لذا يجدر الفصل بين ما هو مؤكد وما ليس كذلك. الجزء المؤكد هو النمط الأساسي: Custom GPT تنتحل هوية منتج ذكاء اصطناعي، ويُقنَع الضحية بتثبيت RAT. تصف تغطيات أخرى للنشاط نفسه وصول الطُعم إلى الأشخاص عبر نتائج بحث Google المموّلة واستخدام تكتيكات بأسلوب ClickFix، حيث يُستدرَج المستخدم لتشغيل أوامر PowerShell بنفسه. هذه التفصيلة تأتي من تقارير ثانوية، لذا تعامل معها كسياق وليس ككلمة أخيرة.
الخيط المشترك هو أن الضحية يقوم بالعمل. فبدلاً من استغلال البرمجيات، يقدّم المهاجم قصة مقنعة ومجموعة من التعليمات، وينفّذها المستخدم.
ما يمكن أن يفعله حصان طروادة للوصول عن بُعد بجهازك
يمنح حصان طروادة للوصول عن بُعد المهاجم طريقة خفية للتحكم بالجهاز من بعيد. بمجرد تشغيله، غالبًا ما يستطيع الشخص الذي يقف خلفه التصرف كما لو كان جالسًا على لوحة مفاتيحك. عادةً ما تصف شركات الأمن قدرات RAT بأنها تشمل:
- عرض الملفات ونسخها
- مراقبة النشاط وقراءة الرسائل
- التقاط ضغطات المفاتيح وبيانات الاعتماد
- تفعيل كاميرا الويب أو الميكروفون
- تثبيت برمجيات خبيثة إضافية
تعتمد القدرات التي يدعمها أي RAT بالتحديد على السلالة، وتصف Huntress هذا النوع بأنه متقدم. الخلاصة العملية هي أن الإصابة بـ RAT نادرًا ما تكون مجرد إزعاج بسيط. ولأنه يمكن أن يعمل بهدوء، قد لا تلاحظ أي خطأ بينما تكون كلمات المرور المحفوظة ومستندات العمل وبيانات الجلسة مكشوفة.
بالنسبة لأي شخص يستخدم حاسوبًا محمولًا للعمل، تمتد المخاطر إلى أبعد من البيانات الشخصية. يمكن أن يصبح الجهاز المخترق نقطة ارتكاز إلى حسابات الشركة وأنظمتها.
لماذا تُعدّ منصات الذكاء الاصطناعي الموثوقة قنوات توصيل مقنعة
أمضى الناس سنوات في تعلّم عدم الثقة بمرفقات البريد الإلكتروني الغريبة ومواقع التنزيل غير المألوفة. لكن عددًا أقل بكثير تعلّم التشكيك في واجهة دردشة تعمل على منصة ذكاء اصطناعي معروفة. تظهر Custom GPT داخل البيئة نفسها التي يستخدمها الناس بالفعل لصياغة رسائل البريد الإلكتروني أو تلخيص المستندات، وهذا السياق يمنحها مصداقية مستعارة.
هناك عدة أسباب تجعل هذا ينجح جيدًا مع المهاجمين:
- بيئة مألوفة. تبدو الصفحة وتُحسّ وكأنها الخدمة الحقيقية، فيبقى الشك منخفضًا.
- ضغط حواري. يستطيع روبوت الدردشة الرد على الاعتراضات، ويبدو مفيدًا، ويرشد الشخص عبر الخطوات واحدة تلو الأخرى.
- انتحال العلامة التجارية. تسمية Custom GPT باسم منتج ذكاء اصطناعي يريد الناس تجربته تمنح الطُعم جمهورًا جاهزًا.
يتناسب هذا مع نمط أوسع من جرّ أدوات الذكاء الاصطناعي إلى مجموعة أدوات المهاجم. لمزيد من السياق، تتناول تغطيتنا لـ تقرير Anthropic المكوّن من 154 صفحة حول البرمجيات الخبيثة المبنية بالذكاء الاصطناعي وثغرات اليوم الصفري كيف تتطور إساءة استخدام الذكاء الاصطناعي إلى ما هو أبعد من حيلة واحدة.
كيفية فحص أدوات الذكاء الاصطناعي قبل تثبيت أي شيء
لا تحتاج إلى تجنّب أدوات الذكاء الاصطناعي. تحتاج إلى بعض العادات التي تعترض هذا النوع من الهجمات.
- شكّك في أي طلب لتنزيل برمجيات أو تشغيلها. مساعد دردشة يطلب منك تثبيت برنامج، أو لصق أوامر في PowerShell أو الطرفية، يستحق الشك الفوري.
- اذهب إلى المصدر مباشرة. إذا أردت منتج ذكاء اصطناعي معينًا، اكتب العنوان الرسمي بنفسك أو استخدم قنوات المورّد الخاصة بدلًا من النقر على نتيجة بحث مموّلة.
- تحقق من هوية منشئه. تُنشَر Custom GPT بواسطة فرد أو منظمة، وليس بالضرورة بواسطة العلامة التجارية الموجودة في اسمها. انظر إلى تفاصيل المنشئ قبل الوثوق بها.
- لا تلصق أبدًا أوامر لا تفهمها. إذا لم تستطع شرح ما يفعله الأمر، فلا تشغّله.
- حافظ على تحديث برمجيات الأمان. يمكن لحماية نقاط النهاية التقاط الحمولة حتى عندما ينجح الطُعم.
ما يعنيه هذا لك
إذا كنت تستخدم ChatGPT، فليست المنصة نفسها هي المشكلة. الخطر هو أن أي Custom GPT عامة يمكنها قول أي شيء، بما في ذلك ادّعاء كونها شيئًا ليست عليه. التواجد على موقع موثوق لا يجعل المحتوى موثوقًا.
إذا كنت قد اتبعت بالفعل تعليمات من Custom GPT لتثبيت برمجيات أو تشغيل أوامر، افصل الجهاز عن الشبكة، وشغّل فحصًا كاملًا ببرمجيات أمان موثوقة، وغيّر كلمات المرور المهمة من جهاز آخر نظيف. إذا كان جهاز عمل، أخبر فريق تقنية المعلومات أو الأمن لديك فورًا. يمكنهم التحقيق بطرق لا يستطيع الفرد القيام بها.
الخلاصة
تُظهر حملة Custom GPT الخبيثة لبرمجيات الوصول عن بُعد التي تصفها Huntress كيف يتكيف المهاجمون مع الأماكن التي يضع فيها الناس ثقتهم بالفعل. تعامل مع أي أداة ذكاء اصطناعي تطلب منك تنزيل برمجيات أو تشغيلها بشك، وتحقق من الناشر، واوصل إلى المنتجات عبر القنوات الرسمية. لمعرفة كيف تندرج هذه التهديدات في الصورة الأكبر، اقرأ ملخصنا لـ تقرير استخبارات التهديدات من Anthropic حول إساءة استخدام الذكاء الاصطناعي.
