يستعرض مقال حديث من Jazz Security أمثلة حقيقية على تسريب البيانات بالذكاء الاصطناعي، من قيام مهندسي سامسونج بلصق الشيفرة في ChatGPT إلى حادثتي EchoLeak وSalesloft Drift. ولكل حالة، يغطي من اكتشف المشكلة، وحالتها الحالية، والضابط الذي كان يمكن أن يكشف التعرض أو يحدّ منه. تختلف الحالات في التفاصيل التقنية، لكنها تشترك في موضوع واحد: لم تبدأ التسريبات بهجمات غريبة. بل بدأت بسلوك روتيني واتصالات موثوقة.
يستند هذا المقال إلى ذلك الملخص والزاوية التحريرية التي يقوم عليها. المادة المصدرية المتاحة لنا موجزة، لذا نلتزم بالأنماط العامة التي تصفها بدلاً من إضافة تفاصيل تقنية لا يمكننا التحقق منها.
ما الذي حدث في تسريبات سامسونج وEchoLeak وSalesloft Drift
تغطي الحالات الثلاث ثلاث طرق مختلفة لحدوث التعرض للبيانات المرتبط بالذكاء الاصطناعي.
سامسونج. لصق المهندسون شيفرة في ChatGPT. لم تكن هناك حاجة إلى مخترق. استخدم الموظفون روبوت محادثة عاماً كأداة عمل، وخرجت المواد الحساسة عن سيطرة الشركة لحظة إرسالها.
EchoLeak. تُصنَّف هذه الحادثة مع الأخريات كمثال على ميزة ذكاء اصطناعي تكشف البيانات من خلال طريقة معالجتها للمحتوى واتصالها بمعلومات أخرى. وهي تُظهر أن الخطر لا يقتصر على ما يكتبه الشخص. فوصول نظام الذكاء الاصطناعي نفسه إلى البيانات مهم أيضاً.
Salesloft Drift. تضمنت هذه الحالة تكاملات OAuth المتصلة. يتيح OAuth لتطبيق واحد الوصول إلى البيانات في تطبيق آخر دون مشاركة كلمة مرور. وهذا مريح، لكن عندما يتم اختراق خدمة متصلة، يمكن أن تصبح رموز الوصول التي تحتفظ بها مساراً إلى كل حساب كانت مرتبطة به.
يوثّق مقال Jazz Security أيضاً من اكتشف كل حالة وأين تقف اليوم. بالنسبة للقراء، فإن الخلاصة الأكثر فائدة هي اقتران كل حالة بضابط: شيء كان يمكن أن يوفر رؤية للنشاط أو يحدّ من مدى انتشار البيانات.
أمثلة على تسريب البيانات بالذكاء الاصطناعي: كيف كشف الاستخدام اليومي للذكاء الاصطناعي البيانات
ما يبرز عبر هذه الأمثلة على تسريب البيانات بالذكاء الاصطناعي هو مدى عادية نقاط البداية.
لصق النص في روبوت محادثة يبدو كاستخدام مربع بحث أو تطبيق ملاحظات. لا يبدو كإرسال بيانات إلى طرف ثالث. هذه الفجوة بين الإدراك والواقع هي حيث يحدث التسريب على غرار سامسونج. فبمجرد إرسال المعلومات، تكون لديك عموماً رؤية محدودة لمكان تخزينها أو من يمكنه الوصول إليها بموجب شروط الخدمة.
تعمل التطبيقات المتصلة بالطريقة نفسها. منح تكامل ما حق الوصول يستغرق نقرتين، وغالباً ما يبقى الإذن دون مساس لأشهر أو سنوات. وإذا تم اختراق المورّد وراء ذلك التكامل، يصل التعرض إلى بيانات ربما نسيت أنك شاركتها.
تضيف مساعدات الذكاء الاصطناعي طبقة ثالثة. عندما تستطيع أداة قراءة بريدك الإلكتروني أو مستنداتك أو رسائلك لتكون مفيدة، فإن أي شيء تستطيع قراءته يكون عرضة للخطر إذا تصرفت الأداة بطريقة غير مقصودة. يوضح مثال EchoLeak لماذا يُهم نطاق الوصول بقدر ما تُهم جودة الذكاء الاصطناعي نفسه.
ما الذي خسره الأشخاص والمنظمات المتأثرون
تختلف التفاصيل حسب الحالة، ولن نخمّن أرقاماً لا يقدمها ملخص المصدر. بعبارات عامة، يقع التعرض في فئات قليلة:
- المعلومات الخاصة. لم يعد يمكن اعتبار الشيفرة المصدرية والمواد الداخلية التي أُدخلت في روبوت محادثة عام خاصة.
- بيانات الأعمال والعملاء. يمكن أن تكشف اختراقات التطبيقات المتصلة سجلات مخزنة في المنصات المرتبطة، مما يؤثر على عملاء وجهات اتصال المنظمات المعنية، وليس على المنظمات نفسها فقط.
- التحكم والرؤية. في كثير من الحوادث، لا يكون الضرر الدائم هو البيانات نفسها فحسب، بل فقدان أي صورة واضحة عن المكان الذي ذهبت إليه.
يظهر هذا النمط أيضاً خارج بيئات المؤسسات. فـاختراق بيانات Suno، الذي كشف المعلومات الشخصية لأكثر من 55 مليون مستخدم ولم يُفصح عنه لهم قط، يُظهر كيف يمكن لخدمة ذكاء اصطناعي تحتفظ ببيانات المستخدمين أن تصبح نقطة تعرض حتى عندما لا يفعل المستخدمون شيئاً غير معتاد.
ما يعنيه هذا بالنسبة لك
لا تحتاج إلى العمل في شركة كبيرة لتطبيق هذه الدروس. يلصق الأفراد مستندات شخصية وأسئلة طبية وعقوداً ومسودات عمل في روبوتات المحادثة كل يوم. كما يربط كثيرون أدوات الذكاء الاصطناعي وتطبيقات أخرى بالبريد الإلكتروني والتقويمات والتخزين السحابي.
النقطة العملية هي أن تعرضك يعتمد على شيئين تتحكم فيهما: ما تسلّمه لخدمة ذكاء اصطناعي، وما تتركه من وصول مفعّلاً. لا يتطلب أي منهما خبرة تقنية لإدارته. وتُغطى السياق الأوسع لكيفية تغيير الذكاء الاصطناعي لصورة التهديدات في نظرتنا إلى فدية الذكاء الاصطناعي ونماذج الاختبار المعيبة التي تسرّب البيانات.
عادات تحدّ من تعرضك للذكاء الاصطناعي
- تعامل مع موجّه روبوت المحادثة كبريد إلكتروني إلى شخص غريب. إذا كنت لن ترسله خارج مؤسستك أو منزلك، فلا تلصقه.
- أزل التفاصيل المعرِّفة أولاً. استبدل الأسماء وأرقام الحسابات وبيانات الاعتماد ومعلومات العملاء بعناصر نائبة قبل طلب المساعدة.
- تحقق من سياسة العمل لديك. إذا كان صاحب العمل يوفر أداة ذكاء اصطناعي معتمدة، فاستخدمها بدلاً من حساب شخصي. وإذا لم تكن هناك سياسة، فاطلب واحدة.
- راجع التطبيقات المتصلة بانتظام. افتح صفحة الأمان أو الأذونات في بريدك الإلكتروني وتخزينك السحابي وحسابات مكان العمل، وأزل التكاملات التي لم تعد تستخدمها.
- فضّل الأذونات الضيقة. عندما يطلب تطبيق ما وصولاً واسعاً، تحقق مما إذا كان هناك خيار أكثر تحديداً.
- راجع سجل المحادثات وإعدادات البيانات. اطّلع على ما تحتفظ به خدمات الذكاء الاصطناعي لديك وما إذا كان يمكنك الانسحاب من استخدام بياناتك للتدريب أو حذف المحادثات السابقة.
- استخدم كلمات مرور فريدة ومصادقة متعددة العوامل. لا تمنع هذه كل تسريب، لكنها تحدّ مما يمكن أن يؤدي إليه حساب مكشوف.
الخلاصات
تشير أمثلة تسريب البيانات بالذكاء الاصطناعي من سامسونج وEchoLeak وSalesloft Drift إلى الاستنتاج نفسه: غالباً ما تأتي أكبر حالات التعرض من الراحة، وليس من هجمات متطورة. ابدأ بتدقيق ما تلصقه في روبوتات المحادثة، ثم راجع تطبيقاتك المتصلة وألغِ ما لا تحتاج إليه. للحصول على مثال آخر على تعرض بيانات خدمة ذكاء اصطناعي، اقرأ عن اختراق Suno، ولمزيد من السياق حول المخاطر المرتبطة بالذكاء الاصطناعي، راجع تغطيتنا لفدية الذكاء الاصطناعي. بضع دقائق من المراجعة الآن أسهل بكثير من محاولة معرفة لاحقاً أين ذهبت بياناتك.
