توقيف ظالم مبني على تخمين آلة

ترفع جدة من تينيسي دعوى قضائية بمبلغ 10 ملايين دولار بعد أن قالت إن مطابقة مزعومة للتعرف على الوجه بالذكاء الاصطناعي أدت إلى اتهامها زوراً بجرائم سرقة بنكية في داكوتا الشمالية واحتجازها لمدة ستة أشهر. وتثير هذه القضية، التي أوردتها قناة ABC News لأول مرة، أسئلة حادة حول مقدار الثقة التي ينبغي لأقسام الشرطة أن تمنحها لأدوات التعريف الآلية عندما يمكن أن يعني خطأ واحد قضاء أشهر خلف القضبان لشخص بريء.

وفقاً للتقرير، رُبطت المرأة بجرائم احتيال بنكي تقول إنها لم ترتكبها بعد أن ربطت برامج التعرف على الوجه صورتها بلقطات كاميرات المراقبة. وقد أمضت نصف عام في الاحتجاز قبل أن تنهار القضية ضدها، وهي تسعى الآن إلى دعوى قضائية تطالب بتعويضات قدرها 10 ملايين دولار عن هذه المحنة.

كيف تحدث أخطاء التعرف على الوجه

تعمل أنظمة التعرف على الوجه من خلال مقارنة صورة فوتوغرافية أو إطار فيديو بقاعدة بيانات من الصور وإنشاء درجة احتمالية للتطابق. تلك الدرجة هي تقدير إحصائي وليست يقيناً. وعندما يتعامل المحققون أو المدعون مع مخرجات الخوارزمية كدليل قاطع بدلاً من كونها خيطاً واحداً بين خيوط كثيرة، ينمو خطر الاتهام الظالم بشكل حاد.

وقد وثّقت هذه الأنظمة فجوات في الدقة تعتمد على جودة الصورة والإضاءة وزاوية الكاميرا والتكوين الديموغرافي لبيانات التدريب المستخدمة في بنائها. فصورة مراقبة ضبابية، أو لقطة جانبية جزئية، أو تعبير غير معتاد، كلها يمكن أن تدفع الخوارزمية نحو نتيجة إيجابية خاطئة. وعندما يصبح ذلك التطابق المعيب أساساً لمذكرة توقيف، ينتقل عبء إثبات البراءة إلى الشخص المتهم ظلماً، غالباً بعواقب تغير مسار الحياة مثل الأشهر الستة من الاحتجاز الموصوفة في هذه القضية.

مخاطر الخصوصية والحريات المدنية

هذه الدعوى القضائية جزء من نمط أوسع من القلق بشأن كيفية نشر وكالات إنفاذ القانون للتعرف على الوجه دون معايير وطنية متسقة أو رقابة أو متطلبات شفافية. وخلافاً لمطابقة بصمة الإصبع أو الحمض النووي، التي تخضع عادةً للتحقق الجنائي الصارم قبل استخدامها في المحكمة، يمكن توليد نتائج التعرف على الوجه على الفور وتطبيقها بقدر أقل بكثير من التدقيق في الميدان.

تكمن المسألة الجوهرية في البيانات والموافقة. فمعظم الأشخاص الذين تنتهي وجوههم في أنظمة المطابقة هذه لم يوافقوا قط على استخدام صورهم بهذه الطريقة. فالصور المسحوبة من قواعد بيانات رخص القيادة، أو وسائل التواصل الاجتماعي، أو كاميرات المراقبة العامة، يمكن أن تغذي أدوات التعرف دون علم الفرد. وعندما تخطئ الخوارزمية، غالباً لا يكون لدى الشخص المتضرر أي فكرة عن أن بياناته البيومترية كانت جزءاً من العملية أصلاً حتى يواجه بالفعل اتهامات جنائية.

ويعكس هذا الافتقار إلى الشفافية النقاشات الجارية في مجالات أخرى من السياسة الرقمية، حيث يتمحور السؤال الأساسي حول من يتحكم في تدفق البيانات الشخصية وتحت أي قواعد. وكما تتمحور المناقشات حول حيادية الشبكة حول ضمان المعاملة العادلة والمتساوية للمعلومات المنتقلة عبر الشبكات، تتمحور مناقشة التعرف على الوجه حول ضمان المعاملة العادلة والخاضعة للمساءلة للبيانات البيومترية الشخصية المنتقلة عبر أنظمة إنفاذ القانون.

ماذا يعني هذا بالنسبة لك

لن يواجه معظم الناس أبداً توقيفاً ظالماً مرتبطاً بالتعرف على الوجه، لكن هذه القضية تذكير بأن البيانات البيومترية المجمعة لغرض واحد يمكن أن تنتهي مستخدمة بطرق لم يتوقعها الأفراد أو يوافقوا عليها. فوجهك، خلافاً لكلمة المرور، لا يمكن تغييره إذا أُسيء استخدامه أو أُخطئ في مطابقته بواسطة نظام معيب.

إذا كنت تعيش أو تعمل في منطقة تستخدم فيها أقسام الشرطة تقنية التعرف على الوجه، فمن الجدير فهم السياسات المحلية، إن وُجدت، التي تحكم ذلك الاستخدام. فبعض الولايات القضائية تشترط مراجعة بشرية قبل أن تؤدي مطابقة خوارزمية إلى توقيف، بينما لا تشترط ولايات أخرى ذلك. ومعرفة ما إذا كانت تلك الضمانات موجودة في مجتمعك يمكن أن تساعدك في المطالبة بحماية أقوى إذا كانت غائبة.

بالنسبة للأفراد concerned بشأن بصمتهم البيومترية، فإن مراجعة إعدادات الخصوصية على منصات التواصل الاجتماعي، وفهم قواعد البيانات الحكومية التي تخزن صورتك، والبقاء على اطلاع بالتشريعات المحلية والولائية بشأن التعرف على الوجه، كلها خطوات عملية. وقد دفعت جماعات المناصرة والمشرّعون في عدة ولايات بالفعل نحو فرض قيود أو حظر على استخدام الشرطة لهذه التقنية، وكان الضغط العام تاريخياً عاملاً دافعاً في تلك التغييرات السياسية.

الصورة الأكبر

من المرجح أن تجذب هذه الدعوى القضائية البالغة 10 ملايين دولار اهتماماً مستمراً وهي تشق طريقها عبر النظام القانوني، وهي تضيف إلى مجموعة متنامية من القضايا التي تتحدى كيفية استخدام أدوات التعرف على الوجه بالذكاء الاصطناعي في التحقيقات الجنائية. وأياً كانت النتيجة، تؤكد القضية حقيقة بسيطة: التقنية التي تُسوَّق كطريق مختصر للتحقيق تحمل تكاليف بشرية حقيقية عندما تفشل، وتقع تلك التكاليف بأشد وطأة على الأشخاص الأقل قدرة على المقاومة.

ومع انتشار أدوات التعرف على الوجه في العمل الشرطي، فإن البقاء على اطلاع بكيفية عمل هذه الأنظمة، وأين تُخزَّن بياناتك البيومترية، وما هي الحمايات الموجودة في منطقتك، يُعد واحداً من أكثر الطرق العملية لحماية نفسك من أن تصبح العنوان التحذيري التالي.