تجربة للتعرف المباشر على الوجوه لم يعلم بها معظم السكان
فيما يُوصف بأنه سابقة هي الأولى من نوعها في أستراليا، نشرت شرطة أستراليا الغربية بهدوء كاميرات تعمل بالذكاء الاصطناعي للتعرف المباشر على الوجوه في أنحاء بيرث وفريمانتل بدءًا من يونيو. وخلال أسبوع واحد فقط من التجربة، مسح النظام أكثر من 130 ألف وجه، مولّدًا 33 تنبيهًا وأدى إلى 18 اعتقالًا. كما قالت الشرطة إن التقنية ساعدت في تحديد هوية 21 من مرتكبي الجرائم الجنسية المسجلين في المنطقة والتواصل معهم.
حجم المسح لافت بحد ذاته، لكن أكثر ما أثار التدقيق هو الطريقة التي حدث بها: السكان الذين ساروا في تلك الشوارع لم يتم إخبارهم بأنه يتم مسح وجوههم. لم تكن هناك حملة لافتات، ولا فترة استشارة عامة، ولا آلية واضحة للانسحاب. بالنسبة لكثير من الأستراليين، كانت أول مرة يسمعون فيها عن البرنامج عبر التغطية الإخبارية بعد وقوع الأمر، وليس من خلال أي إشعار من الشرطة أو الحكومة المحلية.
لماذا يهم غياب الإشعار؟
تعمل أنظمة التعرف على الوجوه عن طريق التقاط صور للأشخاص في الأماكن العامة ومقارنتها بقاعدة بيانات، غالبًا في الزمن الفعلي. وعندما تعمل هذه العملية دون إشعار الجمهور، يفقد الناس القدرة على اتخاذ خيارات مستنيرة بشأن أين يذهبون، ومع من يظهرون، أو كيف يمكن تسجيل تحركاتهم وربطها ببعضها البعض. وقد أشار المدافعون عن الخصوصية وخبراء قانونيون إلى أن هذا يقوّض مبدأً أساسيًا في الرقابة على المراقبة: ينبغي عمومًا أن يعرف الناس متى وكيف تجري مراقبتهم، لا سيما من قبل الوكالات الحكومية.
كما أسفرت التجربة عن حالة تعريف خاطئ واحدة مؤكدة على الأقل، وهو تذكير بأن حتى أنظمة الذكاء الاصطناعي المتطورة يمكن أن تخطئ في تحديد هوية الأشخاص، مع عواقب تتراوح أحيانًا بين مزعجة وخطيرة. ومخاطر التعرف الخاطئ ليست موزعة بالتساوي أيضًا؛ إذ تمتلك أدوات التعرف على الوجوه تاريخًا موثقًا جيدًا من معدلات خطأ أعلى لدى فئات سكانية معينة، مما يثير مخاوف تتعلق بالإنصاف إلى جانب مخاوف الخصوصية.
لقد صاغت شرطة أستراليا الغربية النتائج من حيث مكاسب السلامة العامة، والاعتقالات التي تمت، وتحديد هوية الجناة، والتنبيهات التي وُلّدت. لكن جهات مراقبة الخصوصية تقول إن التقييم الحقيقي للتكلفة والفائدة يتطلب شفافية بشأن قواعد التجربة: كم من الوقت تُحفظ اللقطات وبيانات المطابقة، ومن يمكنه الوصول إليها، وهل تُشارك مع وكالات أخرى، وماذا يحدث للبيانات البيومترية لعشرات الآلاف من الأشخاص الذين خضعوا للمسح دون أن يكون لهم أي صلة بأي تحقيق.
النمط الأوسع لجمع البيانات البيومترية
هذه التجربة لا توجد بمعزل عن غيرها. تتجه الحكومات والشركات الخاصة في جميع أنحاء العالم بشكل متزايد إلى التحقق البيومتري، سواء من خلال التعرف على الوجوه لأغراض الشرطة، أو الفحوصات البيومترية في المطارات، أو أنظمة التحقق من العمر التي تمسح الوجوه لتقدير عمر المستخدم قبل منحه الوصول إلى محتوى أو خدمات معينة. ويثير كل نظام من هذه الأنظمة سؤالًا جوهريًا مشابهًا: ما كمية البيانات البيومترية التي ينبغي السماح لأي نظام منفرد بجمعها، وإلى متى ينبغي الاحتفاظ بها؟ يمكن للقراء المهتمين بمعرفة كيف تظهر هذه المفاضلات في سياق مختلف لكنه ذو صلة أن يطلعوا على كيف أن قوانين التحقق من العمر حول العالم تفرض بالفعل نقاشات مماثلة حول المسح البيومتري، والاحتفاظ بالبيانات، والموافقة، وغالبًا مع وعي عام أقل بكثير مما قد يوحي به مدى انتشار التقنية.
تُعد تجربة شرطة أستراليا الغربية دراسة حالة مفيدة على وجه التحديد لأنها تُظهر ما يحدث عندما تنتقل المراقبة البيومترية من نقاش حول السياسات إلى نشر ميداني. لقد عملت التقنية على النحو المنشود في حالات كثيرة، لكن غياب الإشعار العام الواضح، أو وجود مسار تدقيق مستقل، أو خيارات انسحاب رسمية يُظهر كيف يمكن للقدرة التقنية أن تتجاوز الرقابة بسرعة.
ما الذي يعنيه هذا لك؟
إذا كنت تعيش في بيرث أو فريمانتل أو تزورهما، فقد تكون قد خضعت بالفعل للمسح دون علمك، وقد تمتد الديناميكية نفسها إلى مدن أخرى مع دراسة برامج تجريبية مماثلة في أماكن أخرى. وحتى خارج أستراليا، تُعد هذه الحالة معاينة لما تتجه إليه تجارب التعرف على الوجوه بالذكاء الاصطناعي في الأماكن العامة: عمليات نشر هادئة تبررها إحصاءات السلامة، مع إضافة ضمانات الخصوصية غالبًا بعد وقوع الأمر بدلًا من أن تكون مدمجة منذ البداية.
عمومًا، لا يمكنك الانسحاب من نظام مباشر للتعرف على الوجوه في الأماكن العامة بمجرد تفعيله في منطقتك، وهذا بالضبط ما يجعل الشفافية والنقاش العام مهمين للغاية قبل تشغيل هذه الأنظمة، وليس بعده.
خطوات عملية يمكن اتخاذها
- تحقق مما إذا كانت قوات الشرطة المحلية أو مجلس المدينة قد نشرت معلومات عن أي تجارب للتعرف على الوجوه، حالية أو مخطط لها، وابحث عن عملية ملاحظات عامة أو استشارة.
- ادعم الدعوات المطالبة بسياسات واضحة للاحتفاظ بالبيانات وحذفها كلما اقتُرحت أدوات التعرف على الوجوه أو غيرها من الأدوات البيومترية في الأماكن العامة.
- اضغط من أجل عمليات تدقيق مستقلة لدقة أنظمة مراقبة الذكاء الاصطناعي وتحيزها قبل توسيعها إلى ما بعد المرحلة التجريبية.
- ابقَ على اطلاع على كيفية مشاركة البيانات البيومترية التي تُجمع لغرض واحد، مثل أعمال الشرطة، لاحقًا مع وكالات أخرى أو شركات خاصة.
سيزداد النقاش حول تجارب التعرف على الوجوه بالذكاء الاصطناعي ارتفاعًا مع اختبار المزيد من المدن لأنظمة مماثلة. والبقاء على اطلاع حول كيفية نشر هذه البرامج، والمطالبة بالشفافية عندما لا تكون كذلك، هو أحد أكثر الطرق العملية التي يمكن للجمهور من خلالها التأثير في كيفية استخدام هذه التقنية مستقبلًا.
