Một cơ quan giám sát cảnh sát Vương quốc Anh đã cảnh báo rằng các lỗi nhận diện khuôn mặt có thể khiến người dân tộc thiểu số đối mặt với nguy cơ bị bắt giữ sai. Theo The Guardian, các thanh tra viên phát hiện rằng một số sĩ quan đã hành động dựa trên các kết quả trùng khớp tiềm năng từ các cuộc tìm kiếm nhận diện khuôn mặt hồi tố mà không thực hiện đủ các kiểm tra bổ sung. Phát hiện này làm tăng thêm mối lo ngại đang gia tăng về các vụ bắt giữ sai người liên quan đến nhận diện khuôn mặt tại Anh, và đặt ra một câu hỏi thực tế: điều gì bảo vệ một người khi phần mềm chỉ nhầm vào khuôn mặt sai?

Bài báo nguồn khá ngắn gọn, vì vậy bài viết này chỉ tập trung vào những gì đã được đưa tin và giải thích bối cảnh rộng hơn một cách cẩn thận.

Những gì các thanh tra viên phát hiện về nhận diện khuôn mặt hồi tố

Nhận diện khuôn mặt hồi tố khác với các hệ thống trực tiếp, vốn quét khuôn mặt trong thời gian thực khi mọi người đi qua camera. Trong một cuộc tìm kiếm hồi tố, cảnh sát lấy hình ảnh của một người quan tâm, chẳng hạn như một khung hình từ camera CCTV, và so sánh với cơ sở dữ liệu hình ảnh để tạo ra các kết quả trùng khớp tiềm năng.

Từ khóa ở đây là "tiềm năng." Một kết quả trùng khớp từ phần mềm là một manh mối, không phải là một sự nhận dạng. Theo đưa tin của The Guardian, các thanh tra viên phát hiện rằng một số sĩ quan đã coi những kết quả này là căn cứ để hành động mà không thực hiện đủ các kiểm tra tiếp theo. Trên thực tế, điều đó có nghĩa là một kết quả trùng khớp có thể đã được đánh giá cao hơn mức nó xứng đáng trước khi lệnh bắt giữ được thực hiện.

Đây là vấn đề quy trình cũng như vấn đề công nghệ. Ngay cả một thuật toán hoạt động tốt cũng tạo ra các kết quả trùng khớp sai, vì vậy các bước kiểm tra mà con người thực hiện sau đó chính là biện pháp bảo vệ chính chống lại sai sót.

Tại sao người dân tộc thiểu số đối mặt với nguy cơ cao hơn từ các lỗi trùng khớp

Cảnh báo của cơ quan giám sát đặc biệt nhấn mạnh nguy cơ đối với người dân tộc thiểu số. Mối lo ngại là các lỗi trùng khớp không phân bố đều trong dân số. Nếu một hệ thống có nhiều khả năng tạo ra các kết quả trùng khớp sai đối với một số nhóm người, thì những nhóm đó đối mặt với khả năng cao hơn bị gắn cờ nhầm là nghi phạm.

Kết hợp điều đó với việc kiểm tra không đầy đủ và nguy cơ sẽ cộng dồn. Một kết quả trùng khớp sai được xem xét kỹ lưỡng sẽ bị phát hiện sớm. Một kết quả trùng khớp sai được chấp nhận mà không kiểm chứng có thể dẫn đến việc bị dừng lại, bị bắt giữ, hoặc tệ hơn. Mối lo ngại của cơ quan giám sát chính là sự kết hợp: trùng khớp dễ sai sót cộng với xác minh yếu kém.

Đây cũng là lý do tại sao các chi tiết về cách một cuộc tìm kiếm được thực hiện và xem xét lại rất quan trọng. Ai kiểm tra danh sách ứng viên, cần thêm bằng chứng gì khác, và cách xử lý các bất đồng đều định hình liệu một sai sót có đến được với một người thực sự hay không.

Những điểm thiếu sót trong các biện pháp bảo vệ và quy định pháp lý của Vương quốc Anh

Các phát hiện của thanh tra viên cho thấy rằng các biện pháp bảo vệ tồn tại trên giấy tờ nhưng không phải lúc nào cũng được áp dụng nhất quán trên thực tế. Khoảng trống đó là một phần lý do tại sao chính phủ đã xem xét các quy định. Chúng tôi đã đề cập đến kế hoạch thắt chặt khung pháp lý trong bài viết về quy định nhận diện khuôn mặt của cảnh sát Anh được thúc đẩy bởi camera phố Oxford, và các phát hiện của cơ quan giám sát càng củng cố lập luận cho các tiêu chuẩn rõ ràng, có thể thực thi đối với cả các cuộc tìm kiếm hồi tố lẫn trực tiếp.

Tài liệu là một nơi để tìm hiểu cách các biện pháp bảo vệ được thiết kế để hoạt động. Bộ Nội vụ đã công bố một đánh giá về quyền riêng tư đối với nhận diện khuôn mặt trực tiếp trong thực thi nhập cư, mà chúng tôi đã tóm tắt trong bài viết về đánh giá quyền riêng tư LFR của Bộ Nội vụ. Đọc những tài liệu như vậy cho thấy những rủi ro nào mà chính quyền thừa nhận và những biện pháp giảm thiểu nào họ hứa hẹn. Phép thử là liệu những lời hứa đó có được thực hiện trên thực tế hay không, và đó chính xác là những gì các cuộc thanh tra như thế này kiểm tra.

Cũng đáng lưu ý rằng nhận diện khuôn mặt không chỉ giới hạn ở cảnh sát. Các nhà bán lẻ cũng sử dụng nó, và những câu hỏi tương tự về độ chính xác và quyền khiếu nại cũng được áp dụng. Bài viết của chúng tôi về cảnh báo Facewatch và người mua sắm tại Anh khám phá khía cạnh đó của bức tranh.

Quyền của bạn là gì nếu bạn bị nhận dạng nhầm

Bài báo nguồn không trình bày các biện pháp khắc phục cá nhân, vì vậy phần sau đây là hướng dẫn chung chứ không phải tư vấn pháp lý.

  • Hỏi căn cứ là gì. Nếu bạn bị dừng lại hoặc bị bắt giữ, bạn có thể hỏi tại sao. Nếu nhận diện khuôn mặt có liên quan, hãy hỏi liệu có bằng chứng nào khác liên kết bạn với vụ việc hay không.
  • Yêu cầu dữ liệu của bạn. Theo luật bảo vệ dữ liệu của Vương quốc Anh, bạn thường có thể đưa ra yêu cầu truy cập chủ thể để xem dữ liệu cá nhân mà một tổ chức nắm giữ về bạn, mặc dù cảnh sát đôi khi có thể áp dụng các trường hợp miễn trừ.
  • Ghi chép lại. Ghi lại ngày tháng, thời gian, địa điểm và tên hoặc số hiệu của các sĩ quan liên quan.
  • Tìm lời khuyên. Một luật sư, hoặc một tổ chức chuyên về quyền tự do dân sự, có thể giải thích các lựa chọn của bạn để khiếu nại hoặc phản đối.
  • Khiếu nại. Bạn có thể khiếu nại với lực lượng cảnh sát liên quan, và leo thang nếu bạn không hài lòng.

Đối với bối cảnh bán lẻ, hướng dẫn của chúng tôi về quyền riêng tư bán lẻ của bạn xung quanh các lần quét Facewatch đề cập đến cách truy vấn và phản đối một cảnh báo.

Điều này có ý nghĩa gì đối với bạn

Hầu hết mọi người sẽ không bao giờ bị trùng khớp nhầm, nhưng rủi ro không được chia đều, và cảnh báo của cơ quan giám sát là lời nhắc nhở rằng kết quả từ phần mềm chỉ đáng tin cậy bằng các bước kiểm tra đằng sau nó. VPN sẽ không che giấu khuôn mặt bạn khỏi camera trên phố, vì vậy các biện pháp bảo vệ thực sự ở đây là pháp lý và thủ tục: giám sát, minh bạch và quyền phản đối sai sót.

Nếu bạn lo ngại, hãy theo dõi cách các quy định phát triển. Chú ý xem liệu pháp luật mới có đặt ra các yêu cầu rõ ràng về xác minh của con người trước khi hành động dựa trên một kết quả trùng khớp hay không, và liệu việc thanh tra độc lập có tiếp tục hay không.

Những điểm chính cần ghi nhớ

  • Một kết quả trùng khớp từ nhận diện khuôn mặt là một manh mối, không phải bằng chứng về danh tính.
  • Cơ quan giám sát phát hiện rằng một số sĩ quan đã hành động dựa trên các kết quả trùng khớp hồi tố mà không có đủ kiểm tra.
  • Người dân tộc thiểu số đối mặt với nguy cơ cao hơn từ các lỗi trùng khớp, theo cảnh báo.
  • Nếu bạn bị nhận dạng nhầm, hãy hỏi căn cứ, ghi chép lại, yêu cầu dữ liệu của bạn và tìm lời khuyên.
  • Hãy cập nhật thông tin: đọc về kế hoạch của chính phủ nhằm thắt chặt quy định nhận diện khuôn mặt của cảnh sát và xem cách các biện pháp bảo vệ được ghi nhận trong đánh giá quyền riêng tư LFR của Bộ Nội vụ.

Nguy cơ bắt giữ sai người do nhận diện khuôn mặt tại Vương quốc Anh phụ thuộc vào việc liệu xác minh có theo kịp công nghệ hay không. Cho đến khi điều đó xảy ra, biết quyền của bạn là biện pháp bảo vệ thực tế tốt nhất.