Trong một sự kiện được mô tả là lần đầu tiên tại Úc, Cảnh sát Tây Úc đã âm thầm triển khai camera nhận diện khuôn mặt bằng AI trực tiếp trên khắp Perth và Fremantle bắt đầu từ tháng Sáu. Chỉ trong một tuần của cuộc thử nghiệm...

Cuộc thử nghiệm nhận diện khuôn mặt trực tiếp mà hầu hết cư dân không hề hay biết

Trong một sự kiện được mô tả là lần đầu tiên tại Úc, Cảnh sát Tây Úc đã âm thầm triển khai camera nhận diện khuôn mặt bằng AI trực tiếp trên khắp Perth và Fremantle bắt đầu từ tháng Sáu. Chỉ trong một tuần của cuộc thử nghiệm, hệ thống đã quét hơn 130.000 khuôn mặt, tạo ra 33 cảnh báo và dẫn đến 18 vụ bắt giữ. Cảnh sát cũng cho biết công nghệ này đã giúp xác định và tiếp cận 21 tội phạm tình dục đã đăng ký trong khu vực.

Quy mô quét diện rộng tự nó đã đáng chú ý, nhưng điều thu hút sự soi xét nhiều nhất là cách nó diễn ra: những cư dân đi qua các con phố đó không được thông báo rằng họ đang bị quét. Không có chiến dịch biển báo, không có giai đoạn tham vấn công chúng, và không có cơ chế từ chối rõ ràng. Đối với nhiều người Úc, lần đầu tiên họ nghe về chương trình này là qua tin tức sau khi sự việc đã xảy ra, chứ không phải qua bất kỳ thông báo nào từ cảnh sát hoặc chính quyền địa phương.

Tại sao việc thiếu thông báo lại quan trọng

Hệ thống nhận diện khuôn mặt hoạt động bằng cách chụp hình ảnh của mọi người ở nơi công cộng và so sánh chúng với cơ sở dữ liệu, thường là theo thời gian thực. Khi quy trình đó chạy mà không có thông báo công khai, mọi người mất khả năng đưa ra lựa chọn sáng suốt về việc họ đi đâu, họ bị nhìn thấy cùng ai, hoặc cách di chuyển của họ có thể bị ghi lại và đối chiếu chéo như thế nào. Các nhà bảo vệ quyền riêng tư và chuyên gia pháp lý đã chỉ ra rằng điều này làm suy yếu một nguyên tắc cơ bản của giám sát: mọi người thường nên biết khi nào và cách họ bị theo dõi, đặc biệt là bởi các cơ quan chính phủ.

Cuộc thử nghiệm cũng tạo ra ít nhất một trường hợp nhận dạng sai được xác nhận, một lời nhắc nhở rằng ngay cả hệ thống AI tinh vi cũng có thể xác định nhầm người, đôi khi gây ra hậu quả từ bất tiện đến nghiêm trọng. Rủi ro nhận dạng sai cũng không được phân bổ đồng đều; các công cụ nhận diện khuôn mặt có lịch sử được ghi nhận rõ ràng về tỷ lệ lỗi cao hơn đối với một số nhóm nhân khẩu học nhất định, điều này làm dấy lên mối lo ngại về công bằng bên cạnh những lo ngại về quyền riêng tư.

Cảnh sát Tây Úc đã định khung kết quả theo hướng thắng lợi về an toàn công cộng, số vụ bắt giữ, số tội phạm được xác định và số cảnh báo được tạo ra. Nhưng các tổ chức giám sát quyền riêng tư lập luận rằng một đánh giá chi phí-lợi ích thực sự đòi hỏi sự minh bạch về các quy tắc của cuộc thử nghiệm: dữ liệu video và dữ liệu khớp được lưu giữ trong bao lâu, ai có thể truy cập, liệu nó có được chia sẻ với các cơ quan khác hay không, và điều gì xảy ra với dữ liệu sinh trắc học của hàng chục nghìn người đã bị quét nhưng không có liên quan gì đến bất kỳ cuộc điều tra nào.

Mô hình rộng hơn của việc thu thập dữ liệu sinh trắc học

Cuộc thử nghiệm này không tồn tại một cách riêng lẻ. Các chính phủ và công ty tư nhân trên toàn thế giới ngày càng chuyển sang xác minh sinh trắc học, dù là qua nhận diện khuôn mặt cho công tác cảnh sát, kiểm tra sinh trắc học tại sân bay, hoặc hệ thống xác minh độ tuổi quét khuôn mặt để ước tính tuổi người dùng trước khi cho phép truy cập vào một số nội dung hoặc dịch vụ nhất định. Mỗi hệ thống này đều đặt ra một câu hỏi cốt lõi tương tự: một hệ thống đơn lẻ nên được phép thu thập bao nhiêu dữ liệu sinh trắc học, và nên lưu giữ trong bao lâu? Độc giả tò mò về cách những sự đánh đổi này diễn ra trong một bối cảnh khác nhưng có liên quan có thể xem cách luật xác minh độ tuổi trên thế giới đang buộc các cuộc tranh luận tương tự về quét sinh trắc học, lưu trữ dữ liệu và sự đồng ý diễn ra, thường với mức độ nhận thức của công chúng thấp hơn nhiều so với tầm ảnh hưởng của công nghệ.

Cuộc thử nghiệm của Cảnh sát Tây Úc là một nghiên cứu điển hình hữu ích chính xác vì nó cho thấy điều gì xảy ra khi giám sát sinh trắc học chuyển từ tranh luận chính sách sang triển khai thực tế. Công nghệ hoạt động như dự kiến trong nhiều trường hợp, nhưng việc thiếu thông báo công khai rõ ràng, thiếu quy trình kiểm toán độc lập, hoặc thiếu các tùy chọn từ chối chính thức cho thấy khả năng công nghệ có thể vượt xa sự giám sát nhanh đến mức nào.

Điều này có ý nghĩa gì với bạn

Nếu bạn sống ở hoặc đến thăm Perth hoặc Fremantle, bạn có thể đã bị quét mà không hề hay biết, và động thái tương tự có thể lan sang các thành phố khác khi các chương trình thí điểm tương tự đang được xem xét ở những nơi khác. Ngay cả bên ngoài nước Úc, trường hợp này là một hình ảnh xem trước về nơi các cuộc thử nghiệm nhận diện khuôn mặt bằng AI ở không gian công cộng đang hướng tới: triển khai âm thầm được biện minh bằng số liệu an toàn, với các biện pháp bảo vệ quyền riêng tư thường được bổ sung sau khi sự việc xảy ra thay vì được xây dựng ngay từ đầu.

Bạn thường không thể từ chối một hệ thống nhận diện khuôn mặt trực tiếp ở nơi công cộng một khi nó đã hoạt động trong khu vực của bạn, và đó chính xác là lý do khiến sự minh bạch và tranh luận công khai trở nên quan trọng trước khi các hệ thống này đi vào hoạt động, chứ không phải sau đó.

Những điểm hành động cụ thể

• Kiểm tra xem lực lượng cảnh sát hoặc hội đồng thành phố địa phương của bạn có công bố thông tin về bất kỳ cuộc thử nghiệm nhận diện khuôn mặt nào, hiện tại hoặc dự kiến, và tìm kiếm quy trình phản hồi hoặc tham vấn công khai hay không.
• Ủng hộ các yêu cầu về chính sách lưu trữ và xóa dữ liệu rõ ràng bất cứ khi nào nhận diện khuôn mặt hoặc các công cụ sinh trắc học khác được đề xuất cho không gian công cộng.
• Thúc đẩy kiểm toán độc lập về độ chính xác và thiên vị trong bất kỳ hệ thống giám sát AI nào trước khi nó được mở rộng vượt quá giai đoạn thí điểm.
• Luôn cập nhật thông tin về cách dữ liệu sinh trắc học được thu thập cho một mục đích, chẳng hạn như công tác cảnh sát, có thể sau này được chia sẻ với các cơ quan khác hoặc công ty tư nhân.

Cuộc trò chuyện xung quanh các cuộc thử nghiệm nhận diện khuôn mặt bằng AI sẽ chỉ ngày càng lớn hơn khi nhiều thành phố thử nghiệm các hệ thống tương tự. Việc luôn cập nhật thông tin về cách các chương trình này được triển khai, và yêu cầu sự minh bạch khi chúng không được minh bạch, là một trong những cách thực tế nhất để công chúng có thể ảnh hưởng đến cách công nghệ này được sử dụng trong tương lai.