Một vụ bắt giữ sai trái được xây dựng trên phỏng đoán của máy móc

Một bà ngoại ở Tennessee đang kiện đòi 10 triệu đô sau khi bà cho rằng một kết quả khớp nhận diện khuôn mặt bằng AI được cho là đã khiến bà bị buộc tội sai về các tội trộm cắp ngân hàng ở North Dakota và bị giam giữ sáu tháng. Vụ việc, được ABC News đưa tin đầu tiên, đặt ra những câu hỏi nhức nhối về mức độ tin cậy mà các sở cảnh sát nên đặt vào các công cụ nhận diện tự động khi hậu quả của một sai sót có thể đồng nghĩa với nhiều tháng sau song sắt đối với một người vô tội.

Theo báo cáo, người phụ nữ này bị gắn với các tội gian lận ngân hàng mà bà nói rằng mình không thực hiện sau khi phần mềm nhận diện khuôn mặt liên kết hình ảnh của bà với đoạn phim giám sát. Bà đã bị giam giữ nửa năm trước khi vụ án chống lại bà sụp đổ, và hiện bà đang theo đuổi một vụ kiện đòi 10 triệu đô tiền bồi thường cho thử thách này.

Các lỗi nhận diện khuôn mặt xảy ra như thế nào

Các hệ thống nhận diện khuôn mặt hoạt động bằng cách so sánh một bức ảnh hoặc khung hình video với cơ sở dữ liệu hình ảnh và tạo ra điểm xác suất cho một kết quả khớp. Điểm đó là một ước tính thống kê, không phải là sự chắc chắn. Khi các điều tra viên hoặc công tố viên coi đầu ra của thuật toán như bằng chứng xác thực thay vì một manh mối trong nhiều manh mối, nguy cơ buộc tội sai sẽ tăng mạnh.

Các hệ thống này đã được ghi nhận có những khoảng trống về độ chính xác tùy thuộc vào chất lượng hình ảnh, ánh sáng, góc máy và thành phần nhân khẩu học của dữ liệu huấn luyện được dùng để xây dựng chúng. Một ảnh giám sát mờ hạt, một ảnh chụp nghiêng một phần, hoặc một biểu cảm bất thường đều có thể đẩy thuật toán tới một kết quả dương tính giả. Khi kết quả khớp sai lệch đó trở thành nền tảng cho lệnh bắt giữ, gánh nặng chứng minh vô tội chuyển sang người bị buộc tội sai, thường với những hậu quả thay đổi cuộc đời như sáu tháng bị giam giữ được mô tả trong vụ việc này.

Những gì đang bị đặt cược về quyền riêng tư và tự do dân sự

Vụ kiện này là một phần của một mô hình lo ngại rộng hơn về cách các cơ quan thực thi pháp luật triển khai nhận diện khuôn mặt mà không có các tiêu chuẩn quốc gia nhất quán, sự giám sát hoặc các yêu cầu minh bạch. Không giống như kết quả khớp dấu vân tay hoặc DNA, thường phải trải qua quá trình xác thực pháp y nghiêm ngặt trước khi được sử dụng tại tòa, kết quả nhận diện khuôn mặt có thể được tạo ra tức thì và được áp dụng với mức độ soi xét ít hơn nhiều ngoài thực địa.

Vấn đề cốt lõi là vấn đề về dữ liệu và sự đồng thuận. Hầu hết những người có khuôn mặt cuối cùng nằm trong các hệ thống khớp này chưa bao giờ đồng ý để hình ảnh của họ được sử dụng theo cách này. Ảnh được lấy từ cơ sở dữ liệu giấy phép lái xe, mạng xã hội hoặc camera giám sát công cộng đều có thể được đưa vào các công cụ nhận diện mà cá nhân không hề hay biết. Khi một thuật toán sai, người bị tổn hại thường không biết rằng dữ liệu sinh trắc học của mình thậm chí là một phần của quá trình cho đến khi họ đã phải đối mặt với các cáo buộc hình sự.

Sự thiếu minh bạch đó phản chiếu các cuộc tranh luận đang diễn ra ở các lĩnh vực khác của chính sách số, nơi câu hỏi cốt lõi là ai kiểm soát dòng chảy dữ liệu cá nhân và theo những quy tắc nào. Cũng như các cuộc thảo luận xung quanh net neutrality tập trung vào việc đảm bảo đối xử công bằng và bình đẳng với thông tin di chuyển qua các mạng, cuộc tranh luận về nhận diện khuôn mặt tập trung vào việc đảm bảo đối xử công bằng và có trách nhiệm với dữ liệu sinh trắc học cá nhân di chuyển qua các hệ thống thực thi pháp luật.

Điều này có ý nghĩa gì với bạn

Hầu hết mọi người sẽ không bao giờ đối mặt với một vụ bắt giữ sai trái gắn với nhận diện khuôn mặt, nhưng vụ việc này là lời nhắc nhở rằng dữ liệu sinh trắc học được thu thập cho một mục đích có thể cuối cùng được sử dụng theo những cách mà cá nhân chưa bao giờ lường trước hoặc đồng ý. Khuôn mặt của bạn, không giống như mật khẩu, không thể thay đổi nếu nó bị lạm dụng hoặc bị một hệ thống khiếm khuyết khớp sai.

Nếu bạn sống hoặc làm việc ở một khu vực nơi các sở cảnh sát sử dụng công nghệ nhận diện khuôn mặt, điều đáng làm là hiểu rõ những chính sách địa phương, nếu có, điều chỉnh việc sử dụng đó. Một số khu vực pháp lý yêu cầu con người xem xét trước khi một kết quả khớp thuật toán có thể dẫn đến một vụ bắt giữ, trong khi những nơi khác thì không. Biết liệu những biện pháp bảo vệ đó có tồn tại trong cộng đồng của bạn hay không có thể giúp bạn vận động cho các biện pháp bảo vệ mạnh mẽ hơn nếu chúng đang thiếu.

Đối với những cá nhân lo ngại về dấu vết sinh trắc học của chính mình, việc xem lại cài đặt quyền riêng tư trên các nền tảng mạng xã hội, hiểu rõ cơ sở dữ liệu chính phủ nào lưu trữ ảnh của bạn, và cập nhật thông tin về luật pháp địa phương và tiểu bang về nhận diện khuôn mặt là những bước thực tế. Các nhóm vận động và nhà lập pháp ở một số tiểu bang đã thúc đẩy các hạn chế hoặc lệnh cấm đối với việc cảnh sát sử dụng công nghệ này, và áp lực công chúng trong lịch sử đã là một yếu tố thúc đẩy những thay đổi chính sách đó.

Bức tranh lớn hơn

Vụ kiện đòi 10 triệu đô này có khả năng sẽ tiếp tục thu hút sự chú ý khi nó tiến triển qua hệ thống pháp lý, và nó bổ sung vào một khối lượng ngày càng tăng các vụ án thách thức cách các công cụ nhận diện khuôn mặt bằng AI được sử dụng trong các cuộc điều tra hình sự. Dù kết quả ra sao, vụ việc nhấn mạnh một sự thật đơn giản: công nghệ được tiếp thị như một lối tắt điều tra mang theo những cái giá thực sự về con người khi nó thất bại, và những cái giá đó giáng nặng nhất lên những người ít có khả năng chống trả nhất.

Khi các công cụ nhận diện khuôn mặt trở nên phổ biến hơn trong hoạt động cảnh sát, việc cập nhật thông tin về cách các hệ thống này hoạt động, dữ liệu sinh trắc học của bạn được lưu trữ ở đâu, và những biện pháp bảo vệ nào tồn tại trong khu vực của bạn là một trong những cách thực tế nhất để bảo vệ bản thân khỏi trở thành tiêu đề cảnh báo tiếp theo.