Amazon Rekognition bị kiện vì vụ bắt oan một người đàn ông ở Missouri

Kết quả khớp kém chất lượng, 17 tháng oan sai

Cuộc chiến pháp lý của một người đàn ông ở Missouri chống lại án tù oan sai đã có bước ngoặt quan trọng, và hiện đưa một trong những công ty điện toán đám mây lớn nhất thế giới vào tầm ngắm trực tiếp. Christopher Gatlin đã nộp đơn kiện bổ sung vào thứ Năm tuần trước, cáo buộc rằng việc bắt giữ và truy tố anh xuất phát từ công tác điều tra kém của cảnh sát, xây dựng trên một kết quả khớp nhận diện khuôn mặt chất lượng thấp do Amazon Rekognition tạo ra. Gatlin được cho là đã ở tù 17 tháng trước khi vụ án chống lại anh sụp đổ, và đơn kiện cập nhật của anh hiện bổ sung Amazon Web Services (AWS) làm bị đơn, một động thái có thể tạo tiền lệ mới về mức độ trách nhiệm mà các nhà cung cấp công nghệ phải gánh chịu khi công cụ của họ bị cơ quan thực thi pháp luật sử dụng sai mục đích.

Câu hỏi cốt lõi trọng tâm của vụ án này không mới đối với những người theo dõi công nghệ sinh trắc học, nhưng hiếm khi được kiểm chứng trực tiếp tại tòa như thế này: khi một hệ thống nhận diện khuôn mặt tạo ra kết quả không đáng tin cậy và cảnh sát vẫn coi đó là bằng chứng vững chắc, thì ai chịu trách nhiệm? Trong lịch sử, hầu hết các vụ kiện về nhận diện khuôn mặt sai đều tập trung gần như hoàn toàn vào các sở cảnh sát và sĩ quan đã hành động dựa trên kết quả khớp sai. Việc nêu tên AWS làm đồng bị đơn chuyển một phần cuộc tranh luận pháp lý sang công ty đã xây dựng và cấp phép công nghệ nền tảng.

Vì sao độ chính xác của nhận diện khuôn mặt liên tục bị chỉ trích

Các hệ thống nhận diện khuôn mặt, bao gồm Amazon Rekognition, đã phải hứng chịu nhiều năm chỉ trích về các vấn đề độ chính xác, đặc biệt khi làm việc với hình ảnh chất lượng thấp hoặc cố gắng nhận dạng người thuộc các nhóm nhân khẩu khác nhau. Các cơ quan thực thi pháp luật ngày càng dựa vào những công cụ này để tạo ra manh mối điều tra, nhưng các nhà phê bình cho rằng kết quả "khớp" do máy tính tạo ra quá thường xuyên bị các sĩ quan coi là bằng chứng gần như chắc chắn thay vì là điểm khởi đầu cần được xác minh độc lập.

Vụ án của Gatlin dường như khớp với mô hình này. Đơn kiện bổ sung mô tả việc bắt giữ anh không phải là một sai sót hành chính cá biệt, mà là kết quả có thể dự đoán trước của một quy trình trong đó đầu ra thuật toán yếu kém được phép thúc đẩy một cuộc điều tra hình sự mà không có đủ bằng chứng chứng thực. Nếu tòa án xác định AWS phải chia sẻ trách nhiệm về cách sản phẩm của họ được triển khai, hoặc về việc thiếu hướng dẫn đầy đủ về các giới hạn của sản phẩm, điều này có thể buộc các nhà cung cấp AI và đám mây trên toàn ngành phải xem xét lại cách họ cấp phép công cụ nhận diện khuôn mặt cho các sở cảnh sát, cũng như các cảnh báo hoặc biện pháp bảo vệ mà họ đính kèm vào hợp đồng.

Vụ án này cũng đến vào thời điểm các hoạt động bảo mật và dữ liệu rộng lớn hơn của Amazon đã bị đặt dưới kính lúp. Công ty đã phải đối mặt với sự giám sát về các sự cố hạ tầng đám mây ảnh hưởng đến bên thứ ba, bao gồm các báo cáo về vụ ShinyHunters tuyên bố đánh cắp dữ liệu Amazon One Medical và một sự cố riêng biệt trong đó một khóa AWS bị lộ dẫn đến vi phạm dữ liệu tại Beacon CRM, ảnh hưởng đến dữ liệu tổ chức từ thiện của Anh. Không sự cố nào trong số đó liên quan trực tiếp đến Rekognition, nhưng cùng nhau chúng vẽ nên bức tranh về một công ty có dấu chân công nghệ rộng lớn, trải dài từ lưu trữ đám mây, AI đến các công cụ sinh trắc học, đang phải đối mặt với những câu hỏi ngày càng tăng về trách nhiệm giải trình khi mọi thứ trục trặc.

Bức tranh lớn hơn: Niềm tin vào các công cụ nhận dạng tự động

Nhận diện khuôn mặt chỉ là một nhánh của một cái cây lớn hơn nhiều gồm các công nghệ xác minh danh tính tự động đang mở rộng vào đời sống hàng ngày, từ công tác trị an đến xác minh độ tuổi trên các trang web và ứng dụng. Khi các hệ thống này ngày càng ăn sâu vào các quyết định ảnh hưởng đến tự do, quyền riêng tư và khả năng tiếp cận dịch vụ của con người, khả năng chấp nhận sai sót càng thu hẹp. Nghiên cứu gần đây về mức độ dễ dàng vượt qua của một số công cụ xác minh độ tuổi, chẳng hạn như ở thanh thiếu niên Anh né tránh kiểm tra độ tuổi trực tuyến bằng cách nói dối, càng nhấn mạnh một mối lo ngại liên quan: các hệ thống tự động được tiếp thị như những biện pháp bảo vệ đáng tin cậy không phải lúc nào cũng chính xác hoặc hoàn hảo như quảng cáo, bất kể lĩnh vực chúng được triển khai.

Điều này có ý nghĩa gì đối với bạn

Đối với người dùng internet hàng ngày và những độc giả quan tâm đến quyền riêng tư, vụ kiện này là lời nhắc nhở rằng các công nghệ sinh trắc học và xác minh danh tính, dù có vẻ tiên tiến đến đâu, vẫn có thể tạo ra kết quả sai lầm với hậu quả nghiêm trọng trong đời thực. Bạn có thể không bao giờ tương tác trực tiếp với Amazon Rekognition, nhưng nhận diện khuôn mặt và các công cụ nhận dạng tương tự ngày càng được sử dụng bởi các nhà bán lẻ, nhà tuyển dụng, cơ quan chính phủ và cơ quan thực thi pháp luật, thường không có sự công bố rõ ràng cho công chúng. Các kết cục oan sai liên quan đến các hệ thống này, bao gồm cả bắt oan, không chỉ là rủi ro lý thuyết; chúng là những sự việc được ghi nhận đặt ra những câu hỏi chính đáng về giám sát, minh bạch và trách nhiệm giải trình của nhà cung cấp.

Những điểm chính

• Amazon Rekognition đang phải đối mặt với sự giám sát pháp lý trực tiếp trong một vụ án mà kết quả khớp nhận diện khuôn mặt chất lượng thấp được cho là đã góp phần gây ra án tù oan 17 tháng.
• Đơn kiện bổ sung thêm AWS làm bị đơn, có khả năng mở rộng trách nhiệm pháp lý vượt ra ngoài phạm vi sở cảnh sát liên quan.
• Vụ án có thể ảnh hưởng đến cách các nhà cung cấp công nghệ cấu trúc hợp đồng, tuyên bố miễn trừ trách nhiệm và hướng dẫn về độ chính xác cho các khách hàng thực thi pháp luật sử dụng công cụ sinh trắc học.
• Độc giả nên cập nhật thông tin về nơi và cách thức công nghệ nhận diện khuôn mặt và xác minh danh tính được sử dụng trong cộng đồng của mình, đồng thời ủng hộ sự minh bạch và các tiêu chuẩn xác minh độc lập.
• Vụ án này là một câu chuyện đang phát triển đáng theo dõi, vì kết quả của nó có thể định hình các tiêu chuẩn trách nhiệm giải trình cho công nghệ nhận diện khuôn mặt trên toàn ngành.

Khi vụ kiện này tiếp tục diễn ra, sẽ đáng để theo dõi liệu tòa án có sẵn sàng buộc các nhà cung cấp công nghệ như Amazon chịu một phần trách nhiệm về cách công cụ của họ được sử dụng, chứ không chỉ cách chúng được xây dựng hay không. Kết quả có thể tạo ra những tác động lan tỏa vượt xa vụ án đơn lẻ ở Missouri này, định hình tương lai của trách nhiệm giải trình trong nhận diện khuôn mặt trên toàn quốc.