Một bức biếm họa mang thông điệp nghiêm túc
Khi một họa sĩ biếm họa châm biếm công nghệ nhận diện khuôn mặt trong siêu thị, đáng để dừng lại và tự hỏi trò đùa đó thực sự chỉ vào điều gì. Bộ truyện tranh First Dog on the Moon của The Guardian, đăng dưới tiêu đề "Làn sóng trộm cắp?! Đặt công nghệ nhận diện khuôn mặt ở khắp mọi nơi sẽ giải quyết được," chế nhạo ý tưởng rằng các gã khổng lồ bán lẻ Australia là Coles và Woolworths có thể giải quyết nạn trộm cắp chỉ đơn giản bằng cách phủ kín cửa hàng bằng camera và phần mềm sinh trắc học. Điểm nhấn của trò đùa nằm ở chỗ nó dựa trên điều có thật: các thuật toán nhận diện khuôn mặt có những thiên kiến đã được ghi nhận, và các công ty triển khai chúng về cơ bản đang yêu cầu công chúng tin rằng họ sẽ không lạm dụng một công nghệ vốn đã được biết đến là có thể mắc sai lầm.
Đó chính là sự căng thẳng nằm ở trung tâm của câu chuyện này. Các nhà bán lẻ định nghĩa nhận diện khuôn mặt như một bản nâng cấp an ninh đơn giản, một cách để xác định những kẻ phạm tội đã biết trước khi họ đến quầy thanh toán. Nhưng công nghệ này không hoạt động trong môi trường chân không. Nó quét, lưu trữ và đối chiếu khuôn mặt của mọi khách hàng bước qua cửa, dù họ có từng bị nghi ngờ điều gì hay không.
Vì sao thiên kiến của nhận diện khuôn mặt lại quan trọng trong bán lẻ
Các hệ thống nhận diện khuôn mặt có một thành tích đã được xác lập rõ ràng về việc hoạt động không đồng đều giữa các nhóm nhân khẩu học khác nhau. Các nghiên cứu và kiểm tra độc lập qua nhiều năm liên tục phát hiện rằng tỷ lệ lỗi không được phân bổ đồng đều, nghĩa là một số khách hàng có khả năng bị nhận diện sai cao hơn về mặt thống kê so với những người khác. Trong môi trường bán lẻ, một kết quả khớp sai không chỉ tạo ra một thông báo bất tiện. Nó có thể khiến khách hàng bị chặn lại, bị chất vấn, hoặc bị yêu cầu rời khỏi cửa hàng dù họ không làm gì sai.
Lời hứa từ các siêu thị rằng họ sẽ sử dụng công nghệ này một cách có trách nhiệm không thay đổi vấn đề cốt lõi về độ chính xác. Một cam kết của doanh nghiệp về việc tránh lạm dụng là một cam kết chính sách, không phải là giải pháp kỹ thuật. Thuật toán vẫn mắc những lỗi thống kê tương tự bất kể công ty nói rằng họ sẽ quản lý việc sử dụng nó cẩn thận đến đâu. Đây chính xác là khoảng cách mà bức biếm họa đang chế giễu: sự lệch pha giữa một công cụ vốn có sai sót và ngôn ngữ đầy tự tin dùng để bán nó như một giải pháp.
Dữ liệu nằm ở đâu đó, và đó cũng là một rủi ro
Ngoài vấn đề nhận diện sai, còn có một lớp lo ngại thứ hai thường ít được chú ý hơn: dữ liệu sinh trắc học sẽ đi đâu sau khi được thu thập. Các hệ thống nhận diện khuôn mặt yêu cầu lưu trữ các mẫu khuôn mặt, hình ảnh hoặc nhật ký đối chiếu, và bất kỳ cơ sở dữ liệu nào thuộc loại đó đều trở thành mục tiêu tấn công. Các nhà bán lẻ theo truyền thống không phải là những tổ chức ưu tiên an ninh theo cách mà ngân hàng hoặc công ty viễn thông là vậy, và mô hình chung về tính dễ bị tổn thương của doanh nghiệp là điều đáng ghi nhớ. Các báo cáo về các nhà sản xuất Anh bị tấn công mạng phát hiện rằng một phần lớn các công ty công nghiệp đã bị xâm nhập trong năm qua trong khi nhiều công ty vẫn chưa chuẩn bị sẵn sàng, một lời nhắc nhở rằng các lĩnh vực ngoài công nghệ truyền thống thường bị thiếu nguồn lực cho các yêu cầu an ninh của lượng dữ liệu mà họ hiện đang nắm giữ. Một chuỗi siêu thị lưu trữ các mẫu sinh trắc học của hàng triệu khách hàng đang gánh một loại rủi ro tương tự, dù họ có hạ tầng phù hợp hay không.
Cũng có một mô hình đáng chú ý trong cách công nghệ xác minh được triển khai với những lời hứa đầy tự tin mà không phải lúc nào cũng đứng vững dưới sự giám sát. Các cơ quan quản lý đã đặt ra những câu hỏi tương tự ở những nơi khác, chẳng hạn như khi Ofcom mở cuộc điều tra về hệ thống xác minh độ tuổi của TikTok sau những lo ngại rằng các kiểm tra này không hoạt động như quảng cáo. Nhận diện khuôn mặt trong bán lẻ tuân theo một kịch bản tương tự: một công nghệ được giới thiệu như giải pháp cho một vấn đề thực tế, đi kèm với những đảm bảo về việc sử dụng có trách nhiệm, trong khi các câu hỏi về độ chính xác và sự giám sát vẫn phần lớn chưa được giải quyết.
Điều này có nghĩa gì với bạn
Nếu bạn mua sắm tại một cửa hàng sử dụng nhận diện khuôn mặt, khuôn mặt của bạn đang bị quét và có khả năng bị đối chiếu với một cơ sở dữ liệu mỗi lần bạn bước vào, bất kể bạn có từng làm điều gì sai hay không. Bạn khó có thể được thông báo hệ thống cụ thể nào đang được sử dụng, dữ liệu của bạn được lưu giữ bao lâu, hoặc có biện pháp kháng nghị nào nếu bạn bị gắn cờ sai. Các lời hứa của doanh nghiệp về việc sử dụng có trách nhiệm không phải là những cam kết có thể thực thi, và chúng không giải quyết các vấn đề về độ chính xác của thuật toán vốn được nhúng sẵn trong chính công nghệ đó.
Điều này không có nghĩa mọi việc sử dụng nhận diện khuôn mặt đều có ác ý hoặc mọi khách hàng đều gặp rủi ro đáng kể. Nhưng điều đó có nghĩa gánh nặng chứng minh nên thuộc về các công ty triển khai công nghệ này, chứ không phải khách hàng đi ngang qua camera của họ. Lòng tin vào bất kỳ hệ thống nào xử lý dữ liệu cá nhân nhạy cảm, dù là sinh trắc học hay không, nên được củng cố bằng các thực hành có thể kiểm chứng thay vì các tuyên bố trấn an. Đó là tiêu chuẩn tương tự đáng áp dụng cho mọi dịch vụ xử lý dữ liệu của bạn, bao gồm các thực hành an ninh được kiểm toán độc lập thay vì những tuyên bố chưa được xác minh về hành vi tốt.
Những điều cần lưu ý cho người mua sắm
Hãy chú ý đến các biển báo ở lối vào cửa hàng về việc sử dụng công nghệ giám sát hoặc nhận diện khuôn mặt, và đừng ngần ngại hỏi nhân viên hoặc bộ phận dịch vụ khách hàng của công ty xem dữ liệu nào được thu thập và được giữ trong bao lâu. Nếu bạn tin rằng mình bị nhận diện sai, hãy yêu cầu một cuộc xem xét chính thức thay vì chấp nhận một quyết định tại chỗ. Và rộng hơn, hãy nhớ rằng lời hứa của một công ty về việc sử dụng công nghệ nhận diện khuôn mặt một cách có trách nhiệm không đồng nghĩa với bằng chứng rằng hệ thống hoạt động công bằng. Khi công nghệ này lan rộng vào nhiều không gian đời thường hơn, từ siêu thị đến giao thông công cộng, những câu hỏi được đặt ra bởi một bức biếm họa trào phúng đáng được coi trọng không kém bất kỳ cuộc tranh luận chính sách chính thức nào.
