Lần đầu tiên trong lịch sử ngành cảnh sát Úc
Cảnh sát Tây Úc đã trở thành lực lượng đầu tiên trong cả nước triển khai công nghệ nhận dạng khuôn mặt trực tiếp tại các không gian công cộng, và hệ thống này không mất nhiều thời gian để cho ra kết quả. Trong quá trình thử nghiệm, các sĩ quan đã sử dụng công nghệ này để nhận dạng và bắt giữ một người theo thời gian thực – một cột mốc mà phía cảnh sát coi là bằng chứng về tính khả thi của ý tưởng, còn những người ủng hộ quyền riêng tư lại xem đó như một hồi chuông cảnh báo.
Hệ thống hoạt động bằng cách quét các luồng video trực tiếp, được cho là xử lý hàng trăm khuôn mặt mỗi phút, và ngay lập tức đối chiếu chúng với cơ sở dữ liệu hình ảnh của cảnh sát. Không giống như nhận dạng khuôn mặt truyền thống vốn thường được sử dụng sau khi sự việc xảy ra để so khớp cảnh quay từ hiện trường vụ án với cơ sở dữ liệu, công nghệ này hoạt động ngay trong thời điểm hiện tại, gắn cờ các kết quả trùng khớp cho sĩ quan khi người dân đi qua các camera được giám sát theo thời gian thực. Thử nghiệm được cho là đã sử dụng một xe cảnh sát có gắn biển hiệu đỗ gần các sự kiện lớn và tại các khu vực công cộng đông đúc, với hệ thống kiểm tra các khuôn mặt dựa trên thứ mà giới chức mô tả là một danh sách cảnh báo được kiểm soát chặt chẽ gồm các hình ảnh cảnh sát được lưu giữ hợp pháp.
Lý do những người ủng hộ quyền riêng tư lo ngại
Vụ bắt giữ trực tiếp này được Cảnh sát Tây Úc đưa ra làm bằng chứng cho thấy công nghệ này thực sự hiệu quả. Nhưng những người chỉ trích lại nhìn nhận chính sự kiện đó như sự khởi đầu của một cuộc đối thoại lớn hơn nhiều về việc công chúng sẵn sàng chấp nhận mức độ giám sát đến đâu để đổi lấy sự tiện lợi hay an toàn.
Ba mối lo ngại liên tục nổi lên. Thứ nhất là nguy cơ cảnh báo sai: các hệ thống nhận dạng khuôn mặt, ngay cả những hệ thống được tinh chỉnh tốt, cũng có thể nhận dạng sai người, và một lá cờ sai trong bối cảnh cảnh sát hoạt động trực tiếp có thể đồng nghĩa với việc một người vô tội bị chặn lại, thẩm vấn, hoặc tệ hơn, dựa trên lỗi của máy tính thay vì bằng chứng thực tế. Thứ hai là thiên kiến thuật toán. Các hệ thống nhận dạng khuôn mặt có một lịch sử được ghi nhận về việc hoạt động kém chính xác hơn ở các nhóm nhân khẩu học khác nhau, làm dấy lên lo ngại rằng một số cộng đồng có thể bị ảnh hưởng không tương xứng bởi các kết quả trùng khớp sai. Thứ ba, và có lẽ là dai dẳng nhất, là mối lo ngại về sự mở rộng phạm vi chức năng: công nghệ được giới thiệu cho một mục đích hẹp, chẳng hạn như nhận dạng những người trong một danh sách cảnh báo cụ thể tại các sự kiện lớn, có thể dần dần mở rộng phạm vi cho đến khi trở thành một công cụ thường quy để giám sát công chúng rộng rãi hơn.
Điểm cuối cùng này chính là nơi tập trung phần lớn sự phản đối. Một khi cơ sở hạ tầng và sự chấp nhận của công chúng đã tồn tại để quét đám đông tại một lễ hội âm nhạc hay sự kiện thể thao, thì có rất ít rào cản kỹ thuật ngăn nó được sử dụng tại các cuộc biểu tình, trung tâm trung chuyển giao thông, hay những góc phố thông thường. Những người chỉ trích lập luận rằng các thử nghiệm như thế này có xu hướng bình thường hóa việc giám sát một cách từng bước, với mỗi lần mở rộng được biện minh bởi thành công của lần trước đó.
Vấn đề dữ liệu lớn hơn
Các thử nghiệm nhận dạng khuôn mặt không chỉ đặt ra câu hỏi về chiến thuật cảnh sát; chúng còn đặt ra câu hỏi về quản trị dữ liệu. Mỗi khuôn mặt được quét, so khớp, hoặc ghi nhật ký đều trở thành một điểm dữ liệu nằm bên trong một hệ thống của chính phủ, và các hệ thống chính phủ không phải lúc nào cũng chứng tỏ được mình là những người quản lý đáng tin cậy đối với thông tin cá nhân nhạy cảm. Dữ liệu sinh trắc học đặc biệt nhạy cảm bởi vì, không giống như mật khẩu, một khuôn mặt không thể thay đổi được nếu nó bị lộ hoặc bị sử dụng sai mục đích.
Đây chính là điểm mà thử nghiệm của Tây Úc kết nối với một xu hướng lo ngại rộng hơn xung quanh công nghệ trong khu vực công. Các cơ quan chính phủ ngày càng nắm giữ khối lượng lớn dữ liệu cá nhân, từ hồ sơ cấp phép đến quét sinh trắc học, và thành tích trong việc giữ an toàn cho dữ liệu đó là không đồng đều. Những vấn đề như vụ việc được mô tả chi tiết trong bài WA DOL Data Breach: When Government Systems Fail You cho thấy các lỗ hổng trong hệ thống chính phủ có thể tồn tại trong nhiều năm trước khi được giải quyết, và hậu quả đổ trực tiếp lên đầu những người dân bình thường mà thông tin của họ lẽ ra phải được bảo vệ. Một danh sách cảnh báo của hệ thống nhận dạng khuôn mặt, về bản chất, là một cơ sở dữ liệu nhạy cảm khác của chính phủ, và tính bảo mật của nó cũng quan trọng không kém gì độ chính xác.
Điều này có ý nghĩa gì với bạn
Đối với cư dân Tây Úc, và đối với bất kỳ ai đang theo dõi thử nghiệm này như một dấu hiệu báo trước cho công nghệ cảnh sát ở những nơi khác, tác động trước mắt là có giới hạn: hệ thống hiện đang kiểm tra các khuôn mặt dựa trên một danh sách cảnh báo cụ thể thay vì ghi nhật ký tất cả những người đi ngang qua. Nhưng thử nghiệm này đánh dấu một sự chuyển dịch có ý nghĩa trong cách các không gian công cộng có thể bị giám sát, và việc đặt câu hỏi trước khi công nghệ này trở thành vĩnh viễn hoặc mở rộng là điều hoàn toàn hợp lý.
Bạn không cần phải là một chuyên gia công nghệ mới có quyền lợi liên quan đến vấn đề này. Các thử nghiệm công khai như thế này thường được tiếp nối bởi các cuộc đánh giá, tham vấn công chúng, hoặc giám sát của nghị viện, và phản hồi của công chúng trong những khoảng thời gian này thực sự định hình liệu các biện pháp giám sát có được tích hợp vào hay không. Hiểu được những gì đang bị quét, ai nằm trong danh sách cảnh báo, và dữ liệu được lưu giữ trong bao lâu là những câu hỏi hợp lý cho bất kỳ cộng đồng nào lần đầu tiên đối mặt với loại công nghệ này.
Những điểm chính cần ghi nhớ
- Nhận dạng khuôn mặt trực tiếp khác với so khớp sau khi sự việc xảy ra: nó gắn cờ người dân theo thời gian thực khi họ đi qua các camera được giám sát, làm tăng mức độ rủi ro của bất kỳ sai sót nào.
- Kết quả dương tính giả và thiên kiến thuật toán vẫn là những rủi ro thực sự, ngay cả trong các thử nghiệm được định hình là hạn hẹp và có kiểm soát.
- Sự mở rộng phạm vi chức năng, việc mở rộng dần dần mục đích ban đầu của một công cụ, là mối lo ngại mà các chuyên gia đang theo dõi sát sao nhất.
- Quản trị dữ liệu quan trọng không kém gì độ chính xác. Một cơ sở dữ liệu nhận dạng khuôn mặt là một kho lưu trữ dữ liệu cá nhân nhạy cảm khác cần có bảo mật và giám sát chặt chẽ.
- Sự giám sát của công chúng trong các giai đoạn thử nghiệm là một trong số ít cơ hội mà ý kiến đóng góp của cộng đồng có thể định hình cách thức, hoặc liệu rằng, công nghệ này có trở thành vĩnh viễn hay không.
Khi Cảnh sát Tây Úc mở rộng và đánh giá thử nghiệm này, cuộc đối thoại xung quanh nhận dạng khuôn mặt trực tiếp sẽ chỉ ngày càng lớn hơn. Cập nhật thông tin về cách các hệ thống này được triển khai, và đặt câu hỏi về giám sát cũng như bảo vệ dữ liệu, là cách thiết thực nhất để công chúng có tiếng nói trong việc định hình hướng đi tiếp theo của công nghệ này.
