Các nhóm vì quyền kỹ thuật số phản đối giám sát kiểu Palantir

Ngày càng nhiều liên minh vì quyền kỹ thuật số đang nêu lo ngại về hướng đi của công nghệ trong khu vực công, và Palantir đã trở thành biểu tượng cho điều mà các nhà phê bình mô tả là kiểm soát xã hội ngầm, liên tục và từ xa. Trong số các nhóm lên tiếng cảnh báo có Trung tâm Hermes vì Minh bạch và Quyền Kỹ thuật số, tổ chức đang vận động chống lại giám sát hàng loạt, nhận diện khuôn mặt và việc sử dụng thuật toán một cách thiếu minh bạch trong các quyết định công.

Cốt lõi của mối lo ngại không nhất thiết nằm ở bất kỳ công ty hay sản phẩm đơn lẻ nào. Đó là một khuôn mẫu: các chính phủ và thể chế ngày càng dựa vào các nền tảng phân tích dữ liệu mạnh mẽ để đưa ra quyết định ảnh hưởng đến người dân thường, thường không có lời giải thích công khai rõ ràng về cách các hệ thống này hoạt động, dữ liệu nào nuôi dưỡng chúng, hoặc ai chịu trách nhiệm khi chúng sai sót. Công nghệ giám sát Palantir đã trở thành điểm tham chiếu lặp đi lặp lại trong cuộc tranh luận này vì nó đại diện cho kiểu tích hợp dữ liệu quy mô lớn, luôn hoạt động mà các nhà bảo vệ quyền riêng tư lo ngại nhất.

Điều gì khiến sự thiếu minh bạch của thuật toán đáng lo ngại

Giám sát hàng loạt và nhận diện khuôn mặt là những khái niệm tương đối dễ hiểu đối với hầu hết mọi người: camera theo dõi, hệ thống đối chiếu khuôn mặt với cơ sở dữ liệu, và các quyết định được đưa ra. Việc sử dụng thuật toán một cách thiếu minh bạch trong các quyết định công là một vấn đề tinh vi hơn. Khi một thuật toán ảnh hưởng đến ưu tiên thực thi pháp luật, điều kiện hưởng phúc lợi, hoặc chấm điểm rủi ro, nhưng logic đằng sau nó không được công bố hoặc kiểm toán độc lập, những người bị ảnh hưởng hầu như không có khả năng phản đối hoặc thậm chí hiểu được kết quả.

Sự thiếu minh bạch này càng trở nên trầm trọng hơn bởi phần lớn hoạt động này diễn ra âm thầm trong hậu trường của đời sống số hằng ngày. Mỗi lần trình duyệt kết nối với máy chủ, nó trao đổi siêu dữ liệu có thể được sử dụng để nhận dạng, phân loại hoặc theo dõi người dùng — thông tin được mang trong những thứ như tiêu đề HTTP. Một cách riêng lẻ, những tín hiệu này có vẻ tầm thường. Khi được tổng hợp ở quy mô lớn bởi một nền tảng dữ liệu tinh vi, chúng có thể trở thành một phần của hồ sơ lớn hơn nhiều, chính xác là loại tích hợp mà các nhóm như Trung tâm Hermes đang cảnh báo.

Vì sao dữ liệu tập trung là con dao hai lưỡi

Sức hấp dẫn của các nền tảng được xây dựng để tích hợp dữ liệu hàng loạt nằm ở hiệu quả: gộp các bản ghi phân tán vào một hệ thống duy nhất để phát hiện các mẫu nhanh hơn bất kỳ nhà phân tích con người nào có thể làm được. Nhưng tập trung dữ liệu nhạy cảm cũng tập trung rủi ro. Khi lượng thông tin khổng lồ nằm ở một nơi, một thất bại duy nhất — dù do lạm dụng, giám sát kém, hay vi phạm bảo mật — có thể gây ra hậu quả vượt ngoài tỷ lệ.

Các sự cố gần đây bên ngoài lĩnh vực công nghệ giám sát minh họa rõ mức độ thiệt hại mà việc lộ dữ liệu quy mô lớn có thể gây ra. Vụ vi phạm nhắm vào gã khổng lồ dược phẩm Novo Nordisk, trong đó 1,3 terabyte dữ liệu thử nghiệm lâm sàng bị đánh cắp theo báo cáo, cho thấy ngay cả các tổ chức được quản lý chặt chẽ cũng có thể mất kiểm soát đối với kho dữ liệu nhạy cảm khổng lồ một khi nó được tập trung hóa. Logic tương tự áp dụng cho các hệ thống giám sát khu vực công: càng nhiều dữ liệu mà thuật toán hấp thụ và đối chiếu, thì rủi ro càng cao nếu hệ thống đó bị lạm dụng, bị hack, hoặc được áp dụng mà không có sự giám sát phù hợp.

Điều này có nghĩa gì đối với bạn

Hầu hết độc giả sẽ không tương tác trực tiếp với các nền tảng giám sát của chính phủ, nhưng các động lực nền tảng — tập trung hóa dữ liệu, ra quyết định thiếu minh bạch, và thu thập dữ liệu thụ động — cũng xuất hiện trong các công cụ kỹ thuật số hằng ngày. Hiểu cách dấu vết dữ liệu của chính bạn được xây dựng, qua siêu dữ liệu trình duyệt, quyền ứng dụng, hoặc nhận diện khuôn mặt được sử dụng trong môi trường thương mại, là bước đầu tiên thiết thực để giành lại một phần kiểm soát.

Bạn không cần phải là chuyên gia bảo mật để phản đối. Ủng hộ các yêu cầu minh bạch, đặt câu hỏi về cách các hệ thống tự động đưa ra quyết định ảnh hưởng đến bạn, và giảm thiểu dấu chân kỹ thuật số bạn để lại đều là những hành động thực tế mà người dùng internet bình thường có thể thực hiện, không chỉ dành riêng cho các nhà hoạch định chính sách hay nhà hoạt động.

Hành động chống lại giám sát thiếu minh bạch

Cuộc tranh luận về giám sát kiểu Palantir và các nền tảng tương tự cuối cùng là cuộc tranh luận về trách nhiệm giải trình: ai được phép xây dựng các hệ thống theo dõi, phân loại và phán xét con người, và ai được phép đặt câu hỏi về cách các hệ thống đó hoạt động. Các liên minh vì quyền kỹ thuật số như Trung tâm Hermes đang thúc đẩy tìm kiếm câu trả lời, nhưng nhận thức của từng cá nhân cũng quan trọng không kém.

Một vài bài học thực tế: rà soát dữ liệu cá nhân mà các ứng dụng và trình duyệt hằng ngày của bạn để lộ mà bạn không hề hay biết, ủng hộ các tổ chức vận động cho sự minh bạch thuật toán trong các thể chế công, và coi bất kỳ hệ thống nào đưa ra quyết định quan trọng về bạn như một hệ thống mà bạn có quyền chất vấn. Duy trì hiểu biết về cách giám sát hàng loạt, nhận diện khuôn mặt và thuật toán thiếu minh bạch đan xen với chính sách công là một trong những cách đơn giản nhất để tiếp tục tham gia vào một cuộc trò chuyện sẽ ngày càng trở nên cấp thiết hơn.