Mức phạt kỷ lục cho việc sa thải bằng thuật toán
Cơ quan Bảo vệ Dữ liệu Hà Lan (AP) đã quyết định phạt Uber 825 triệu euro, tương đương khoảng 966 triệu USD, theo một tài liệu được Reuters xem xét. Mức phạt này xuất phát từ việc Uber hủy kích hoạt tài khoản tài xế thông qua các hệ thống tự động, một quy trình mà các cơ quan quản lý cho rằng đã vi phạm các quy định bảo vệ dữ liệu của châu Âu. Báo cáo của Reuters, dựa trên tài liệu nội bộ, đánh dấu một trong những khoản phạt lớn nhất từng được ban hành theo Quy định Bảo vệ Dữ liệu Chung (GDPR) của Liên minh châu Âu và đưa ra ánh sáng một khoản phạt về ra quyết định tự động theo GDPR với quy mô chưa từng có.
Trọng tâm của vụ việc là một lời phàn nàn quen thuộc từ người lao động trong nền kinh tế việc làm tự do: những tài xế bị đình chỉ hoặc chấm dứt tài khoản mà không có lời giải thích rõ ràng, dường như được kích hoạt bởi một thuật toán thay vì một người xem xét cụ thể. Khi kế sinh nhai của một người phụ thuộc vào một ứng dụng, việc hủy kích hoạt tự động có thể không giống một quyết định kinh doanh mà giống như bị xóa sổ bởi một hệ thống mà không ai có thể chất vấn.
Điều 22 GDPR hạn chế quyết định tự động như thế nào
GDPR bao gồm các biện pháp bảo vệ cụ thể chống lại các quyết định được đưa ra "chỉ dựa trên xử lý tự động" khi những quyết định đó tạo ra hiệu lực pháp lý hoặc tác động đáng kể tương tự đối với một người. Việc mất quyền truy cập vào một nền tảng cung cấp thu nhập rõ ràng được coi là tác động đáng kể. Theo khuôn khổ này, các công ty thường cần có cơ sở pháp lý để dựa vào việc ra quyết định hoàn toàn tự động và họ phải tạo điều kiện cho các cá nhân bị ảnh hưởng có cách để được xem xét bởi con người, trình bày quan điểm của mình và khiếu nại kết quả.
Quy tắc này tồn tại vì các hệ thống tự động có thể thiếu minh bạch. Một tài xế bị hủy kích hoạt bởi thuật toán thường không có lộ trình rõ ràng để hiểu tại sao điều đó xảy ra, dữ liệu nào đã kích hoạt nó, hoặc cách kháng cáo. Các cơ quan quản lý ngày càng coi sự thiếu minh bạch đó là một vấn đề tự thân, không chỉ là tác dụng phụ của hoạt động kinh doanh hiệu quả. Quyết định của AP Hà Lan đối với Uber cho thấy rằng khi một công ty tự động hóa các quyết định rủi ro cao về tài khoản hoặc thu nhập của người dân mà không có sự minh bạch và giám sát của con người đầy đủ, hậu quả tài chính có thể rất nghiêm trọng.
Tại sao vấn đề này vượt ra ngoài lĩnh vực gọi xe
Có thể dễ dàng coi đây là câu chuyện riêng của công việc tự do, nhưng vấn đề cốt lõi vượt xa các ứng dụng gọi xe. Bất kỳ nền tảng nào sử dụng hệ thống tự động để đưa ra quyết định về người dùng, dù là gắn cờ tài khoản gian lận, từ chối đơn xin vay, điều chỉnh phí bảo hiểm, hay sàng lọc ứng viên xin việc, đều phải đối mặt với cùng một yêu cầu cơ bản: những người bị ảnh hưởng bởi các quyết định đó có quyền, bao gồm quyền được biết quyết định được đưa ra tự động và quyền khiếu nại.
Quy mô của khoản phạt này gửi một tín hiệu đến các công ty ngoài lĩnh vực vận tải. Khi ngày càng nhiều dịch vụ dựa vào thuật toán để quản lý mọi thứ từ bảo mật tài khoản đến điều kiện khách hàng, các cơ quan quản lý dường như sẵn sàng thực thi quan điểm rằng tự động hóa không loại bỏ trách nhiệm giải trình. Nếu có gì, nó còn nâng cao tiêu chuẩn, vì một hệ thống hộp đen không thể tự giải thích sẽ khó bảo vệ hơn một người ra quyết định ít nhất có thể trình bày rõ lý lẽ của mình.
Điều này có ý nghĩa gì với bạn
Nếu bạn từng bị đình chỉ tài khoản ứng dụng, bị từ chối đơn xin vay, hoặc bị hạn chế dịch vụ với một thông báo tự động mơ hồ, vụ việc này là lời nhắc rằng bạn có thể có nhiều quyền khiếu nại hơn giao diện cho thấy. Theo GDPR, các cá nhân ở EU (và thường là những người có dữ liệu được xử lý bởi các công ty có trụ sở hoặc phục vụ tại EU) có thể hỏi liệu một quyết định ảnh hưởng đến họ có được đưa ra tự động hay không, yêu cầu xem xét bởi con người và khiếu nại kết quả. Ngay cả ngoài EU, áp lực tạo ra bởi các phán quyết như thế này có xu hướng thúc đẩy các công ty hướng tới các chính sách rõ ràng hơn và quy trình kháng cáo tốt hơn trên toàn cầu, vì duy trì các hệ thống riêng biệt cho từng khu vực thường tốn kém hơn việc nâng cao tiêu chuẩn ở mọi nơi.
Đây cũng là thời điểm tốt để suy nghĩ về dấu chân rộng hơn của dữ liệu cá nhân của bạn. Mỗi ứng dụng phân tích hành vi của bạn, dù để phê duyệt chuyến đi, cấp tín dụng, hay cá nhân hóa quảng cáo, đều đang đưa ra quyết định dựa trên dữ liệu bạn cung cấp, thường không có sự minh bạch đầy đủ về cách dữ liệu đó được cân nhắc.
Bài học cho độc giả
Nếu bạn phụ thuộc vào các nền tảng việc làm tự do, ứng dụng tài chính, hoặc bất kỳ dịch vụ nào sử dụng quyết định tự động về tài khoản, hãy cân nhắc một vài bước cụ thể. Xem lại chính sách quyền riêng tư và điều khoản dịch vụ của các ứng dụng bạn sử dụng thường xuyên để xem họ có tiết lộ việc ra quyết định tự động hay không. Nếu bạn từng bị hủy kích hoạt, bị từ chối, hoặc bị gắn cờ bởi thuật toán, hãy yêu cầu công ty xem xét bởi con người trực tiếp, vì GDPR và các luật tương tự ở các khu vực pháp lý khác ngày càng yêu cầu tùy chọn này. Và hãy luôn cảnh giác về lượng dữ liệu cá nhân bạn cung cấp cho các ứng dụng đưa ra quyết định hệ trọng, vì một khoản phạt về ra quyết định tự động theo GDPR với quy mô kỷ lục như thế này cho thấy các cơ quan quản lý đang rất chú ý, ngay cả khi người dùng cá nhân thường không được cung cấp bức tranh đầy đủ.
