Uber menghadapi denda GDPR sebesar €825 juta terkait praktik yang mungkin terdengar familier bagi siapa pun yang pernah terkunci dari akun tanpa penjelasan: penangguhan otomatis pengemudi berdasarkan keputusan algoritmik, tanpa ada manusia yang pernah meninjau kasus tersebut. Hukuman ini merupakan salah satu denda privasi terbesar dalam ingatan baru-baru ini, dan menyoroti hak yang kebanyakan pengguna internet tidak sadar mereka miliki, yaitu hak untuk tidak tunduk pada keputusan yang sepenuhnya otomatis yang membawa konsekuensi nyata.
Apa yang Dilakukan Uber: Penangguhan Algoritmik Tanpa Peninjauan Manusia
Inti dari kasus ini adalah sistem Uber untuk menonaktifkan pengemudi. Menurut regulator, pengemudi dapat ditangguhkan, dan pada efeknya kehilangan penghasilan mereka, sepenuhnya berdasarkan penilaian otomatis atas aktivitas mereka, sinyal penipuan, peringkat, atau titik data lainnya, tanpa ada orang yang turun tangan untuk memastikan keputusan itu adil atau bahkan akurat. Bagi pekerja gig, penangguhan bukanlah ketidaknyamanan kecil. Ini bisa berarti hilangnya mata pencaharian secara langsung, sering kali dengan sedikit kejelasan tentang mengapa hal itu terjadi atau bagaimana cara mengajukan banding.
Ini bukan cerita tentang satu algoritma nakal yang membuat kesalahan. Ini tentang pilihan struktural: membangun sistem di mana mesin membuat keputusan yang konsekuensial dan manusia bersifat opsional. Perbedaan itu sangat penting di bawah hukum privasi Eropa, dan itulah mengapa denda mencapai ratusan juta euro, bukan sekadar surat peringatan. Pembaca yang menginginkan latar belakang regulasi lengkap, termasuk bagaimana hukuman dihitung dan apa yang ditemukan otoritas Belanda, dapat meninjau denda GDPR asli regulator Belanda terhadap Uber untuk detail lebih lanjut tentang kasus ini.
Bagaimana Pasal 22 GDPR Melindungi Terhadap Keputusan Otomatis
Dasar hukum untuk denda ini terletak pada Pasal 22 GDPR, sebuah ketentuan yang memberikan individu hak untuk tidak tunduk pada keputusan yang didasarkan semata-mata pada pemrosesan otomatis ketika keputusan itu menghasilkan efek hukum atau secara serupa memengaruhi mereka secara signifikan. Kehilangan akses ke sumber pendapatan utama Anda jelas memenuhi syarat.
Aturan ini tidak melarang otomatisasi sepenuhnya. Perusahaan dapat menggunakan algoritma untuk menandai masalah, menilai risiko, atau melakukan triase kasus. Yang diwajibkan GDPR adalah bahwa ketika sebuah keputusan memiliki konsekuensi serius, seorang manusia harus terlibat secara bermakna, seseorang dengan wewenang dan informasi untuk benar-benar menimpa mesin, bukan sekadar menyetujui otomatis hasilnya. Regulator semakin memperlakukan "seseorang mengklik setujui" sebagai tidak cukup jika orang itu tidak pernah memiliki kesempatan nyata untuk menyelidiki atau membalikkan hasilnya. Kasus Uber menunjukkan bahwa kesenjangan itu, antara memiliki manusia yang terlibat di atas kertas dan memilikinya dalam praktik, adalah persis di mana perusahaan mendapat masalah.
Melampaui Pekerjaan Gig: Shadowbanning, Larangan Akun, dan Permintaan Penghapusan Data
Meskipun denda ini melibatkan perusahaan ride-sharing, masalah yang mendasarinya melampaui pekerjaan gig. Platform media sosial menggunakan sistem otomatis untuk melakukan shadowban pada akun atau menghapus konten. Bank dan pemroses pembayaran menggunakan algoritma untuk membekukan akun karena dugaan penipuan. Layanan streaming dan pasar daring melarang pengguna secara otomatis karena perilaku yang ditandai. Bahkan permintaan penghapusan dan akses data, hak inti GDPR, sering diproses oleh sistem otomatis yang dapat secara diam-diam menolak permintaan yang sah tanpa peninjauan manusia.
Dalam setiap skenario ini, ketegangan yang sama berlaku: kenyamanan dan skala bagi perusahaan, versus due process dan transparansi bagi individu. Kebanyakan pengguna tidak pernah berpikir untuk bertanya apakah seorang manusia meninjau keputusan yang memengaruhi mereka, sebagian besar karena platform jarang mengungkapkannya. Denda Uber menandakan bahwa regulator mulai memperlakukan opasitas itu sebagai risiko kepatuhan, bukan sekadar gangguan layanan pelanggan.
Apa Artinya Ini Bagi Anda
Jika Anda pernah ditangguhkan, dilarang, atau ditolak permintaannya oleh aplikasi atau platform tanpa penjelasan yang jelas, ada kemungkinan besar algoritma yang membuat keputusan itu dengan pengawasan manusia yang minimal atau tanpa pengawasan sama sekali. Di bawah GDPR, jika Anda berada di UE atau data Anda diproses oleh perusahaan yang beroperasi di sana, Anda umumnya memiliki hak untuk meminta penjelasan tentang keputusan otomatis yang secara signifikan memengaruhi Anda, untuk menentang keputusan tersebut, dan untuk meminta peninjauan manusia yang bermakna. Perusahaan yang beroperasi di ruang ini secara hukum diwajibkan untuk membangun katup pengaman itu, meskipun tidak diiklankan secara jelas.
Kasus ini juga mengangkat nilai praktis dari berhati-hati tentang seberapa banyak kendali yang Anda serahkan kepada platform yang sangat bergantung pada penegakan otomatis. Memahami hak keputusan otomatis GDPR Anda bukan hanya konsep hukum yang abstrak, ini adalah alat yang sebenarnya dapat Anda gunakan ketika aplikasi mengunci Anda atau algoritma menandai akun Anda.
Poin-Poin Kunci
Jika Anda berada di pihak yang menerima penangguhan, larangan, atau penolakan otomatis, ada baiknya mengambil tindakan daripada berasumsi bahwa keputusan itu final. Minta penjelasan tertulis tentang bagaimana keputusan itu dibuat dan apakah seorang manusia meninjaunya. Sebutkan hak GDPR Anda secara eksplisit jika perusahaan tunduk pada hukum UE, dan ajukan keluhan kepada otoritas perlindungan data yang relevan jika Anda tidak mendapatkan respons yang memuaskan. Simpan catatan komunikasi Anda dengan platform, karena pola terdokumentasi dari keputusan otomatis yang tidak ditinjau adalah persis jenis bukti yang menyebabkan denda €825 juta Uber. Seiring semakin banyak kehidupan sehari-hari disaring melalui algoritma, mengetahui hak-hak ini, dan menggunakannya, adalah salah satu cara paling jelas untuk melawan ketika mesin melakukan kesalahan.
