Denda Rekor untuk Pemecatan Berbasis Algoritma
Otoritas Perlindungan Data Belanda (AP) telah memutuskan untuk mendenda Uber sebesar €825 juta, atau sekitar $966 juta, menurut sebuah dokumen yang ditinjau oleh Reuters. Denda ini berawal dari praktik Uber yang menonaktifkan akun pengemudi melalui sistem otomatis, sebuah proses yang menurut regulator melanggar aturan perlindungan data Eropa. Laporan Reuters, yang didasarkan pada dokumentasi internal, menandai salah satu denda terbesar yang pernah dijatuhkan berdasarkan Peraturan Perlindungan Data Umum (GDPR) Uni Eropa dan menyoroti denda pengambilan keputusan otomatis GDPR dalam skala yang belum pernah terjadi sebelumnya.
Di pusat kasus ini adalah keluhan yang sudah lazim dari para pekerja ekonomi gig: pengemudi yang menemukan akun mereka ditangguhkan atau dihentikan tanpa penjelasan yang memadai, yang tampaknya dipicu oleh algoritma daripada peninjau manusia. Ketika mata pencaharian seseorang bergantung pada sebuah aplikasi, penonaktifan otomatis bisa terasa kurang seperti keputusan bisnis dan lebih seperti dihapus oleh sistem yang tidak bisa diganggu gugat siapa pun.
Bagaimana Pasal 22 GDPR Membatasi Keputusan Otomatis
GDPR mencakup perlindungan khusus terhadap keputusan yang dibuat "semata-mata berdasarkan pemrosesan otomatis" ketika keputusan tersebut menghasilkan efek hukum atau dampak yang sama signifikannya terhadap seseorang. Kehilangan akses ke platform yang menyediakan penghasilan jelas memenuhi syarat sebagai dampak yang signifikan. Dalam kerangka ini, perusahaan umumnya perlu memiliki dasar hukum untuk mengandalkan pengambilan keputusan sepenuhnya otomatis, dan mereka harus memberikan cara bagi individu yang terdampak untuk mendapatkan peninjauan manusia, menyampaikan sudut pandang mereka, dan menggugat hasilnya.
Aturan ini ada karena sistem otomatis bisa bersifat tidak transparan. Seorang pengemudi yang dinonaktifkan oleh algoritma sering kali tidak memiliki jalur yang jelas untuk memahami mengapa hal itu terjadi, data apa yang memicunya, atau bagaimana cara mengajukan banding. Regulator semakin memperlakukan ketidaktransparanan itu sebagai masalah tersendiri, bukan sekadar efek samping dari operasi bisnis yang efisien. Keputusan AP Belanda terhadap Uber menunjukkan bahwa ketika sebuah perusahaan mengotomatiskan keputusan berisiko tinggi tentang akun atau penghasilan orang tanpa transparansi dan pengawasan manusia yang memadai, konsekuensi finansialnya bisa sangat berat.
Mengapa Ini Penting Di Luar Layanan Ride-Hailing
Menggoda untuk membaca ini sebagai kisah yang khusus untuk pekerjaan gig, tetapi masalah yang mendasarinya jauh melampaui aplikasi ride-hailing. Platform mana pun yang menggunakan sistem otomatis untuk membuat keputusan tentang pengguna, apakah itu menandai akun karena penipuan, menolak aplikasi pinjaman, menyesuaikan premi asuransi, atau menyaring kandidat pekerjaan, menghadapi persyaratan dasar yang sama: orang-orang yang terkena dampak keputusan tersebut memiliki hak, termasuk hak untuk mengetahui bahwa suatu keputusan dibuat secara otomatis dan hak untuk menentangnya.
Skala denda ini mengirimkan sinyal kepada perusahaan-perusahaan di luar sektor transportasi. Ketika semakin banyak layanan mengandalkan algoritma untuk mengelola segala hal mulai dari keamanan akun hingga kelayakan pelanggan, regulator tampak bersedia menegakkan gagasan bahwa otomatisasi tidak menghilangkan akuntabilitas. Jika ada, otomatisasi justru menaikkan standar, karena sistem kotak hitam yang tidak bisa menjelaskan dirinya sendiri lebih sulit dipertahankan daripada pengambil keputusan manusia yang setidaknya bisa mengartikulasikan alasan mereka.
Apa Artinya Ini Bagi Anda
Jika Anda pernah mengalami penangguhan akun aplikasi, penolakan aplikasi pinjaman, atau pembatasan layanan dengan pemberitahuan otomatis yang samar, kasus ini adalah pengingat bahwa Anda mungkin memiliki lebih banyak jalan untuk menuntut hak daripada yang ditunjukkan antarmuka. Di bawah GDPR, individu di UE (dan sering kali mereka yang datanya diproses oleh perusahaan yang berbasis di UE atau melayani UE) dapat menanyakan apakah keputusan yang memengaruhi mereka dibuat secara otomatis, meminta peninjauan manusia, dan menggugat hasilnya. Bahkan di luar UE, tekanan yang diciptakan oleh putusan seperti ini cenderung mendorong perusahaan menuju kebijakan yang lebih jelas dan proses banding yang lebih baik secara global, karena mempertahankan sistem terpisah untuk berbagai wilayah sering kali lebih mahal daripada menaikkan standar di semua tempat.
Ini juga merupakan momen yang baik untuk memikirkan jejak data pribadi Anda secara lebih luas. Setiap aplikasi yang membuat profil perilaku Anda, apakah untuk menyetujui perjalanan, memberikan kredit, atau mempersonalisasi iklan, membuat keputusan berdasarkan data yang Anda berikan, sering kali tanpa visibilitas penuh tentang bagaimana data tersebut dibobot.
Hal-Hal yang Perlu Diperhatikan Pembaca
Jika Anda mengandalkan platform gig, aplikasi keuangan, atau layanan apa pun yang menggunakan keputusan akun otomatis, pertimbangkan beberapa langkah konkret. Tinjau kebijakan privasi dan persyaratan layanan aplikasi yang Anda gunakan secara rutin untuk melihat apakah mereka mengungkapkan pengambilan keputusan otomatis. Jika Anda pernah dinonaktifkan, ditolak, atau ditandai oleh algoritma, mintalah langsung kepada perusahaan untuk peninjauan manusia, karena GDPR dan undang-undang serupa di yurisdiksi lain semakin mewajibkan opsi ini. Dan tetap waspada terhadap seberapa banyak data pribadi yang Anda serahkan kepada aplikasi yang membuat keputusan konsekuensial, karena denda pengambilan keputusan otomatis GDPR yang memecahkan rekor seperti ini menunjukkan bahwa regulator sangat memperhatikan, meskipun pengguna individu sering kali tidak diberikan gambaran lengkap.
