Uji Coba Pengenalan Wajah Langsung yang Sebagian Besar Warga Tidak Pernah Tahu

Dalam apa yang disebut sebagai yang pertama di Australia, Polisi Western Australia diam-diam mengerahkan kamera pengenalan wajah AI langsung di seluruh Perth dan Fremantle mulai Juni. Dalam satu minggu uji coba, sistem tersebut telah memindai lebih dari 130.000 wajah, menghasilkan 33 peringatan dan berujung pada 18 penangkapan. Polisi juga mengatakan teknologi itu membantu mengidentifikasi dan berinteraksi dengan 21 pelaku kejahatan seksual terdaftar di area tersebut.

Skala pemindaian itu sendiri sudah cukup mencolok, tetapi yang paling banyak disorot adalah caranya terjadi: warga yang berjalan di sepanjang jalan itu tidak diberi tahu bahwa mereka sedang dipindai. Tidak ada kampanye papan pengumuman, tidak ada periode konsultasi publik, dan tidak ada mekanisme opt-out yang jelas. Bagi banyak warga Australia, pertama kali mereka mendengar program ini adalah melalui liputan berita setelah kejadian, bukan melalui pemberitahuan apa pun dari polisi atau pemerintah daerah.

Mengapa Minimnya Pemberitahuan Itu Penting

Sistem pengenalan wajah bekerja dengan menangkap gambar orang di ruang publik dan membandingkannya dengan basis data, sering kali secara real time. Ketika proses itu berjalan tanpa pemberitahuan publik, orang kehilangan kemampuan untuk membuat pilihan yang terinformasi tentang ke mana mereka pergi, dengan siapa mereka terlihat, atau bagaimana pergerakan mereka mungkin dicatat dan dirujuk silang. Para pegiat privasi dan pakar hukum menunjukkan bahwa hal ini merusak prinsip dasar pengawasan: orang pada umumnya harus tahu kapan dan bagaimana mereka dipantau, terutama oleh lembaga pemerintah.

Uji coba tersebut juga menghasilkan setidaknya satu kesalahan identifikasi yang terkonfirmasi, sebuah pengingat bahwa bahkan sistem AI canggih pun bisa salah mengidentifikasi orang, kadang-kadang dengan konsekuensi mulai dari yang merepotkan hingga serius. Risiko kesalahan identifikasi juga tidak terdistribusi secara merata; alat pengenalan wajah memiliki riwayat terdokumentasi dengan baik tentang tingkat kesalahan yang lebih tinggi untuk kelompok demografis tertentu, yang memunculkan kekhawatiran kesetaraan di samping kekhawatiran privasi.

Polisi WA menyajikan hasil tersebut dalam kerangka kemenangan keamanan publik, penangkapan yang dilakukan, pelaku yang diidentifikasi, dan peringatan yang dihasilkan. Namun, para pengawas privasi berpendapat bahwa penilaian biaya-manfaat yang sungguh-sungguh membutuhkan transparansi tentang aturan uji coba tersebut: berapa lama rekaman dan data kecocokan disimpan, siapa yang dapat mengaksesnya, apakah data itu dibagikan dengan lembaga lain, dan apa yang terjadi pada data biometrik dari puluhan ribu orang yang dipindai tetapi tidak memiliki kaitan dengan investigasi apa pun.

Pola Pengumpulan Data Biometrik yang Lebih Luas

Uji coba ini tidak terjadi dalam ruang hampa. Pemerintah dan perusahaan swasta di seluruh dunia semakin beralih ke verifikasi biometrik, baik melalui pengenalan wajah untuk pemolisian, pemeriksaan biometrik di bandara, maupun sistem verifikasi usia yang memindai wajah untuk memperkirakan usia pengguna sebelum memberikan akses ke konten atau layanan tertentu. Setiap sistem ini memunculkan pertanyaan inti yang serupa: berapa banyak data biometrik yang boleh dikumpulkan oleh satu sistem, dan berapa lama data itu harus disimpan? Pembaca yang penasaran tentang bagaimana pertukaran ini terjadi dalam konteks yang berbeda tetapi terkait dapat melihat bagaimana undang-undang verifikasi usia di seluruh dunia telah memicu perdebatan serupa tentang pemindaian biometrik, retensi data, dan persetujuan, sering kali dengan kesadaran publik yang jauh lebih rendah daripada yang ditunjukkan oleh jangkauan teknologi tersebut.

Uji coba Polisi WA adalah studi kasus yang berguna justru karena menunjukkan apa yang terjadi ketika pengawasan biometrik bergerak dari perdebatan kebijakan ke penerapan langsung. Teknologi itu bekerja sebagaimana dimaksud dalam banyak kasus, tetapi tidak adanya pemberitahuan publik yang jelas, jejak audit independen, atau opsi opt-out formal menunjukkan betapa cepatnya kemampuan dapat melampaui pengawasan.

Apa Artinya bagi Anda

Jika Anda tinggal di atau mengunjungi Perth atau Fremantle, Anda mungkin sudah dipindai tanpa menyadarinya, dan dinamika yang sama dapat menyebar ke kota-kota lain karena program percontohan serupa sedang dipertimbangkan di tempat lain. Bahkan di luar Australia, kasus ini merupakan gambaran awal tentang arah uji coba pengenalan wajah AI di ruang publik: peluncuran diam-diam yang dibenarkan oleh statistik keamanan, dengan perlindungan privasi sering kali ditambahkan setelah kejadian alih-alih dibangun sejak awal.

Anda umumnya tidak dapat memilih untuk tidak ikut dalam sistem pengenalan wajah publik langsung setelah sistem itu aktif di wilayah Anda, dan justru itulah yang membuat transparansi dan perdebatan publik begitu penting sebelum sistem ini beroperasi, bukan sesudahnya.

Hal yang Dapat Anda Lakukan

  • Periksa apakah kepolisian setempat atau dewan kota Anda telah menerbitkan informasi tentang uji coba pengenalan wajah apa pun, baik yang sedang berjalan maupun yang direncanakan, dan cari proses masukan atau konsultasi publik.
  • Dukung seruan untuk kebijakan retensi dan penghapusan data yang jelas setiap kali pengenalan wajah atau alat biometrik lainnya diusulkan untuk ruang publik.
  • Dorong audit independen atas akurasi dan bias dalam sistem pengawasan AI apa pun sebelum sistem itu diperluas melampaui fase percontohan.
  • Tetap ikuti perkembangan tentang bagaimana data biometrik yang dikumpulkan untuk satu tujuan, seperti pemolisian, nantinya dapat dibagikan dengan lembaga lain atau perusahaan swasta.

Perbincangan seputar uji coba pengenalan wajah AI hanya akan semakin ramai seiring makin banyak kota menguji sistem serupa. Tetap mengikuti informasi tentang bagaimana program ini diterapkan, dan menuntut transparansi ketika tidak ada, adalah salah satu cara paling praktis bagi publik untuk memengaruhi bagaimana teknologi ini digunakan ke depannya.