Sebuah Terobosan Pertama untuk Kepolisian Australia

Kepolisian Australia Barat telah menjadi kepolisian pertama di negara ini yang menerapkan teknologi pengenalan wajah langsung di ruang publik, dan tidak butuh waktu lama bagi sistem ini untuk membuahkan hasil. Selama uji coba, petugas menggunakan teknologi tersebut untuk mengidentifikasi dan menangkap seseorang secara real time, sebuah tonggak sejarah yang dibingkai polisi sebagai bukti konsep dan diperlakukan oleh para advokat privasi sebagai sinyal peringatan.

Sistem ini bekerja dengan memindai umpan video langsung, yang dilaporkan memproses ratusan wajah per menit, dan langsung mencocokkannya dengan basis data gambar milik polisi. Tidak seperti pengenalan wajah tradisional, yang biasanya digunakan setelah kejadian untuk mencocokkan rekaman dari TKP dengan basis data, teknologi ini beroperasi secara langsung, menandai kecocokan kepada petugas saat orang-orang berjalan melewati kamera yang dipantau secara real time. Uji coba ini dilaporkan melibatkan kendaraan polisi bertanda yang ditempatkan di dekat acara-acara besar dan di area publik yang ramai, dengan sistem yang memeriksa wajah terhadap apa yang digambarkan oleh para pejabat sebagai daftar peringatan yang dikontrol ketat dari gambar polisi yang dimiliki secara sah.

Mengapa Para Advokat Privasi Khawatir

Penangkapan langsung ini diangkat oleh Polisi WA sebagai bukti bahwa teknologi ini berfungsi. Namun para kritikus melihat peristiwa yang sama sebagai awal dari percakapan yang jauh lebih besar tentang seberapa banyak pengawasan yang bersedia diterima publik dengan imbalan kenyamanan atau keamanan.

Tiga kekhawatiran terus muncul ke permukaan. Pertama adalah risiko peringatan palsu: sistem pengenalan wajah, bahkan yang disetel dengan baik, dapat salah mengidentifikasi orang, dan penandaan yang salah dalam konteks kepolisian langsung dapat berarti orang yang tidak bersalah dihentikan, ditanyai, atau lebih buruk lagi, berdasarkan kesalahan komputer, bukan bukti. Kedua adalah bias algoritmik. Sistem pengenalan wajah memiliki riwayat terdokumentasi tentang performa yang kurang akurat di berbagai kelompok demografis, yang menimbulkan kekhawatiran bahwa beberapa komunitas dapat terkena dampak yang tidak proporsional dari pencocokan palsu. Ketiga, dan mungkin yang paling persisten, adalah kekhawatiran tentang perluasan fungsi (function creep): teknologi yang diperkenalkan untuk tujuan sempit, seperti mengidentifikasi orang dalam daftar peringatan tertentu di acara-acara besar, dapat secara bertahap meluas cakupannya hingga menjadi alat rutin untuk pemantauan publik yang lebih luas.

Poin terakhir itulah yang menjadi pusat dari sebagian besar reaksi penolakan. Begitu infrastruktur dan penerimaan publik ada untuk memindai kerumunan di festival musik atau acara olahraga, hanya ada sedikit hambatan teknis yang menghentikannya untuk digunakan di demonstrasi, pusat transit, atau sudut jalan biasa. Para kritikus berpendapat bahwa uji coba seperti ini cenderung menormalkan pengawasan secara bertahap, dengan setiap perluasan dibenarkan oleh keberhasilan yang sebelumnya.

Masalah Data yang Lebih Besar

Uji coba pengenalan wajah tidak hanya menimbulkan pertanyaan tentang taktik kepolisian; uji coba ini menimbulkan pertanyaan tentang tata kelola data. Setiap wajah yang dipindai, dicocokkan, atau dicatat menjadi titik data yang berada di dalam sistem pemerintah, dan sistem pemerintah tidak selalu terbukti menjadi penjaga informasi pribadi yang sensitif dan andal. Data biometrik sangat sensitif karena, tidak seperti kata sandi, wajah tidak dapat diubah jika terekspos atau disalahgunakan.

Di sinilah uji coba WA terhubung dengan pola kekhawatiran yang lebih luas seputar teknologi sektor publik. Lembaga pemerintah semakin banyak menyimpan data pribadi dalam jumlah besar, mulai dari catatan lisensi hingga pemindaian biometrik, dan rekam jejak untuk menjaga keamanan data tersebut beragam. Masalah seperti yang dirinci dalam Kebocoran Data WA DOL: Saat Sistem Pemerintah Mengecewakan Anda menunjukkan bagaimana kerentanan dalam sistem pemerintah dapat bertahan selama bertahun-tahun sebelum ditangani, dan bagaimana konsekuensinya langsung jatuh pada orang biasa yang informasinya seharusnya dilindungi. Daftar peringatan pengenalan wajah, pada intinya, adalah basis data pemerintah sensitif lainnya, dan keamanannya sama pentingnya dengan akurasinya.

Apa Artinya Ini Bagi Anda

Bagi penduduk Australia Barat, dan bagi siapa pun yang mengamati uji coba ini sebagai penanda untuk teknologi kepolisian di tempat lain, dampak langsungnya terbatas: sistem saat ini memeriksa wajah terhadap daftar peringatan tertentu alih-alih mencatat semua orang yang lewat. Namun uji coba ini menandai pergeseran yang berarti dalam cara ruang publik dapat dipantau, dan wajar untuk mengajukan pertanyaan sebelum teknologi ini menjadi permanen atau meluas.

Anda tidak perlu menjadi seorang teknolog untuk memiliki kepentingan dalam hal ini. Uji coba publik seperti ini biasanya diikuti oleh tinjauan, konsultasi publik, atau pengawasan parlemen, dan umpan balik publik selama masa-masa ini benar-benar membentuk apakah langkah-langkah pengawasan akan diterapkan. Memahami apa yang sedang dipindai, siapa yang ada dalam daftar peringatan, dan berapa lama data disimpan adalah pertanyaan yang wajar bagi komunitas mana pun yang menghadapi teknologi semacam ini untuk pertama kalinya.

Hal-Hal Penting

  • Pengenalan wajah langsung berbeda dengan pencocokan setelah kejadian: ia menandai orang secara real time saat mereka melewati kamera yang dipantau, meningkatkan taruhan dari setiap kesalahan.
  • Positif palsu dan bias algoritmik tetap menjadi risiko nyata, bahkan dalam uji coba yang dibingkai sebagai sempit dan terkontrol.
  • Perluasan fungsi (Function creep), perluasan bertahap dari tujuan awal alat, adalah kekhawatiran yang paling dicermati oleh para ahli.
  • Tata kelola data sama pentingnya dengan akurasi. Basis data pengenalan wajah adalah gudang data pribadi sensitif lainnya yang memerlukan keamanan dan pengawasan yang kuat.
  • Pengawasan publik selama fase uji coba adalah salah satu dari sedikit kesempatan di mana masukan komunitas dapat membentuk bagaimana, atau apakah, teknologi ini menjadi permanen.

Seiring Polisi WA memperluas dan mengevaluasi uji coba ini, percakapan seputar pengenalan wajah langsung hanya akan semakin keras. Tetap terinformasi tentang bagaimana sistem ini diterapkan, dan mengajukan pertanyaan tentang pengawasan dan perlindungan data, adalah cara paling praktis bagi publik untuk memiliki suara dalam menentukan ke mana teknologi ini akan bergerak selanjutnya.