Kartun dengan Pesan Serius
Ketika seorang kartunis satir menyoroti teknologi pengenalan wajah di supermarket, ada baiknya berhenti sejenak untuk bertanya apa sebenarnya yang dituju oleh lelucon tersebut. Strip First Dog on the Moon dari The Guardian, yang diterbitkan dengan judul "Gelombang kejahatan pencurian di toko?! Menempatkan teknologi pengenalan wajah di mana-mana akan memperbaikinya," mengejek gagasan bahwa raksasa ritel Australia, Coles dan Woolworths, dapat menyelesaikan masalah pencurian hanya dengan melapisi toko-toko mereka dengan kamera dan perangkat lunak biometrik. Kelucuannya mengena karena didasari oleh sesuatu yang nyata: algoritme pengenalan wajah memiliki bias yang terdokumentasi, dan perusahaan yang menerapkannya pada dasarnya meminta publik untuk percaya bahwa mereka tidak akan menyalahgunakan teknologi yang dikenal sering membuat kesalahan.
Itulah ketegangan inti dalam kisah ini. Para peritel membingkai pengenalan wajah sebagai peningkatan keamanan yang sederhana, sebuah cara untuk menandai pelanggar yang sudah dikenal sebelum mereka mencapai kasir. Tetapi teknologi ini tidak beroperasi dalam ruang hampa. Teknologi ini memindai, menyimpan, dan mencocokkan wajah setiap pelanggan yang berjalan melewati pintu, apakah mereka pernah dicurigai melakukan sesuatu atau tidak.
Mengapa Bias Pengenalan Wajah Penting di Ritel
Sistem pengenalan wajah memiliki rekam jejak yang mapan dalam berkinerja tidak merata di berbagai kelompok demografis. Studi dan pengujian independen selama bertahun-tahun berulang kali menemukan bahwa tingkat kesalahan tidak terdistribusi secara merata, yang berarti sebagian pembeli secara statistik lebih mungkin salah diidentifikasi dibandingkan yang lain. Dalam lingkungan ritel, kecocokan yang salah tidak hanya menghasilkan notifikasi yang merepotkan. Ini bisa berarti seorang pelanggan dihentikan, diinterogasi, atau diminta meninggalkan toko padahal mereka tidak melakukan kesalahan apa pun.
Janji dari supermarket bahwa mereka akan menggunakan teknologi ini secara bertanggung jawab tidak mengubah masalah akurasi yang mendasarinya. Komitmen perusahaan untuk menghindari penyalahgunaan adalah komitmen kebijakan, bukan perbaikan teknis. Algoritme tetap membuat kesalahan statistik yang sama terlepas dari seberapa hati-hati perusahaan mengatakan akan mengatur penggunaannya. Ini adalah celah yang tepat yang sedang diejek oleh kartun tersebut: ketidaksesuaian antara alat yang cacat dan bahasa percaya diri yang digunakan untuk menjualnya sebagai solusi.
Data Tersimpan di Suatu Tempat, dan Itu Juga Risiko
Di luar kesalahan identifikasi, ada lapisan kekhawatiran kedua yang sering kali kurang mendapat perhatian: ke mana data biometrik pergi setelah dikumpulkan. Sistem pengenalan wajah memerlukan penyimpanan template wajah, gambar, atau log kecocokan, dan basis data semacam apa pun menjadi target. Para peritel secara tradisional bukanlah organisasi yang mengutamakan keamanan seperti bank atau perusahaan telekomunikasi, dan pola kerentanan bisnis yang lebih luas perlu diingat. Laporan tentang produsen Inggris yang terkena serangan siber menemukan bahwa sebagian besar perusahaan industri dibobol selama setahun terakhir sementara banyak yang tetap tidak siap, sebuah pengingat bahwa sektor di luar teknologi tradisional sering kali kekurangan sumber daya untuk menghadapi tuntutan keamanan dari data yang kini mereka simpan. Rantai supermarket yang menyimpan template biometrik jutaan pelanggan menghadapi jenis paparan yang serupa, apakah mereka memiliki infrastruktur yang memadai atau tidak.
Ada juga pola yang perlu dicatat tentang bagaimana teknologi verifikasi diluncurkan dengan janji-janji percaya diri yang tidak selalu terbukti saat diteliti. Regulator telah mengajukan pertanyaan serupa di tempat lain, seperti ketika Ofcom membuka penyelidikan terhadap sistem verifikasi usia TikTok setelah ada kekhawatiran bahwa pemeriksaan tersebut tidak berfungsi seperti yang diiklankan. Pengenalan wajah di ritel mengikuti alur yang sebanding: sebuah teknologi diperkenalkan sebagai solusi untuk masalah nyata, disertai jaminan tentang penggunaan yang bertanggung jawab, sementara pertanyaan tentang akurasi dan pengawasan tetap sebagian besar belum terjawab.
Apa Artinya Ini Bagi Anda
Jika Anda berbelanja di toko yang menggunakan pengenalan wajah, wajah Anda sedang dipindai dan berpotensi dicocokkan dengan basis data setiap kali Anda masuk, terlepas dari apakah Anda pernah melakukan kesalahan apa pun. Anda kemungkinan besar tidak akan diberi tahu sistem spesifik apa yang digunakan, berapa lama data Anda disimpan, atau jalur apa yang tersedia jika Anda salah ditandai. Janji perusahaan tentang penggunaan yang bertanggung jawab bukanlah jaminan yang dapat ditegakkan, dan itu tidak mengatasi masalah akurasi algoritmik yang tertanam dalam teknologi itu sendiri.
Ini tidak berarti setiap penggunaan pengenalan wajah bersifat jahat atau setiap pembeli berada dalam risiko yang berarti. Tetapi itu berarti beban pembuktian harus berada pada perusahaan yang menerapkan teknologi ini, bukan pada pelanggan yang berjalan melewati kamera mereka. Kepercayaan pada sistem apa pun yang menangani data pribadi yang sensitif, biometrik atau lainnya, harus didukung oleh praktik yang dapat diverifikasi, bukan sekadar pernyataan yang meyakinkan. Itulah standar yang sama yang layak diterapkan pada layanan apa pun yang menangani data Anda, termasuk praktik keamanan yang diaudit secara independen daripada klaim perilaku baik yang tidak diverifikasi.
Hal-Hal Penting bagi Pembeli
Perhatikan papan tanda di pintu masuk toko yang mencatat penggunaan teknologi pengawasan atau pengenalan wajah, dan jangan ragu untuk bertanya kepada staf atau layanan pelanggan perusahaan data apa yang dikumpulkan dan berapa lama disimpan. Jika Anda yakin telah salah diidentifikasi, mintalah tinjauan formal daripada menerima keputusan di tempat. Dan secara lebih luas, ingatlah bahwa janji perusahaan untuk menggunakan teknologi pengenalan wajah secara bertanggung jawab tidak sama dengan bukti bahwa sistem tersebut bekerja secara adil. Seiring teknologi ini menyebar ke lebih banyak ruang sehari-hari, dari supermarket hingga transportasi umum, pertanyaan yang diajukan oleh kartun satir layak ditanggapi seserius perdebatan kebijakan formal mana pun.
