Çoğu Sakinin Hiç Haberinin Olmadığı Canlı Bir Yüz Tanıma Denemesi

Avustralya'da bir ilk olarak nitelendirilen uygulamada, Batı Avustralya Polisi Haziran ayından itibaren Perth ve Fremantle genelinde canlı yapay zekâ yüz tanıma kameralarını sessizce devreye aldı. Denemenin daha ilk haftasında sistem 130.000'den fazla yüz taradı, 33 uyarı üretti ve 18 tutuklamaya yol açtı. Polis ayrıca teknolojinin bölgedeki 21 kayıtlı cinsel suçlunun tespit edilmesine ve kendileriyle iletişime geçilmesine yardımcı olduğunu söyledi.

Taramanın ölçeği tek başına dikkat çekici, ancak en çok incelemeye konu olan şey bunun nasıl gerçekleştiği: O sokaklardan geçen sakinlere tarandıkları söylenmedi. Ne bir tabela kampanyası ne bir kamuoyu danışma süreci ne de net bir çıkış mekanizması vardı. Pek çok Avustralyalı için programdan ilk haberdar oluşları, polis ya da yerel yönetimden gelen bir bildirimle değil, olaydan sonra yapılan haberlerle oldu.

Bildirim Eksikliği Neden Önemli?

Yüz tanıma sistemleri, kamusal alandaki insanların görüntülerini yakalayıp bunları genellikle gerçek zamanlı olarak bir veritabanıyla karşılaştırarak çalışır. Bu süreç kamuoyuna haber verilmeden yürütüldüğünde, insanlar nereye gidecekleri, kiminle görüldükleri ya da hareketlerinin nasıl kaydedilip çapraz kontrol edilebileceği konusunda bilinçli seçim yapma olanağını yitirir. Mahremiyet savunucuları ve hukuk uzmanları, bunun gözetimin denetlenmesine ilişkin temel bir ilkeyi zedelediğine dikkat çekiyor: İnsanlar, özellikle devlet kurumları tarafından izlendiklerinde, genellikle ne zaman ve nasıl izlendiklerini bilmelidir.

Deneme ayrıca en az bir doğrulanmış yanlış kimlik tespiti de üretti; bu, gelişmiş yapay zekâ sistemlerinin bile insanları yanlış tanıyabildiğini, bunun da bazen rahatsız ediciden ciddiye uzanan sonuçlar doğurabildiğini hatırlatıyor. Yanlış tanımlama riskleri de eşit dağılmıyor; yüz tanıma araçlarının belirli demografik gruplar için daha yüksek hata oranlarına sahip olduğu iyi belgelenmiş bir geçmişe sahiptir ve bu da mahremiyet kaygılarının yanına hakkaniyet kaygılarını ekliyor.

Batı Avustralya Polisi sonuçları kamu güvenliği kazanımları, yapılan tutuklamalar, tespit edilen failler ve üretilen uyarılar çerçevesinde sundu. Ancak mahremiyet gözlemcileri, gerçek bir maliyet-fayda değerlendirmesinin deneme kuralları konusunda şeffaflık gerektirdiğini savunuyor: görüntülerin ve eşleşme verilerinin ne kadar süre saklandığı, bunlara kimlerin erişebildiği, başka kurumlarla paylaşılıp paylaşılmadığı ve taramaya takılan ancak herhangi bir soruşturmayla bağlantısı olmayan on binlerce insanın biyometrik verilerine ne olduğu.

Biyometrik Veri Toplamanın Daha Geniş Örüntüsü

Bu deneme tek başına yaşanmıyor. Dünya genelinde hükümetler ve özel şirketler, polislik için yüz tanımadan havalimanlarındaki biyometrik kontrollere ya da belirli içeriklere veya hizmetlere erişim vermeden önce kullanıcının yaşını tahmin etmek için yüz tarayan yaş doğrulama sistemlerine kadar, biyometrik doğrulamaya giderek daha fazla yöneliyor. Bu sistemlerin her biri benzer bir temel soruyu gündeme getiriyor: Tek bir sistemin ne kadar biyometrik veri toplamasına izin verilmeli ve bu veriler ne kadar süre saklanmalı? Bu ödünleşimlerin farklı ama bağlantılı bir bağlamda nasıl ortaya çıktığını merak eden okuyucular, dünya genelindeki yaş doğrulama yasalarının biyometrik tarama, veri saklama ve rıza konularında hâlihazırda benzer tartışmaları nasıl zorladığına bakabilir; üstelik bu tartışmalar çoğu zaman teknolojinin erişiminin düşündüreceğinden çok daha az kamuoyu farkındalığıyla yürüyor.

Batı Avustralya Polisi denemesi tam da biyometrik gözetimin bir politika tartışmasından canlı uygulamaya geçtiğinde ne olduğunu gösterdiği için faydalı bir vaka incelemesi. Teknoloji birçok durumda beklendiği gibi çalıştı; ancak net bir kamu bildirimi, bağımsız bir denetim izi veya resmi çıkış seçeneklerinin bulunmaması, yeteneğin denetimi ne kadar hızlı geride bırakabildiğini gösteriyor.

Bu Sizin İçin Ne Anlama Geliyor?

Perth veya Fremantle'da yaşıyorsanız ya da bu kentleri ziyaret ettiyseniz, haberiniz olmadan taranmış olabilirsiniz ve benzer pilot programlar başka yerlerde değerlendirildikçe aynı durum diğer kentlere de yayılabilir. Avustralya dışında bile bu vaka, kamusal alandaki yapay zekâ yüz tanıma denemelerinin nereye doğru gittiğine dair bir önizleme niteliğinde: güvenlik istatistikleriyle gerekçelendirilen sessiz devreye almalar ve mahremiyet koruma önlemlerinin baştan inşa edilmek yerine çoğu zaman olaydan sonra eklenmesi.

Bir sistem bölgenizde etkinleştirildikten sonra canlı kamusal yüz tanıma uygulamasından genellikle çıkamazsınız; şeffaflık ve kamuoyu tartışması da bu sistemler devreye girmeden önce, devreye girdikten sonra değil, tam da bu yüzden son derece önemlidir.

Eyleme Dönük Çıkarımlar

  • Yerel polis teşkilatınızın veya belediye meclisinin, mevcut ya da planlanan herhangi bir yüz tanıma denemesi hakkında bilgi yayımlayıp yayımlamadığını kontrol edin ve bir kamu geri bildirimi veya danışma süreci arayın.
  • Kamusal alanlar için yüz tanıma veya başka biyometrik araçlar önerildiğinde net veri saklama ve silme politikaları talep eden çağrıları destekleyin.
  • Herhangi bir yapay zekâ gözetim sisteminin pilot aşamanın ötesine genişletilmeden önce doğruluk ve önyargı açısından bağımsız denetimlerden geçmesi için bastırın.
  • Polislik gibi tek bir amaçla toplanan biyometrik verilerin daha sonra başka kurumlarla veya özel şirketlerle nasıl paylaşılabileceği konusunda bilgi sahibi olun.

Yapay zekâ yüz tanıma denemeleri etrafındaki tartışma, daha fazla kent benzer sistemleri test ettikçe daha da gürleşecek. Bu programların nasıl devreye alındığı konusunda bilgi sahibi olmak ve şeffaf olmadıklarında şeffaflık talep etmek, kamuoyunun bu teknolojinin ileride nasıl kullanılacağını etkileyebilmesinin en pratik yollarından biri.