Bir Birleşik Krallık polis denetim kuruluşu, yüz tanıma hatalarının etnik azınlıkları haksız tutuklama riskiyle karşı karşıya bırakabileceği konusunda uyardı. The Guardian'a göre, müfettişler bazı memurların geriye dönük yüz tanıma aramalarından elde edilen potansiyel eşleşmelere yeterli ek kontrol yapmadan harekete geçtiğini tespit etti. Bu bulgu, Birleşik Krallık'ta yüz tanıma kaynaklı haksız tutuklama vakalarına ilişkin artan endişeyi güçlendiriyor ve pratik bir soruyu gündeme getiriyor: yazılım yanlış yüzü işaret ettiğinde bir kişiyi ne korur?

Kaynak makale kısa olduğundan bu yazı yalnızca raporlananlara bağlı kalıyor ve daha geniş bağlamı dikkatli bir şekilde açıklıyor.

Müfettişlerin geriye dönük yüz tanıma konusunda buldukları

Geriye dönük yüz tanıma, insanlar bir kameranın önünden geçerken yüzleri gerçek zamanlı olarak tarayan canlı sistemlerden farklıdır. Geriye dönük bir aramada polis, ilgilenilen bir kişinin görüntüsünü — örneğin bir CCTV kaydından alınan bir kareyi — alır ve potansiyel eşleşmeler üretmek için bir görüntü veritabanıyla karşılaştırır.

Kilit kelime "potansiyel"dir. Yazılımdan gelen bir eşleşme bir ipucudur, bir kimlik tespiti değildir. The Guardian'ın haberine göre müfettişler, bazı memurların bu sonuçları yeterli ek kontrol yapmadan harekete geçmek için gerekçe olarak gördüğünü tespit etti. Pratikte bu, olası bir eşleşmeye tutuklama yapılmadan önce hak ettiğinden daha fazla ağırlık verilmiş olabileceği anlamına geliyor.

Bu, bir teknoloji sorunu olduğu kadar bir süreç sorunudur. İyi performans gösteren bir algoritma bile yanlış eşleşmeler üretir, bu nedenle insanların sonrasında yaptığı kontroller hataya karşı ana güvencedir.

Etnik azınlıklar neden eşleşme hatalarından daha yüksek risk altında

Denetim kuruluşunun uyarısı özellikle etnik azınlıklar için riski vurguluyor. Endişe, eşleşme hatalarının nüfus genelinde eşit dağılmamasıdır. Bir sistem bazı gruplar için yanlış eşleşme üretme olasılığı daha yüksekse, bu gruplar bir şüpheli olarak yanlış işaretlenme olasılığıyla daha yüksek oranda karşı karşıya kalır.

Buna yetersiz kontrolü eklediğinizde risk katlanır. Düzgün bir şekilde incelenen yanlış bir eşleşme erken yakalanır. Olduğu gibi kabul edilen yanlış bir eşleşme ise bir durdurma, tutuklama veya daha kötüsüne yol açabilir. Denetim kuruluşunun endişesi bu kombinasyondur: hataya açık eşleştirme artı zayıf doğrulama.

Aramanın nasıl yürütüldüğü ve incelendiğine ilişkin ayrıntıların önemli olmasının nedeni de budur. Aday listesini kimin incelediği, başka hangi kanıtların gerekli olduğu ve anlaşmazlıkların nasıl ele alındığı, bir hatanın gerçek bir kişiye ulaşıp ulaşmadığını şekillendirir.

Birleşik Krallık güvencelerinin ve yasal kurallarının yetersiz kaldığı yerler

Müfettişlerin bulguları, güvencelerin kağıt üzerinde var olduğunu ancak pratikte her zaman tutarlı biçimde uygulanmadığını gösteriyor. Bu boşluk, hükümetin kuralları incelemesinin nedenlerinden biridir. Yasal çerçeveyi sıkılaştırma planını Oxford Street kameralarının tetiklediği Birleşik Krallık polis yüz tanıma kuralları yazımızda ele aldık ve denetim kuruluşunun bulguları, canlı aramalar kadar geriye dönük aramalar için de daha net ve uygulanabilir standartların gerekliliğini ortaya koyuyor.

Belgelendirme, güvencelerin nasıl işlemesi gerektiğine bakmak için bir yerdir. İçişleri Bakanlığı, göçmenlik uygulamasının canlı yüz tanıması için bir gizlilik değerlendirmesi yayımladı; bunu İçişleri Bakanlığı LFR gizlilik değerlendirmesine bakışımızda özetledik. Bu tür belgeleri okumak, yetkililerin hangi riskleri kabul ettiğini ve hangi hafifletme önlemlerini vaat ettiğini gösterir. Test, bu vaatlerin sahada yerine getirilip getirilmediğidir ki bu tür denetimlerin tam olarak incelediği şey budur.

Ayrıca yüz tanımanın polisle sınırlı olmadığını belirtmek gerekir. Perakendeciler de bunu kullanıyor ve doğruluk ile başvuru yollarına ilişkin aynı sorular geçerlidir. Facewatch uyarıları ve Birleşik Krallık'taki alışveriş yapanlar haberimiz resmin bu tarafını ele alıyor.

Yanlış teşhis edilirseniz haklarınız nelerdir

Kaynak makale bireysel çözüm yollarını ortaya koymuyor, bu nedenle aşağıdakiler hukuki tavsiye değil genel rehberliktir.

  • Dayanağın ne olduğunu sorun. Durdurulur veya tutuklanırsanız nedenini sorabilirsiniz. Yüz tanıma söz konusuysa, olayla sizi ilişkilendiren başka bir kanıt olup olmadığını sorun.
  • Verilerinizi talep edin. Birleşik Krallık veri koruma hukuku kapsamında, genellikle bir kuruluşun sizin hakkınızda tuttuğu kişisel verileri görmek için konu erişim talebinde bulunabilirsiniz, ancak polis bazen muafiyetler uygulayabilir.
  • Kayıt tutun. Tarihleri, saatleri, yerleri ve ilgili memurların adlarını veya numaralarını not edin.
  • Tavsiye alın. Bir avukat veya sivil özgürlükler konusunda uzmanlaşmış bir kuruluş, şikayet veya itiraz seçeneklerinizi açıklayabilir.
  • Şikayette bulunun. İlgili polis gücüne şikayette bulunabilir ve tatmin olmazsanız üst makama başvurabilirsiniz.

Perakende ortamları için Facewatch taramaları etrafındaki perakende gizlilik haklarınız rehberimiz, bir işaretlemeyi nasıl sorgulayacağınızı ve itiraz edeceğinizi ele alıyor.

Bu Sizin İçin Ne Anlama Geliyor

Çoğu insan asla yanlış eşleştirilmeyecek, ancak risk eşit paylaşılmıyor ve denetim kuruluşunun uyarısı, bir yazılım sonucunun ancak arkasındaki kontroller kadar güvenilir olduğunu hatırlatıyor. Bir VPN yüzünüzü sokaktaki bir kameradan saklamaz, dolayısıyla buradaki gerçek korumalar yasal ve usule ilişkindir: gözetim, şeffaflık ve hatalara itiraz etme hakkı.

Endişeleniyorsanız, kuralların nasıl geliştiğini takip edin. Yeni mevzuatın bir eşleşme üzerine harekete geçilmeden önce insan doğrulaması için net gereklilikler belirleyip belirlemediğine ve bağımsız denetimin devam edip etmediğine dikkat edin.

Önemli çıkarımlar

Birleşik Krallık'ta yüz tanıma kaynaklı haksız tutuklama riski, doğrulamanın teknolojiye ayak uydurup uydurmadığına bağlıdır. Uydurana kadar, haklarınızı bilmek en iyi pratik korumanızdır.