Britský policejní hlídač varoval, že chyby rozpoznávání obličejů mohou vystavit etnické menšiny riziku nezákonného zatčení. Podle The Guardian inspektoři zjistili, že někteří policisté jednali na základě potenciálních shod z retrospektivních vyhledávání pomocí rozpoznávání obličejů, aniž by provedli dostatečné dodatečné kontroly. Toto zjištění posiluje rostoucí obavy o případy nezákonných zatčení kvůli rozpoznávání obličejů ve Spojeném království a vyvolává praktickou otázku: co chrání člověka, když software ukáže na špatný obličej?
Zdrojový článek je stručný, takže tento příspěvek se drží toho, co bylo reportováno, a pečlivě vysvětluje širší kontext.
Co inspektoři zjistili o retrospektivním rozpoznávání obličejů
Retrospektivní rozpoznávání obličejů se liší od živých systémů, které skenují obličeje v reálném čase, když lidé procházejí kolem kamery. Při retrospektivním vyhledávání policie vezme snímek osoby zájmu, například statický obrázek z CCTV, a porovná jej s databází obrázků, aby vygenerovala potenciální shody.
Klíčové slovo je „potenciální“. Shoda ze softwaru je stopa, nikoli identifikace. Podle reportáže The Guardian inspektoři zjistili, že někteří policisté považovali tyto výsledky za důvod k jednání, aniž by provedli dostatečné další kontroly. V praxi to znamená, že možné shodě mohla být před zatčením přikládána větší váha, než si zasloužila.
To je problém procesu stejně jako problém technologie. I dobře fungující algoritmus produkuje falešné shody, takže kontroly, které lidé provádějí následně, jsou hlavní ochranou proti chybě.
Proč etnické menšiny čelí vyššímu riziku z chyb při shodě
Varování hlídače konkrétně zdůrazňuje riziko pro etnické menšiny. Obava je, že chyby při shodě nepostihují populaci rovnoměrně. Pokud systém s větší pravděpodobností produkuje falešné shody pro některé skupiny, pak tyto skupiny čelí vyšší šanci, že budou nesprávně označeny za podezřelé.
Zkombinujte to s nedostatečnou kontrolou a riziko se znásobí. Falešná shoda, která je řádně prozkoumána, je zachycena včas. Falešná shoda, která je přijata bez pochyb, může vést k zastavení, zatčení nebo horšímu. Obava hlídače je kombinace: chybová shoda plus slabé ověření.
To je také důvod, proč záleží na podrobnostech toho, jak je vyhledávání prováděno a přezkoumáváno. Kdo zkoumá seznam kandidátů, jaké další důkazy jsou vyžadovány a jak se zachází s neshodami – to vše určuje, zda se chyba dostane k reálnému člověku.
Kde britské záruky a právní pravidla selhávají
Zjištění inspektorů naznačují, že záruky existují na papíře, ale v praxi nejsou vždy uplatňovány konzistentně. Tato mezera je součástí důvodu, proč vláda zkoumala pravidla. Její plán na zpřísnění právního rámce jsme pokryli v našem článku o pravidlech britské policie pro rozpoznávání obličejů vyvolaných kamerami na Oxford Street a zjištění hlídače podporují argument pro jasnější a vymahatelná standardy pro retrospektivní i živá vyhledávání.
Dokumentace je jedním z míst, kde hledat, jak mají záruky fungovat. Ministerstvo vnitra zveřejnilo posouzení soukromí pro živé rozpoznávání obličejů při prosazování imigrace, které jsme shrnuli v našem pohledu na posouzení soukromí LFR ministerstva vnitra. Čtení takových dokumentů ukazuje, jaká rizika úřady uznávají a jaká zmírnění slibují. Testem je, zda jsou tyto sliby dodržovány v praxi, což je přesně to, co inspekce jako tato zkoumá.
Za zmínku také stojí, že rozpoznávání obličejů není omezeno na policii. Používají je i maloobchodníci a platí stejné otázky ohledně přesnosti a možnosti nápravy. Naše pokrytí upozornění Facewatch a britských nakupujících zkoumá tuto stránku obrazu.
Jaká jsou vaše práva, pokud jste chybně identifikováni
Zdrojový článek nestanoví individuální nápravná opatření, takže následující je obecné doporučení, nikoli právní rada.
- Zeptejte se, jaký je základ. Pokud vás zastaví nebo zatknou, můžete se zeptat proč. Pokud bylo zapojeno rozpoznávání obličejů, zeptejte se, zda vás s incidentem spojují nějaké další důkazy.
- Požádejte o svá data. Podle britského zákona o ochraně údajů můžete obecně podat žádost o přístup k subjektu údajů, abyste viděli osobní údaje, které o vás organizace uchovává, i když policie může někdy uplatnit výjimky.
- Veďte záznam. Poznamenejte si data, časy, místa a jména nebo čísla zúčastněných policistů.
- Vyhledejte radu. Solicitátor nebo organizace specializující se na občanské svobody vám mohou vysvětlit vaše možnosti pro stížnosti nebo napadení.
- Stěžujte si. Můžete si stěžovat příslušnému policejnímu sboru a eskalovat, pokud nejste spokojeni.
Pro maloobchodní prostředí náš průvodce vašimi právy na soukromí v maloobchodě ohledně skenování Facewatch pokrývá, jak napadnout a zpochybnit označení.
Co to pro vás znamená
Většina lidí nikdy nebude chybně spárována, ale riziko není sdíleno rovnoměrně a varování hlídače je připomínkou, že výsledek softwaru je pouze tak spolehlivý, jak spolehlivé jsou kontroly za ním. VPN neskryje váš obličej před kamerou na ulici, takže skutečnou ochranou jsou zde právní a procesní záruky: dohled, transparentnost a právo napadnout chyby.
Pokud máte obavy, sledujte, jak se pravidla vyvíjejí. Všímejte si, zda nová legislativa stanoví jasné požadavky na lidské ověření před tím, než je na základě shody jednáno, a zda pokračuje nezávislá inspekce.
Klíčové poznatky
- Shoda z rozpoznávání obličejů je stopa, nikoli důkaz totožnosti.
- Hlídač zjistil, že někteří policisté jednali na základě retrospektivních shod bez dostatečných kontrol.
- Etnické menšiny čelí vyššímu riziku z chyb při shodě, podle varování.
- Pokud jste chybně identifikováni, zeptejte se na základ, veďte záznamy, požádejte o svá data a vyhledejte radu.
- Zůstaňte informováni: přečtěte si o vládním plánu na zpřísnění pravidel policie pro rozpoznávání obličejů a podívejte se, jak jsou záruky zdokumentovány v posouzení soukromí LFR ministerstva vnitra.
Riziko nezákonného zatčení kvůli rozpoznávání obličejů ve Spojeném království závisí na tom, zda ověřování drží krok s technologií. Dokud tomu tak není, znalost vašich práv je vaší nejlepší praktickou ochranou.
