Živý test rozpoznávání obličejů, o kterém většina obyvatel vůbec nevěděla

V tom, co je popisováno jako australské prvenství, policie Západní Austrálie od června v Perthu a Fremantlu tiše nasadila živé AI kamery pro rozpoznávání obličejů. Během jediného týdne testu systém naskenoval více než 130 000 obličejů, vygeneroval 33 upozornění a vedl k 18 zatčením. Policie také uvedla, že technologie pomohla identifikovat a oslovit 21 registrovaných sexuálních delikventů v oblasti.

Samotný rozsah skenování je pozoruhodný, ale největší pozornost vyvolalo, jak k němu došlo: obyvatelé procházející těmito ulicemi nebyli informováni, že jsou skenováni. Nebyla žádná kampaň s informačními cedulemi, žádné období veřejné konzultace a žádný jasný mechanismus odhlášení. Mnoho Australanů se o programu poprvé dozvědělo až z médií, nikoli z oznámení policie nebo místní správy.

Proč na absenci oznámení záleží

Systémy rozpoznávání obličejů fungují tak, že zachytávají snímky lidí na veřejnosti a porovnávají je s databází, často v reálném čase. Když tento proces probíhá bez veřejného oznámení, lidé ztrácejí možnost činit informovaná rozhodnutí o tom, kam chodí, s kým jsou viděni nebo jak mohou být jejich pohyby zaznamenávány a vzájemně propojovány. Ochránci soukromí a právní experti upozornili, že to podkopává základní princip dohledu: lidé by obecně měli vědět, kdy a jak jsou sledováni, zejména ze strany vládních orgánů.

Test rovněž přinesl přinejmenším jedno potvrzené falešné ztotožnění, což připomíná, že i sofistikované systémy umělé inteligence mohou lidi chybně identifikovat, někdy s důsledky od nepříjemností až po závažné dopady. Rizika chybné identifikace také nejsou rozložena rovnoměrně; nástroje pro rozpoznávání obličejů mají dobře zdokumentovanou historii vyšší chybovosti u určitých demografických skupin, což vedle otázek soukromí vyvolává i obavy o rovnost.

Policie Západní Austrálie výsledky prezentuje jako úspěchy v oblasti veřejné bezpečnosti: uskutečněná zatčení, identifikovaní pachatelé a vygenerovaná upozornění. Dohlížecí orgány na ochranu soukromí však tvrdí, že skutečné posouzení nákladů a přínosů vyžaduje transparentnost ohledně pravidel testu: jak dlouho jsou záznamy a data o shodách uchovávána, kdo k nim má přístup, zda jsou sdílena s jinými orgány a co se děje s biometrickými údaji desítek tisíc lidí, kteří byli naskenováni, ale neměli žádnou souvislost s vyšetřováním.

Širší vzorec shromažďování biometrických údajů

Tento test neexistuje izolovaně. Vlády a soukromé společnosti po celém světě stále více přecházejí k biometrickému ověřování, ať už prostřednictvím rozpoznávání obličejů pro policejní účely, biometrických kontrol na letištích, nebo systémů pro ověřování věku, které skenují obličeje a odhadují věk uživatele, než mu umožní přístup k určitému obsahu nebo službám. Každý z těchto systémů vyvolává podobnou zásadní otázku: kolik biometrických údajů by mělo být jedinému systému umožněno shromažďovat a jak dlouho by je měl uchovávat?

Čtenáři, které zajímá, jak se tyto kompromisy projevují v jiném, ale souvisejícím kontextu, se mohou podívat, jak zákony o ověřování věku ve světě již nyní vyvolávají podobné debaty o biometrickém skenování, uchovávání údajů a souhlasu, často s mnohem menší informovaností veřejnosti, než by napovídal dosah technologie.

Test policie Západní Austrálie je užitečnou případovou studií právě proto, že ukazuje, co se stane, když biometrický dohled přejde z politické debaty do ostrého nasazení. Technologie v mnoha případech fungovala podle očekávání, ale absence jasného veřejného oznámení, nezávislé auditní stopy nebo formálních možností odhlášení ukazuje, jak rychle mohou schopnosti předběhnout dohled.

Co to znamená pro vás

Pokud žijete v Perthu či Fremantlu nebo je navštěvujete, možná jste už byli naskenováni, aniž byste o tom věděli, a stejná dynamika by se mohla rozšířit do dalších měst, protože se o podobných pilotních programech uvažuje i jinde. I mimo Austrálii je tento případ ukázkou toho, kam směřují testy AI rozpoznávání obličejů ve veřejném prostoru: tiché zavádění zdůvodňované bezpečnostními statistikami, přičemž záruky ochrany soukromí se často doplňují až dodatečně, nikoli aby byly zabudované od začátku.

Obecně se nemůžete odhlásit z živého systému rozpoznávání obličejů ve veřejném prostoru, jakmile je ve vaší oblasti aktivní, a právě proto jsou transparentnost a veřejná debata tak důležité ještě před spuštěním těchto systémů, nikoli až po něm.

Praktická doporučení

  • Zjistěte, zda vaše místní policie nebo městská rada zveřejnila informace o jakýchkoli testech rozpoznávání obličejů, ať už probíhajících, nebo plánovaných, a hledejte možnost veřejné zpětné vazby či konzultace.
  • Podporujte požadavky na jasné zásady uchovávání a mazání údajů vždy, když jsou pro veřejný prostor navrhovány nástroje pro rozpoznávání obličejů nebo jiné biometrické nástroje.
  • Usilujte o nezávislé audity přesnosti a zkreslení u jakéhokoli sledovacího systému s umělou inteligencí ještě předtím, než bude rozšířen nad rámec pilotní fáze.
  • Sledujte, jak by biometrické údaje shromážděné pro jeden účel, například pro policejní práci, mohly být později sdíleny s jinými orgány nebo soukromými společnostmi.

Debata o testech AI rozpoznávání obličejů bude s tím, jak více měst testuje podobné systémy, jen sílit. Zůstat informovaný o tom, jak jsou tyto programy zaváděny, a požadovat transparentnost, když nejsou, je jedním z nejpraktičtějších způsobů, jak může veřejnost ovlivnit, jak bude tato technologie v budoucnu používána.