Poprvé v australské policejní praxi

Policie Západní Austrálie se stala první složkou v zemi, která nasadila technologii živého rozpoznávání obličejů ve veřejném prostoru, a netrvalo dlouho, než systém přinesl výsledek. Během zkušebního provozu policisté pomocí technologie v reálném čase identifikovali a zatkli osobu – milník, který policie prezentuje jako důkaz funkčnosti a který obhájci soukromí vnímají jako varovný signál.

Systém funguje tak, že snímá živé videozáznamy, údajně zpracovává stovky obličejů za minutu a okamžitě je porovnává s policejní databází snímků. Na rozdíl od tradičního rozpoznávání obličejů, které se obvykle používá až zpětně k porovnání záznamů z místa činu s databází, tato technologie pracuje v daném okamžiku a upozorňuje policisty na shodu, jakmile lidé procházejí kolem monitorovaných kamer v reálném čase. Zkouška údajně zahrnovala označené policejní vozidlo umístěné poblíž velkých akcí a v rušných veřejných prostranstvích, přičemž systém porovnával obličeje s tím, co úředníci popisují jako přísně kontrolovaný seznam upozornění obsahující zákonně pořízené policejní snímky.

Proč jsou obhájci soukromí znepokojeni

Zatčení v reálném čase předkládá policie Západní Austrálie jako důkaz, že technologie funguje. Kritici však stejnou událost vnímají jako začátek mnohem širší debaty o tom, jak velký dohled je veřejnost výměnou za pohodlí nebo bezpečnost ochotna akceptovat.

Neustále se vynořují tři obavy. První je riziko falešných upozornění: systémy rozpoznávání obličejů, i ty dobře vyladěné, mohou lidi chybně identifikovat a nesprávné označení v reálném policejním kontextu by mohlo znamenat, že nevinná osoba bude zastavena, vyslýchána, nebo hůř, na základě počítačové chyby namísto důkazů. Druhou je algoritmická předpojatost. Systémy rozpoznávání obličejů mají zdokumentovanou historii nižší přesnosti napříč různými demografickými skupinami, což vzbuzuje obavy, že některé komunity by mohly být nepřiměřeně postiženy falešnými shodami. Třetí, a možná nejtrvalejší, je obava z rozšiřování funkcí: technologie zavedená pro úzký účel, například identifikaci osob na konkrétním seznamu upozornění na velkých akcích, může postupně rozšířit svůj záběr, až se stane rutinním nástrojem pro širší veřejný monitoring.

Do tohoto posledního bodu se soustřeďuje velká část odporu. Jakmile existuje infrastruktura a veřejné přijetí pro skenování davů na hudebním festivalu nebo sportovní události, existuje jen malá technická překážka, která by bránila nasazení na protestech, v dopravních uzlech nebo na běžných rozích ulic. Kritici tvrdí, že podobné zkoušky mají tendenci postupně dohled normalizovat, přičemž každé další rozšíření je ospravedlňováno úspěchem toho předchozího.

Větší problém s daty

Zkoušky rozpoznávání obličejů nevyvolávají jen otázky ohledně policejní taktiky; vyvolávají otázky ohledně správy dat. Každý naskenovaný, porovnaný nebo zaznamenaný obličej se stává datovým bodem uvnitř vládního systému a vládní systémy se ne vždy prokázaly jako spolehliví správci citlivých osobních údajů. Biometrické údaje jsou obzvláště citlivé, protože na rozdíl od hesla nelze obličej v případě odhalení nebo zneužití změnit.

A právě zde se zkouška v Západní Austrálii napojuje na širší obavy týkající se technologií ve veřejném sektoru. Vládní agentury stále častěji disponují velkými objemy osobních údajů, od registračních záznamů po biometrické skeny, a dosavadní výsledky v zabezpečení těchto dat jsou přinejmenším smíšené. Problémy, jako je ten podrobně popsaný v článku WA DOL Data Breach: When Government Systems Fail You, ukazují, jak mohou zranitelnosti ve vládních systémech přetrvávat roky, než se začnou řešit, a jak důsledky dopadají přímo na běžné lidi, jejichž informace měly být chráněny. Seznam upozornění pro rozpoznávání obličejů je v jádru další citlivou vládní databází a její zabezpečení je stejně důležité jako její přesnost.

Co to znamená pro vás

Pro obyvatele Západní Austrálie a pro každého, kdo tuto zkoušku sleduje jako předzvěst policejních technologií jinde, je bezprostřední dopad omezený: systém aktuálně porovnává obličeje s konkrétním seznamem upozornění, nikoli loguje každého, kdo projde kolem. Zkouška však představuje významný posun v tom, jak lze veřejná prostranství monitorovat, a je namístě klást si otázky dříve, než se technologie stane trvalou nebo se rozšíří.

Nemusíte být technolog, abyste v tom měli svůj podíl. Po podobných veřejných zkouškách obvykle následují revize, veřejné konzultace nebo parlamentní přezkum a zpětná vazba veřejnosti během těchto fází skutečně ovlivňuje, zda budou zabudována kontrolní opatření. Porozumět tomu, co se skenuje, kdo je na seznamu upozornění a jak dlouho se data uchovávají, jsou legitimní otázky pro každou komunitu, která se s tímto druhem technologie setkává poprvé.

Klíčové body

  • Živé rozpoznávání obličejů se liší od zpětného porovnávání: označuje lidi v reálném čase, když procházejí kolem monitorovaných kamer, což zvyšuje sázky v případě jakékoli chyby.
  • Falešně pozitivní výsledky a algoritmická předpojatost zůstávají reálnými riziky i ve zkouškách označovaných za úzce zaměřené a kontrolované.
  • Rozšiřování funkcí, tedy postupné rozšiřování původního účelu nástroje, je obavou, kterou odborníci sledují nejpozorněji.
  • Na správě dat záleží stejně jako na přesnosti. Databáze rozpoznávání obličejů je dalším úložištěm citlivých osobních údajů, které vyžaduje silné zabezpečení a dohled.
  • Veřejná kontrola během zkušebních fází je jedním z mála období, kdy může zpětná vazba komunity ovlivnit, jak nebo zda se tato technologie stane trvalou.

Vzhledem k tomu, že policie Západní Austrálie tuto zkoušku rozšiřuje a vyhodnocuje, debata o živém rozpoznávání obličejů bude jen sílit. Zůstat informován o tom, jak jsou tyto systémy nasazovány, a ptát se na dohled a ochranu údajů, je nejpraktičtější způsob, jak může veřejnost ovlivnit, kam bude tato technologie směřovat dál.