Prvi put u australskom policijskom radu

Policija Zapadne Australije postala je prva policijska snaga u zemlji koja je upotrijebila tehnologiju prepoznavanja lica uživo na javnim mjestima, a sustavu nije trebalo dugo da poluči rezultat. Tijekom suđenja, policajci su koristili tehnologiju kako bi u stvarnom vremenu identificirali i uhitili osobu, što je prekretnica koju policija predstavlja kao dokaz koncepta, a zagovornici privatnosti smatraju znakom upozorenja.

Sustav funkcionira skeniranjem video prijenosa uživo, navodno obrađujući stotine lica u minuti, i trenutačno ih unakrsno uspoređuje s policijskom bazom slika. Za razliku od tradicionalnog prepoznavanja lica, koje se obično koristi naknadno za usporedbu snimki s mjesta zločina s bazom podataka, ova tehnologija djeluje u trenutku, označavajući podudaranja policajcima dok ljudi prolaze pored nadziranih kamera u stvarnom vremenu. Suđenje je navodno uključivalo označeno policijsko vozilo stacionirano u blizini velikih događanja i u prepunim javnim prostorima, pri čemu je sustav provjeravao lica u odnosu na ono što dužnosnici opisuju kao strogo kontroliran popis uzbuna sa zakonito pohranjenim policijskim slikama.

Zašto su zagovornici privatnosti zabrinuti

Policija WA ističe uhićenje uživo kao dokaz da tehnologija funkcionira. No kritičari vide isti događaj kao početak mnogo šireg razgovora o tome koliko je nadzora javnost spremna prihvatiti u zamjenu za praktičnost ili sigurnost.

Tri zabrinutosti neprestano iskaču. Prva je rizik lažnih dojava: sustavi za prepoznavanje lica, čak i oni dobro podešeni, mogu pogrešno identificirati ljude, a pogrešna oznaka u kontekstu policijskog rada uživo mogla bi značiti da je nevina osoba zaustavljena, ispitana ili još gore, na temelju pogreške računala, a ne dokaza. Druga je algoritamska pristranost. Sustavi za prepoznavanje lica imaju dokumentiranu povijest manje točnog rada u različitim demografskim skupinama, što izaziva strah da bi neke zajednice mogle biti nerazmjerno pogođene lažnim podudaranjima. Treća, i možda najupornija, jest zabrinutost zbog širenja funkcije: tehnologija uvedena za usku svrhu, poput identificiranja ljudi s određenog popisa uzbuna na velikim događanjima, može postupno proširiti opseg dok ne postane rutinski alat za širi javni nadzor.

Ta posljednja točka mjesto je gdje je koncentriran najveći dio otpora. Jednom kada infrastruktura i javno prihvaćanje postoje za skeniranje gomile na glazbenom festivalu ili sportskom događaju, postoji mala tehnička prepreka koja sprječava da se koristi na prosvjedima, prometnim čvorištima ili običnim uličnim uglovima. Kritičari tvrde da ovakva suđenja postupno normaliziraju nadzor, pri čemu je svako proširenje opravdano uspjehom prethodnog.

Veći problem s podacima

Suđenja s prepoznavanjem lica ne postavljaju samo pitanja o policijskim taktikama; postavljaju pitanja o upravljanju podacima. Svako skenirano, podudareno ili zabilježeno lice postaje podatkovna točka koja se nalazi unutar vladinog sustava, a vladini sustavi nisu se uvijek pokazali pouzdanim čuvarima osjetljivih osobnih podataka. Biometrijski podaci posebno su osjetljivi jer se, za razliku od lozinke, lice ne može promijeniti ako bude izloženo ili zloupotrijebljeno.

Tu se suđenje u WA povezuje sa širim obrascem zabrinutosti oko tehnologije javnog sektora. Vladine agencije sve više drže velike količine osobnih podataka, od evidencija o licencama do biometrijskih skeniranja, a rezultati u osiguravanju tih podataka bili su mješoviti. Problemi poput onog detaljno opisanog u Povreda podataka WA DOL: Kad vas vladini sustavi iznevjere pokazuju kako ranjivosti u vladinim sustavima mogu postojati godinama prije nego što se riješe i kako posljedice padaju izravno na obične ljude čiji su podaci trebali biti zaštićeni. Popis uzbuna za prepoznavanje lica u svojoj je srži još jedna osjetljiva vladina baza podataka i njezina sigurnost važna je jednako koliko i njezina točnost.

Što ovo znači za vas

Za stanovnike Zapadne Australije i za sve koji prate ovo suđenje kao pokazatelj za policijsku tehnologiju drugdje, neposredan utjecaj je ograničen: sustav trenutačno provjerava lica u odnosu na određeni popis uzbuna, umjesto da bilježi svakoga tko prođe. No suđenje označava značajan pomak u načinu na koji se javni prostori mogu nadzirati i razumno je postavljati pitanja prije nego što tehnologija postane trajna ili se proširi.

Ne morate biti tehnolog da biste imali udjela u ovome. Ovakva javna suđenja obično prate pregledi, javne konzultacije ili parlamentarna kontrola, a povratne informacije javnosti tijekom tih razdoblja doista oblikuju hoće li se nadzorne mjere ugraditi. Razumjeti što se skenira, tko je na popisu uzbuna i koliko dugo se podaci čuvaju razumna su pitanja za svaku zajednicu koja se prvi put suočava s ovakvom vrstom tehnologije.

Ključni zaključci

  • Prepoznavanje lica uživo razlikuje se od naknadnog podudaranja: označava ljude u stvarnom vremenu dok prolaze pored nadziranih kamera, povećavajući ulog svake pogreške.
  • Lažno pozitivni rezultati i algoritamska pristranost ostaju stvarni rizici, čak i u suđenjima koja su predstavljena kao uska i kontrolirana.
  • Širenje funkcije, postupno proširenje izvorne svrhe alata, zabrinutost je koju stručnjaci najpomnije prate.
  • Upravljanje podacima važno je koliko i točnost. Baza podataka za prepoznavanje lica još je jedan repozitorij osjetljivih osobnih podataka koji zahtijeva snažnu sigurnost i nadzor.
  • Javna kontrola tijekom faza suđenja jedan je od rijetkih prozora gdje doprinos zajednice može oblikovati kako ili hoće li ova tehnologija postati trajna.

Kako policija WA širi i procjenjuje ovo suđenje, razgovor oko prepoznavanja lica uživo samo će postajati glasniji. Biti informiran o tome kako se ovi sustavi primjenjuju i postavljati pitanja o nadzoru i zaštiti podataka najpraktičniji je način da javnost ima utjecaja na to kamo će ova tehnologija dalje ići.