Probno korištenje živog prepoznavanja lica za koje većina stanovnika nikada nije znala

U onome što se opisuje kao prvi takav slučaj u Australiji, policija Zapadne Australije tiho je, počevši od lipnja, postavila kamere za živo AI prepoznavanje lica diljem Pertha i Fremantlea. U samo jednom tjednu probnog rada sustav je skenirao više od 130.000 lica, generirao 33 upozorenja i doveo do 18 uhićenja. Policija je također priopćila da im je tehnologija pomogla identificirati i kontaktirati 21 registriranog seksualnog prijestupnika u tom području.

Opseg skeniranja sam po sebi je značajan, ali najviše pozornosti privuklo je kako se to dogodilo: stanovnicima koji su prolazili tim ulicama nije rečeno da ih se skenira. Nije bilo postavljenih znakova, razdoblja javnog savjetovanja ni jasnog mehanizma isključenja. Za mnoge Australce prva vijest o programu stigla je kroz medijsko izvještavanje nakon što se sve dogodilo, a ne putem obavijesti policije ili lokalne vlasti.

Zašto je izostanak obavijesti važan

Sustavi za prepoznavanje lica funkcioniraju tako da snimaju slike ljudi na javnim mjestima i uspoređuju ih s bazom podataka, često u stvarnom vremenu. Kada se taj proces odvija bez javne obavijesti, ljudi gube mogućnost donošenja informiranih odluka o tome kamo idu, s kim ih se viđa ili kako bi se njihovo kretanje moglo bilježiti i unakrsno uspoređivati. Zagovaratelji privatnosti i pravni stručnjaci istaknuli su da to podriva osnovno načelo nadzora: ljudi bi u pravilu trebali znati kada i kako ih se nadzire, osobito kada to čine vladine agencije.

Probno razdoblje također je dovelo do najmanje jedne potvrđene pogrešne identifikacije, što je podsjetnik da čak i sofisticirani sustavi umjetne inteligencije mogu pogrešno identificirati ljude, ponekad s posljedicama koje sežu od neugodnih do ozbiljnih. Rizici pogrešne identifikacije nisu ni ravnomjerno raspoređeni; alati za prepoznavanje lica imaju dobro dokumentiranu povijest viših stopa pogrešaka za određene demografske skupine, što uz zabrinutost za privatnost izaziva i zabrinutost za pravednost.

Policija Zapadne Australije predstavila je rezultate kao uspjehe u pogledu javne sigurnosti, uhićenja, identificirane počinitelje i generirana upozorenja. No nadzornici privatnosti tvrde da istinska procjena troškova i koristi zahtijeva transparentnost o pravilima probnog razdoblja: koliko se dugo čuvaju snimke i podaci o podudaranju, tko im može pristupiti, dijele li se s drugim agencijama i što se događa s biometrijskim podacima desetaka tisuća ljudi koji su skenirani, a nisu imali nikakve veze s bilo kakvom istragom.

Širi obrazac prikupljanja biometrijskih podataka

Ovo probno razdoblje ne postoji izolirano. Vlade i privatne tvrtke diljem svijeta sve se više oslanjaju na biometrijsku provjeru, bilo putem prepoznavanja lica u policijskom radu, biometrijskih provjera u zračnim lukama ili sustava za provjeru dobi koji skeniraju lica kako bi procijenili dob korisnika prije nego što mu omoguće pristup određenom sadržaju ili uslugama. Svaki od tih sustava otvara slično ključno pitanje: koliko bi biometrijskih podataka bilo koji pojedini sustav smio prikupljati i koliko dugo bi ih smio čuvati? Čitatelji koje zanima kako se ti kompromisi odvijaju u drukčijem, ali povezanom kontekstu mogu pogledati kako zakoni o provjeri dobi diljem svijeta već pokreću slične rasprave o biometrijskom skeniranju, zadržavanju podataka i pristanku, često uz daleko manju svijest javnosti nego što bi doseg tehnologije sugerirao.

Probno razdoblje policije Zapadne Australije korisna je studija slučaja upravo zato što pokazuje što se dogodi kada biometrijski nadzor prijeđe iz rasprave o politikama u stvarnu primjenu. Tehnologija je u mnogim slučajevima radila kako je zamišljeno, ali izostanak jasne javne obavijesti, neovisnog revizijskog traga ili formalnih mogućnosti isključenja pokazuje koliko brzo sposobnost može nadmašiti nadzor.

Što to znači za vas

Ako živite u Perthu ili Fremantleu ili ih posjećujete, možda ste već bili skenirani a da to niste znali, a ista bi se dinamika mogla proširiti i na druge gradove dok se slični pilot programi razmatraju drugdje. Čak i izvan Australije, ovaj je slučaj najava smjera u kojem idu probna korištenja AI prepoznavanja lica u javnim prostorima: tiho uvođenje opravdano statistikama o sigurnosti, pri čemu se zaštitne mjere privatnosti često dodaju naknadno, umjesto da budu ugrađene od samog početka.

Općenito se ne možete isključiti iz sustava živog prepoznavanja lica u javnom prostoru nakon što postane aktivan u vašem području, što je upravo razlog zašto su transparentnost i javna rasprava toliko važni prije nego što ti sustavi počnu djelovati, a ne nakon toga.

Praktični zaključci

  • Provjerite je li vaša lokalna policija ili gradsko vijeće objavilo informacije o bilo kakvim probnim programima prepoznavanja lica, trenutačnima ili planiranima, i potražite postupak javnog komentiranja ili savjetovanja.
  • Podržite zahtjeve za jasnim politikama zadržavanja i brisanja podataka kad god se predlaže prepoznavanje lica ili drugi biometrijski alati za javne prostore.
  • Zatražite neovisne revizije točnosti i pristranosti u svakom sustavu AI nadzora prije nego što se proširi izvan pilot faze.
  • Informirajte se o tome kako bi se biometrijski podaci prikupljeni u jednu svrhu, primjerice za rad policije, kasnije mogli dijeliti s drugim agencijama ili privatnim tvrtkama.

Rasprava o probnim korištenjima AI prepoznavanja lica samo će postajati glasnija kako sve više gradova testira slične sustave. Informiranje o tome kako se ti programi uvode i zahtijevanje transparentnosti kada nisu transparentni jedan je od najpraktičnijih načina na koji javnost može utjecati na to kako će se ova tehnologija ubuduće koristiti.