Nezakonito uhićenje utemeljeno na procjeni stroja
Baka iz Tennesseeja tuži za 10 milijuna dolara nakon što tvrdi da je zbog navodnog podudaranja putem AI prepoznavanja lica lažno optužena za pljačku banke u Sjevernoj Dakoti i pritvorena šest mjeseci. Slučaj, o kojem je prvi izvijestio ABC News, pokreće oštro pitanje koliko bi policijske uprave trebale vjerovati automatiziranim alatima za identifikaciju kada pogreška može značiti mjesece iza rešetaka za nevinu osobu.
Prema izvješću, žena je povezana s bankovnim prijevarama koje, kako tvrdi, nije počinila, nakon što je softver za prepoznavanje lica povezao njezinu sliku sa snimkom nadzorne kamere. Provela je pola godine u pritvoru prije nego što se slučaj protiv nje raspao, a sada pokreće tužbu kojom traži 10 milijuna dolara odštete zbog tog iskustva.
Kako nastaju pogreške prepoznavanja lica
Sustavi za prepoznavanje lica rade tako da uspoređuju fotografiju ili kadar videozapisa s bazom slika i generiraju ocjenu vjerojatnosti podudaranja. Ta je ocjena statistička procjena, a ne sigurnost. Kada istražitelji ili tužitelji tretiraju rezultat algoritma kao konačan dokaz, a ne kao jedan trag među mnogima, rizik od lažne optužbe naglo raste.
Ti sustavi imaju dokumentirane nedostatke u točnosti koji ovise o kvaliteti slike, osvjetljenju, kutu kamere i demografskom sastavu podataka na kojima su izgrađeni. Zrnata snimka nadzorne kamere, djelomični profil ili neobična ekspresija mogu navesti algoritam na lažno pozitivno podudaranje. Kada ta pogrešna podudarnost postane temelj za nalog za uhićenje, teret dokazivanja nevinosti prelazi na pogrešno optuženu osobu, često s posljedicama koje mijenjaju život, poput šestomjesečnog pritvora opisanog u ovom slučaju.
Ulog privatnosti i građanskih sloboda
Ova je tužba dio šireg obrasca zabrinutosti zbog toga kako agencije za provedbu zakona koriste prepoznavanje lica bez dosljednih nacionalnih standarda, nadzora ili zahtjeva za transparentnošću. Za razliku od podudaranja otiska prsta ili DNK, koje obično prolazi rigoroznu forenzičku validaciju prije upotrebe na sudu, rezultati prepoznavanja lica mogu se generirati trenutačno i primijeniti s daleko manje pažnje na terenu.
Temeljni problem je pitanje podataka i pristanka. Većina ljudi čija lica završe u tim sustavima za podudaranje nikada nije pristala da se njihove slike koriste na taj način. Fotografije izvučene iz baza podataka vozačkih dozvola, društvenih mreža ili javnih nadzornih kamera mogu hraniti alate za prepoznavanje bez znanja pojedinca. Kada algoritam pogriješi, oštećena osoba često nema pojma da su njezini biometrijski podaci uopće bili dio procesa sve dok se već ne suoči s kaznenim optužbama.
Taj nedostatak transparentnosti odražava rasprave koje se vode u drugim područjima digitalne politike, gdje je ključno pitanje tko kontrolira protok osobnih podataka i prema kojim pravilima. Baš kao što se rasprave o mrežnoj neutralnosti usredotočuju na osiguravanje poštenog i jednakog tretmana informacija koje putuju mrežama, rasprava o prepoznavanju lica usredotočuje se na osiguravanje poštenog i odgovornog tretmana osobnih biometrijskih podataka koji putuju kroz sustave za provedbu zakona.
Što to znači za vas
Većina ljudi nikada se neće suočiti s nezakonitim uhićenjem povezanim s prepoznavanjem lica, ali ovaj slučaj podsjeća da biometrijski podaci prikupljeni u jednu svrhu mogu završiti upotrijebljeni na načine koje pojedinci nikada nisu predvidjeli niti na njih pristali. Vaše lice, za razliku od lozinke, ne može se promijeniti ako ga zloupotrijebi ili pogrešno podudari neispravan sustav.
Ako živite ili radite u području gdje policijske uprave koriste tehnologiju prepoznavanja lica, vrijedi razumjeti koje lokalne politike, ako ih ima, uređuju tu upotrebu. Neke jurisdikcije zahtijevaju ljudsku provjeru prije nego što algoritamsko podudaranje može dovesti do uhićenja, dok druge to ne zahtijevaju. Znati postoje li te zaštitne mjere u vašoj zajednici može vam pomoći zagovarati jače zaštite ako nedostaju.
Za pojedince zabrinute zbog vlastitog biometrijskog otiska, pregled postavki privatnosti na platformama društvenih mreža, razumijevanje koje državne baze podataka čuvaju vašu fotografiju i informiranje o lokalnom i državnom zakonodavstvu o prepoznavanju lica praktični su koraci. Zagovaračke skupine i zakonodavci u nekoliko država već su se zalagali za ograničenja ili zabrane policijske upotrebe tehnologije, a javni pritisak povijesno je bio pokretački čimbenik u tim promjenama politike.
Šira slika
Ova tužba od 10 milijuna dolara vjerojatno će privući trajnu pozornost dok prolazi kroz pravni sustav i pridodaje se rastućem broju slučajeva koji osporavaju kako se AI alati za prepoznavanje lica koriste u kaznenim istragama. Bez obzira na ishod, slučaj naglašava jednostavnu istinu: tehnologija koja se reklamira kao istražni prečac nosi stvarne ljudske troškove kada zakaže, a ti troškovi najteže padaju na ljude koji su najmanje opremljeni da se bore.
Kako alati za prepoznavanje lica postaju sve češći u policijskom radu, informiranje o tome kako ti sustavi funkcioniraju, gdje se čuvaju vaši biometrijski podaci i koje zaštite postoje u vašem području jedan je od najpraktičnijih načina da se zaštitite od toga da postanete sljedeći naslov koji služi kao opomena.
