Karikatura s ozbiljnom porukom
Kada satirični karikaturist cilja na tehnologiju prepoznavanja lica u supermarketima, vrijedi zastati i zapitati se na što se šala zapravo odnosi. Strip First Dog on the Moon u The Guardianu, objavljen pod naslovom "Val krađa u trgovinama?! Postavljanje tehnologije prepoznavanja lica posvuda riješit će to," ismijava ideju da australski maloprodajni divovi Coles i Woolworths mogu riješiti krađe jednostavnim prekrivanjem trgovina kamerama i biometrijskim softverom. Poanta pogađa jer je utemeljena u nečem stvarnom: algoritmi za prepoznavanje lica imaju dokumentirane pristranosti, a tvrtke koje ih primjenjuju u biti traže od javnosti da vjeruje kako neće zloupotrijebiti tehnologiju za koju je poznato da griješi.
To je napetost u srcu ove priče. Trgovci predstavljaju prepoznavanje lica kao jednostavnu nadogradnju sigurnosti, način da se označe poznati počinitelji prije nego stignu do blagajne. Ali tehnologija ne djeluje u vakuumu. Ona skenira, pohranjuje i uspoređuje lica svakog kupca koji uđe na vrata, bez obzira na to je li ikada bio osumnjičen za išta ili ne.
Zašto je pristranost prepoznavanja lica važna u maloprodaji
Sustavi za prepoznavanje lica imaju dobro utvrđenu evidenciju nejednakog učinka među različitim demografskim skupinama. Studije i neovisna testiranja tijekom godina više su puta pokazala da stope pogrešaka nisu jednako raspoređene, što znači da su neki kupci statistički vjerojatnije pogrešno identificirani od drugih. U maloprodajnom okruženju, lažno podudaranje ne donosi samo nezgodnu obavijest. Može značiti da kupac bude zaustavljen, ispitan ili zamoljen da napusti trgovinu u kojoj nije učinio ništa loše.
Obećanje supermarketa da će odgovorno koristiti ovu tehnologiju ne mijenja temeljni problem točnosti. Korporativno obećanje da će izbjeći zlouporabu je politička obveza, a ne tehničko rješenje. Algoritam i dalje čini iste statističke pogreške bez obzira na to koliko pažljivo tvrtka kaže da će upravljati njegovom uporabom. Upravo je to praznina koju karikatura ismijava: nesklad između manjkavog alata i samouvjerenog jezika kojim se prodaje kao rješenje.
Podaci negdje završe, a to je također rizik
Osim pogrešne identifikacije, postoji i drugi sloj zabrinutosti koji često dobiva manje pažnje: gdje biometrijski podaci odlaze nakon što se prikupe. Sustavi za prepoznavanje lica zahtijevaju pohranu biometrijskih predložaka, slika ili dnevnika podudaranja, a svaka takva baza podataka postaje meta. Trgovci tradicionalno nisu organizacije usmjerene na sigurnost na način na koji su to banke ili telekomunikacijske tvrtke, a širi obrazac ranjivosti poduzeća vrijedi imati na umu. Izvještavanje o britanskim proizvođačima pogođenim cyber napadima pokazalo je da je velik udio industrijskih tvrtki probijen u protekloj godini dok su mnoge ostale nepripremljene, što je podsjetnik da su sektori izvan tradicionalne tehnologije često nedovoljno opremljeni za sigurnosne zahtjeve podataka koje sada drže. Lanac supermarketa koji pohranjuje biometrijske predloške milijuna kupaca preuzima sličnu vrstu izloženosti, bez obzira na to ima li infrastrukturu koja tome odgovara.
Također postoji obrazac vrijedan pažnje u tome kako se tehnologija za provjeru uvede sa samouvjerenim obećanjima koja ne prolaze uvijek pod nadzorom. Regulatori su postavljali slična pitanja i drugdje, primjerice kada je Ofcom pokrenuo istragu o sustavima provjere dobi na TikToku nakon zabrinutosti da provjere ne rade kako je reklamirano. Prepoznavanje lica u maloprodaji slijedi sličan scenarij: tehnologija se uvodi kao rješenje za stvarni problem, uz uvjeravanja o odgovornoj uporabi, dok pitanja točnosti i nadzora ostaju uglavnom neriješena.
Što to znači za vas
Ako kupujete u trgovini koja koristi prepoznavanje lica, vaše se lice skenira i potencijalno uspoređuje s bazom podataka svaki put kada uđete, bez obzira na to jeste li ikada učinili išta loše. Vjerojatno vam neće biti rečeno koji se točno sustav koristi, koliko se dugo vaši podaci čuvaju ili kakva vam je pravna zaštita dostupna ako budete pogrešno označeni. Korporativna obećanja o odgovornoj uporabi nisu provediva jamstva i ne rješavaju pitanja točnosti algoritama ugrađenih u samu tehnologiju.
To ne znači da je svaka uporaba prepoznavanja lica zlonamjerna ili da je svaki kupac pod značajnim rizikom. Ali to znači da teret dokazivanja treba biti na tvrtkama koje primjenjuju ovu tehnologiju, a ne na kupcima koji prolaze pokraj njihovih kamera. Povjerenje u bilo koji sustav koji obrađuje osjetljive osobne podatke, biometrijske ili druge, treba biti potkrijepljeno provjerljivim praksama, a ne umirujućim izjavama. To je isti standard koji vrijedi primijeniti na bilo koju uslugu koja obrađuje vaše podatke, uključujući neovisno revidirane sigurnosne prakse umjesto neprovjerenih tvrdnji o dobrom ponašanju.
Poruke za kupce
Obratite pažnju na oznake na ulazima u trgovine koje upućuju na korištenje nadzora ili tehnologije prepoznavanja lica i ne ustručavajte se pitati osoblje ili korisničku službu tvrtke koji se podaci prikupljaju i koliko se dugo čuvaju. Ako vjerujete da ste pogrešno identificirani, zatražite službenu reviziju umjesto da prihvatite odluku na licu mjesta. I šire, imajte na umu da obećanje tvrtke da će odgovorno koristiti tehnologiju prepoznavanja lica nije isto što i dokaz da sustav radi pošteno. Kako se ova tehnologija širi u sve više svakodnevnih prostora, od supermarketa do javnog prijevoza, pitanja koja pokreće satirična karikatura vrijedi shvatiti jednako ozbiljno kao i svaku formalnu političku raspravu.
