O arestare ilegală construită pe presupunerea unei mașini

O bunică din Tennessee dă în judecată pentru 10 milioane de dolari după ce spune că o presupusă potrivire de recunoaștere facială AI a dus la acuzația falsă că ar fi comis infracțiuni de furt bancar în Dakota de Nord și la detenția sa timp de șase luni. Cazul, relatat inițial de ABC News, ridică întrebări pertinente despre câtă încredere ar trebui să acorde departamentele de poliție instrumentelor de identificare automatizată atunci când consecințele unei erori pot însemna luni de închisoare pentru o persoană nevinovată.

Potrivit raportului, femeia a fost asociată cu infracțiuni de fraudă bancară pe care spune că nu le-a comis, după ce software-ul de recunoaștere facială i-a asociat imaginea cu înregistrări de supraveghere. Ea a petrecut jumătate de an în detenție înainte ca cazul împotriva ei să se destrame, iar acum intentă un proces prin care cere 10 milioane de dolari daune pentru această încercare.

Cum apar erorile de recunoaștere facială

Sistemele de recunoaștere facială funcționează prin compararea unei fotografii sau a unui cadru video cu o bază de date de imagini și generarea unui scor de probabilitate pentru o potrivire. Acel scor este o estimare statistică, nu o certitudine. Atunci când anchetatorii sau procurorii tratează rezultatul unui algoritm ca pe o dovadă definitivă, mai degrabă decât ca pe o pistă printre multe altele, riscul unei acuzații false crește brusc.

Aceste sisteme au lacune de precizie documentate în funcție de calitatea imaginii, iluminare, unghiul camerei și componența demografică a datelor de instruire folosite pentru construirea lor. O fotografie de supraveghere neclară, o imagine de profil parțială sau o expresie neobișnuită pot împinge un algoritm spre un rezultat fals pozitiv. Atunci când acea potrivire eronată devine fundamentul unui mandat de arestare, sarcina de a-și dovedi nevinovăția trece asupra persoanei acuzate pe nedrept, adesea cu consecințe care schimbă viața, precum cele șase luni de detenție descrise în acest caz.

Miza privind confidențialitatea și libertățile civile

Acest proces face parte dintr-un tipar mai amplu de îngrijorare cu privire la modul în care agențiile de aplicare a legii utilizează recunoașterea facială fără standarde naționale consecvente, fără supraveghere sau cerințe de transparență. Spre deosebire de o potrivire prin amprentă sau ADN, care de obicei trece printr-o validare forensică riguroasă înainte de a fi folosită în instanță, rezultatele recunoașterii faciale pot fi generate instantaneu și aplicate cu mult mai puțin control pe teren.

Problema de fond este una legată de date și consimțământ. Majoritatea persoanelor ale căror fețe ajung în aceste sisteme de potrivire nu au fost niciodată de acord ca imaginile lor să fie folosite în acest mod. Fotografiile extrase din bazele de date cu permise de conducere, de pe rețelele sociale sau de pe camerele de supraveghere publice pot alimenta instrumentele de recunoaștere fără știrea individului. Atunci când un algoritm greșește, persoana afectată adesea nu are idee că datele sale biometrice au făcut parte din proces până când nu se confruntă deja cu acuzații penale.

Această lipsă de transparență oglindește dezbaterile care au loc în alte domenii ale politicii digitale, unde întrebarea centrală este cine controlează fluxul de date personale și după ce reguli. La fel cum discuțiile despre neutralitatea internetului se concentrează pe asigurarea unui tratament corect și egal al informațiilor care circulă prin rețele, dezbaterea despre recunoașterea facială se concentrează pe asigurarea unui tratament corect și responsabil al datelor biometrice personale care circulă prin sistemele de aplicare a legii.

Ce înseamnă asta pentru tine

Majoritatea oamenilor nu se vor confrunta niciodată cu o arestare ilegală legată de recunoașterea facială, dar acest caz este un memento că datele biometrice colectate pentru un scop pot ajunge să fie folosite în moduri pe care indivizii nu le-au anticipat și la care nu au consimțit niciodată. Fața ta, spre deosebire de o parolă, nu poate fi schimbată dacă este utilizată abuziv sau potrivită greșit de un sistem defectuos.

Dacă locuiești sau lucrezi într-o zonă în care departamentele de poliție folosesc tehnologia de recunoaștere facială, merită să înțelegi ce politici locale, dacă există, guvernează această utilizare. Unele jurisdicții impun revizuirea umană înainte ca o potrivire algoritmică să poată duce la o arestare, în timp ce altele nu. Să știi dacă aceste garanții există în comunitatea ta te poate ajuta să militezi pentru protecții mai puternice dacă acestea lipsesc.

Pentru persoanele preocupate de propria amprentă biometrică, revizuirea setărilor de confidențialitate pe platformele de social media, înțelegerea bazelor de date guvernamentale care stochează fotografia ta și informarea continuă despre legislația locală și statală privind recunoașterea facială sunt pași practici. Grupurile de advocacy și legislatorii din mai multe state au insistat deja pentru restricții sau interdicții privind utilizarea acestei tehnologii de către poliție, iar presiunea publică a fost istoric un factor determinant în aceste schimbări de politică.

Imaginea de ansamblu

Acest proces de 10 milioane de dolari va atrage probabil atenția în continuare pe măsură ce avansează prin sistemul juridic și se adaugă la un corp tot mai mare de cazuri care contestă modul în care instrumentele AI de recunoaștere facială sunt folosite în anchetele penale. Oricare ar fi rezultatul, cazul subliniază un adevăr simplu: tehnologia promovată ca o scurtătură de investigație are costuri umane reale atunci când eșuează, iar aceste costuri cad cel mai greu asupra persoanelor cel mai puțin echipate să se apere.

Pe măsură ce instrumentele de recunoaștere facială devin mai comune în activitatea polițienească, să rămâi informat despre modul în care funcționează aceste sisteme, unde sunt stocate datele tale biometrice și ce protecții există în zona ta este una dintre cele mai practice modalități de a te proteja de a deveni următorul titlu de avertizare.