Un test live de recunoaștere facială despre care majoritatea locuitorilor nu au știut nimic

În ceea ce este descris ca o premieră australiană, Poliția din Australia de Vest a instalat discret camere live de recunoaștere facială cu inteligență artificială în Perth și Fremantle începând din iunie. Într-o singură săptămână de test, sistemul a scanat peste 130.000 de fețe, generând 33 de alerte și ducând la 18 arestări. Poliția a declarat, de asemenea, că tehnologia a ajutat la identificarea și contactarea a 21 de infractori sexuali înregistrați din zonă.

Amploarea scanării este remarcabilă în sine, dar ceea ce a atras cea mai mare atenție este modul în care s-a întâmplat: locuitorii care au trecut prin acele străzi nu au fost informați că sunt scanați. Nu a existat nicio campanie de semnalizare, nicio perioadă de consultare publică și niciun mecanism clar de renunțare. Pentru mulți australieni, prima dată când au aflat despre program a fost prin relatările din presă de după ce s-a întâmplat, nu printr-un anunț din partea poliției sau a administrației locale.

De ce contează lipsa notificării

Sistemele de recunoaștere facială funcționează prin captarea imaginilor oamenilor în spațiul public și compararea lor cu o bază de date, adesea în timp real. Atunci când acest proces are loc fără notificarea publicului, oamenii își pierd capacitatea de a face alegeri informate cu privire la locurile în care merg, la persoanele cu care sunt văzuți sau la modul în care mișcările lor ar putea fi înregistrate și corelate. Susținătorii vieții private și experții juridici au subliniat că acest lucru subminează un principiu de bază al supravegherii: oamenii ar trebui, în general, să știe când și cum sunt monitorizați, mai ales de către agențiile guvernamentale.

Testul a produs, de asemenea, cel puțin o identificare falsă confirmată, o reamintire că până și sistemele AI sofisticate pot identifica greșit oamenii, uneori cu consecințe care variază de la neplăceri la situații grave. Riscurile de identificare greșită nu sunt distribuite uniform; instrumentele de recunoaștere facială au un istoric bine documentat de rate mai mari de eroare pentru anumite grupuri demografice, ceea ce ridică îngrijorări legate de echitate pe lângă cele legate de viața privată.

Poliția din Australia de Vest a prezentat rezultatele în termeni de victorii pentru siguranța publică, arestări efectuate, infractori identificați și alerte generate. Dar organismele de supraveghere a vieții private susțin că o evaluare reală cost-beneficiu necesită transparență cu privire la regulile testului: cât timp sunt păstrate înregistrările video și datele de potrivire, cine are acces la ele, dacă sunt partajate cu alte agenții și ce se întâmplă cu datele biometrice ale zecilor de mii de persoane care au fost scanate, dar nu au avut nicio legătură cu vreo investigație.

Tendința mai amplă a colectării datelor biometrice

Acest test nu există izolat. Guvernele și companiile private din întreaga lume recurg tot mai mult la verificarea biometrică, fie prin recunoașterea facială pentru aplicarea legii, fie prin controale biometrice în aeroporturi, fie prin sisteme de verificare a vârstei care scanează fețele pentru a estima vârsta unui utilizator înainte de a-i permite accesul la anumite conținuturi sau servicii. Fiecare dintre aceste sisteme ridică o întrebare centrală similară: câte date biometrice ar trebui să aibă voie să colecteze un singur sistem și pentru cât timp ar trebui păstrate? Cititorii curioși despre modul în care aceste compromisuri se manifestă într-un context diferit, dar înrudit, pot vedea cum legile privind verificarea vârstei din întreaga lume forțează deja dezbateri similare despre scanarea biometrică, păstrarea datelor și consimțământ, adesea cu un grad mult mai scăzut de conștientizare publică decât ar sugera anvergura tehnologiei.

Testul Poliției din Australia de Vest este un studiu de caz util tocmai pentru că arată ce se întâmplă atunci când supravegherea biometrică trece de la dezbaterea de politici la implementarea live. Tehnologia a funcționat conform intenției în multe cazuri, dar absența unei notificări publice clare, a unei piste de audit independente sau a unor opțiuni formale de renunțare arată cât de repede poate depăși capacitatea tehnică mecanismele de control.

Ce înseamnă asta pentru tine

Dacă locuiești în Perth sau Fremantle ori le vizitezi, este posibil să fi fost deja scanat fără să știi, iar aceeași dinamică s-ar putea extinde în alte orașe pe măsură ce programe-pilot similare sunt luate în considerare în altă parte. Chiar și în afara Australiei, acest caz este o previzualizare a direcției în care se îndreaptă testele de recunoaștere facială cu AI în spațiul public: lansări discrete justificate prin statistici de siguranță, cu garanții de confidențialitate adăugate adesea după implementare, nu integrate de la început.

În general, nu poți renunța la un sistem live de recunoaștere facială din spațiul public odată ce este activ în zona ta, ceea ce face ca transparența și dezbaterea publică să fie atât de importante înainte ca aceste sisteme să devină operaționale, nu după.

Măsuri practice

  • Verifică dacă poliția locală sau consiliul orașului tău a publicat informații despre eventuale teste de recunoaștere facială, actuale sau planificate, și caută un proces public de feedback sau consultare.
  • Sprijină cererile pentru politici clare de păstrare și ștergere a datelor ori de câte ori recunoașterea facială sau alte instrumente biometrice sunt propuse pentru spațiile publice.
  • Cere audituri independente ale acurateții și ale părtinirii pentru orice sistem de supraveghere cu AI înainte ca acesta să fie extins dincolo de faza-pilot.
  • Rămâi informat cu privire la modul în care datele biometrice colectate pentru un scop, cum ar fi aplicarea legii, ar putea fi ulterior partajate cu alte agenții sau companii private.

Dezbaterea despre testele de recunoaștere facială cu AI va deveni tot mai intensă pe măsură ce mai multe orașe testează sisteme similare. Să rămâi informat despre modul în care sunt implementate aceste programe și să ceri transparență atunci când nu există este una dintre cele mai practice modalități prin care publicul poate influența modul în care această tehnologie va fi folosită de acum înainte.