Studenții ripostează împotriva recunoașterii faciale nereglementate

Un grup de studenți din Delhi a cerut oficial Curții Supreme din Delhi să dispună distrugerea datelor de recunoaștere facială colectate despre ei în timpul protestelor recente. Solicitarea se concentrează pe imaginile adunate de o dubă de supraveghere Ikshana, despre care se raportează că a fost folosită de Poliția din Delhi pentru a scana mulțimile și a compara fețele cu o bază de date existentă, la un prag de încredere de 80%. Conform petiției, nu există nicio regulă, reglementare sau lege publicată care să guverneze modul în care a fost construită acea bază de date, cine poate avea acces la ea sau cât timp pot fi păstrate datele biometrice.

Aceasta nu este prima dată când utilizarea recunoașterii faciale de către Poliția din Delhi la locurile de protest a atras atenția. Raportările au confirmat deja că Poliția din Delhi a folosit tehnologia de recunoaștere facială la Jantar Mantar, în urma unor relatări anterioare despre dube de recunoaștere facială observate lângă manifestanți în aceeași locație. Ceea ce face această nouă depunere semnificativă este solicitarea specifică: nu doar o explicație a bazei legale, ci un ordin judecătoresc de a șterge datele în mod direct.

De ce contează pragul de 80%

Sistemele de recunoaștere facială nu produc certitudini, ci scoruri de probabilitate. Un prag de potrivire de 80% înseamnă că sistemul este conceput pentru a semnala o față ca fiind o potrivire probabilă chiar și atunci când există o șansă semnificativă să se înșele. Într-un cadru controlat, cum ar fi verificarea unui suspect cunoscut pe baza unei singure fotografii, acest compromis ar putea fi acceptabil. Aplicat unei mulțimi de protestatari, dintre care mulți nu au nicio legătură cu vreo anchetă penală, același prag devine cu totul altceva: un instrument care riscă să identifice greșit manifestanți obișnuiți și să îi introducă într-o bază de date a poliției doar pe baza participării la o adunare politică.

Petiționarii susțin că acesta este tocmai prejudiciul pe care îl creează recunoașterea facială atunci când este utilizată fără reguli. Fără un cadru de reglementare, nu există un standard definit pentru cine este scanat, ce se întâmplă cu o identificare greșită, cât timp rămân datele rezultate stocate sau dacă pot fi reutilizate ulterior pentru anchete fără legătură. Absența acestui cadru este acum întrebarea juridică centrală, una pe care instanțele din Delhi au început deja să o examineze, punând sub semnul întrebării baza legală a scanărilor faciale de la proteste. Noua petiție a studenților împinge această anchetă cu un pas mai departe, întrebând nu doar dacă scanarea a fost legală, ci și ce ar trebui să se întâmple cu datele acum că ele există.

Tiparul mai larg al supravegherii protestelor

Ceea ce se conturează în Delhi reflectă un tipar observat în alte jurisdicții, unde recunoașterea facială a trecut de la instrument de investigație la instrument de monitorizare a mulțimilor la demonstrații publice. Atractivitatea tehnologiei pentru forțele de ordine este simplă: poate procesa mult mai multe fețe, mult mai rapid, decât orice ofițer uman aflat la o baricadă. Dar protestele sunt și locul în care mizele identificării greșite și efectele de descurajare sunt cele mai mari. Oamenii care participă la o demonstrație legală au așteptarea rezonabilă că acest lucru nu va duce la captarea și stocarea pe termen nelimitat a datelor lor biometrice, în special atunci când nicio autoritate independentă nu a aprobat sistemul care face captarea și nu a stabilit limite pentru modul în care pot fi folosite rezultatele.

Cererea de distrugere ridică, de asemenea, o întrebare practică pe care instanțele vor trebui să o abordeze: odată ce datele biometrice au fost colectate și potențial corelate cu alte înregistrări, este ștergerea un remediu complet? Copiile, copiile de rezervă și orice potriviri realizate în perioada de păstrare complică ceea ce altfel ar fi un ordin simplu de a șterge o înregistrare dintr-o bază de date.

Ce înseamnă acest lucru pentru tine

Dacă participi la adunări publice, fie în Delhi sau în altă parte, merită să înțelegi că recunoașterea facială folosită la proteste funcționează foarte diferit față de aceeași tehnologie utilizată pentru a debloca un telefon sau pentru a verifica un act de identitate la o trecere de frontieră. În acele contexte de consum, de obicei îți dai consimțământul pentru scanare și controlezi dispozitivul care deține datele tale. La un protest scanat de camerele poliției, niciuna dintre acestea nu este adevărată. Nu există niciun mecanism de consimțământ și nu ai nicio posibilitate de a ști dacă fața ta a fost captată, potrivită sau stocată.

Acest caz este un memento că răspunderea juridică pentru aceste sisteme rămâne adesea cu ani în urmă față de implementarea lor. Instanțele care pun întrebări de bază – cine a autorizat acest lucru, în baza cărei reguli, cu ce limite de păstrare – sunt întrebări care, probabil, ar fi trebuit să fie soluționate înainte ca vreo dubă să se apropie de o mulțime, nu după.

Concluzii principale

  • Studenții din Delhi cer Curții Supreme să ordone distrugerea datelor de recunoaștere facială obținute din înregistrările de la proteste, nu doar o hotărâre privind legalitatea.
  • Pragul de potrivire de 80% folosit de poliție ridică îngrijorări reale cu privire la identificările false aplicate manifestanților pașnici.
  • Nicio regulă publicată nu guvernează în prezent baza de date cu care Poliția din Delhi a comparat fețele, conform petiției.
  • Acest caz se înscrie într-un tipar mai larg de analiză atentă a recunoașterii faciale la protestele de la Jantar Mantar, iar rezultatul său ar putea influența modul în care instanțele indiene tratează supravegherea biometrică a adunărilor publice în viitor.

Pe măsură ce acest litigiu avansează, merită urmărit nu doar dacă instanța ordonă distrugerea datelor, ci și dacă stabilește vreun standard pentru modul în care recunoașterea facială poate fi folosită la viitoare proteste în general.