Studenter tar opp kampen mot uregulert ansiktsgjenkjenning

En gruppe Delhi-studenter har formelt bedt Delhi High Court om å pålegge sletting av ansiktsgjenkjenningsdata samlet inn om dem under nylige protester. Anmodningen dreier seg om opptak samlet inn av en Ikshana-overvåkningsbil, som Delhi-politiet angivelig brukte til å skanne folkemengder og matche ansikter mot en eksisterende database med en treffsikkerhetsterskel på 80 prosent. Ifølge begjæringen finnes det ingen offentliggjort regel, forskrift eller lov som regulerer hvordan databasen ble bygget opp, hvem som har tilgang til den, eller hvor lenge de biometriske dataene kan oppbevares.

Dette er ikke første gang Delhi-politiets bruk av ansiktsgjenkjenning på proteststeder har blitt gransket. Rapporter har allerede bekreftet at Delhi-politiet brukte ansiktsgjenkjenningsteknologi ved Jantar Mantar, etter tidligere beretninger om ansiktsgjenkjenningsbiler observert i nærheten av demonstranter på samme sted. Det som gjør dette siste søksmålet betydningsfullt, er den konkrete anmodningen: ikke bare en redegjørelse for det rettslige grunnlaget, men en rettslig kjennelse om å slette dataene en gang for alle.

Hvorfor 80 prosent-terskelen har betydning

Ansiktsgjenkjenningssystemer gir ikke sikkerhet – de gir sannsynlighetsskårer. En treffterskel på 80 prosent betyr at systemet er utformet for å flagge et ansikt som sannsynlig treff selv når det er en reell risiko for at det tar feil. I kontrollerte omgivelser, som når man verifiserer en kjent mistenkt mot et enkelt bilde, kan det være en akseptabel avveining. Anvendt på en folkemengde av demonstranter, der mange kan være helt uten tilknytning til noen kriminell etterforskning, blir den samme terskelen noe helt annet: et verktøy som risikerer å feilidentifisere vanlige demonstranter og innlemme dem i en politidatabase utelukkende på grunnlag av politisk forsamling.

Saksøkerne hevder at dette nettopp er skaden ansiktsgjenkjenning skaper når den tas i bruk uten regler. Uten et styrende rammeverk finnes det ingen definert standard for hvem som blir skannet, hva som skjer ved et falskt treff, hvor lenge de resulterende dataene blir liggende i lageret, eller om de senere kan brukes til andre, urelaterte etterforskninger. Fraværet av et slikt rammeverk er nå det sentrale rettslige spørsmålet, et spørsmål som Delhis domstoler allerede har begynt å undersøke ved å sette spørsmålstegn ved det rettslige grunnlaget for protestansiktsskanninger. Studentenes nye begjæring fører denne undersøkelsen et skritt videre ved ikke bare å spørre om skanningen var lovlig, men hva som nå bør skje med dataene som allerede eksisterer.

Det bredere mønsteret for overvåking av protester

Det som viser seg i Delhi, gjenspeiler et mønster sett i andre jurisdiksjoner der ansiktsgjenkjenning har gått fra å være et etterforskningsverktøy til et verktøy for folkemengdeovervåking ved offentlige demonstrasjoner. Teknologiens tiltrekningskraft for politiet er åpenbar: den kan behandle langt flere ansikter, langt raskere, enn noen menneskelig tjenesteperson stående ved en sperring. Men protester er også stedet der risikoen for feilidentifisering og nedkjølende effekter er størst. Folk som deltar i en lovlig demonstrasjon, har en rimelig forventning om at det ikke skal føre til at deres biometriske data fanges opp og lagres på ubestemt tid – særlig når ingen uavhengig myndighet har godkjent systemet som fanger opp dataene, eller satt grenser for hvordan resultatene kan brukes.

Slettingsanmodningen reiser også et praktisk spørsmål som domstolene må ta stilling til: når biometriske data først er samlet inn og potensielt kryssreferert til andre registre, er sletting i det hele tatt et fullstendig rettsmiddel? Kopier, sikkerhetskopier og eventuelle nedstrøms treff gjort i løpet av oppbevaringsperioden kompliserer det som ellers ville vært en enkel ordre om å slette en databaseoppføring.

Hva dette betyr for deg

Hvis du deltar i offentlige samlinger, enten i Delhi eller andre steder, er det verdt å forstå at ansiktsgjenkjenning som brukes under protester, fungerer svært annerledes enn den samme teknologien brukt til å låse opp en telefon eller bekrefte en ID ved en grenseovergang. I slike forbrukersammenhenger samtykker du vanligvis til skanningen og kontrollerer enheten som inneholder dataene dine. Ved en protest som skannes av politikameraer, er ingen av delene tilfelle. Det finnes ingen samtykkemekanisme, og du har ingen innsyn i om ansiktet ditt ble fanget opp, matchet eller lagret.

Denne saken er en påminnelse om at rettslig ansvarliggjøring for disse systemene ofte ligger mange år bak utplasseringen av dem. Domstoler som stiller grunnleggende spørsmål – hvem ga tillatelse, etter hvilken regel, med hvilke oppbevaringsgrenser – er spørsmål som utvilsomt burde vært avklart før en overvåkningsbil i det hele tatt kjørte opp til en folkemengde, ikke etterpå.

Hovedpunkter

  • Delhi-studenter ber High Court om å pålegge sletting av ansiktsgjenkjenningsdata samlet inn fra protestopptak, ikke bare en kjennelse om lovlighet.
  • Terskelen på 80 prosent treffsikkerhet som politiet brukte, skaper reell bekymring for falske treff mot fredelige demonstranter.
  • Ifølge begjæringen finnes det ingen offentliggjort regel som regulerer databasen Delhi-politiet matchet ansikter mot.
  • Denne saken inngår i et bredere mønster av granskning av ansiktsgjenkjenning under Jantar Mantar-protestene, og utfallet kan forme hvordan indiske domstoler fremover behandler biometrisk overvåking av offentlige forsamlinger.

Etter hvert som denne rettstvisten utvikler seg, er det verdt å følge med ikke bare på om domstolen pålegger dataene slettet, men også om den setter noen standard for hvordan ansiktsgjenkjenning i det hele tatt kan brukes ved fremtidige protester.