En rettslig utfordring mot AI-drevet politiovervåking

Digitale rettighetsaktivister og studentledere i India har trukket statsminister Narendra Modis regjering for retten på grunn av bruken av kunstig intelligens for å overvåke nylige ungdomsdemonstrasjoner i New Delhi. Studentaktivisten Aishe Ghosh leverte en begjæring til Delhi High Court der hun ber dommerne erklære politiets massive, AI-drevne overvåking av demonstranter for grunnlovsstridig.

Begjæringen tar utgangspunkt i rapporter om at Delhi-politiet tok i bruk ansiktsgjenkjenningsteknologi, inkludert spesialbygde overvåkingsbiler utstyrt med AI-kameraer, på demonstrasjonsstedene. Ifølge saksfremstillingen ble teknologien brukt til å identifisere og spore enkeltpersoner som deltok i det som er blitt kalt en av de største ungdomsprotestene byen har sett på årevis. I begjæringen argumenteres det for at skanning av demonstrantenes ansikter uten deres viten eller samtykke, og bruk av disse dataene til å bygge profiler over hvem som deltok, krysser en juridisk grense som beskytter innbyggerne mot uberettiget statlig innblanding.

Saken bygger direkte på en tidligere rettsbegjæring omtalt i vår rapport om begjæringen som utfordrer AI-overvåking av demonstranter, som ba retten fastslå at masseovervåking av demonstranter krenker grunnlovfestede rettigheter. Sammen utgjør disse rettslige skrittene en av de mest direkte utfordringene til nå mot hvordan indiske myndigheter bruker AI-verktøy for å kontrollere offentlig dissens.

Hvorfor ansiktsgjenkjenning under protester hever røde flagg

Ansiktsgjenkjenning og AI-drevet overvåking er ingen nye verktøy for politimyndighetene, men bruken av dem under politiske demonstrasjoner medfører særskilte risikoer. Når kameraer fanger opp og identifiserer ansiktene til alle i en folkemengde – inkludert personer som ikke har begått noen forbrytelse og bare utøver sin forsamlingsfrihet – skaper teknologien i realiteten en permanent registrering av politisk deltakelse.

Sivile rettighetsforkjempere som støtter begjæringen, mener at denne formen for blankettovervåking kan virke hemmende på ytringsfriheten. Folk kan nøle med å delta i en protest, et møte eller til og med et offentlig arrangement dersom de tror at oppmøtet vil bli loggført, sjekket mot en database og potensielt brukt mot dem senere. Begjæringen fremstiller dette som en grunnleggende personvern- og konstitusjonell sak, snarere enn en smal teknisk tvist om ett politiverktøy.

Saken belyser også en bredere spenning som utspiller seg i demokratier verden over: regjeringer får i økende grad tilgang til kraftfull identifiseringsteknologi, mens de juridiske rammene som regulerer bruken ofte henger langt etter. India har, i likhet med mange andre land, ennå ingen omfattende lovgivning som spesifikt tar for seg hvordan ansiktsgjenkjenning kan brukes av politiet under offentlige demonstrasjoner, og det er noe av grunnen til at aktivister vender seg til domstolene for å få trukket opp grenser.

Hva rettssaken kan bety fremover

Delhi High Courts endelige avgjørelse kan danne en viktig presedens, ikke bare for India, men også for hvordan andre regjeringer rettferdiggjør lignende overvåkingsverktøy. Dersom retten gir Ghosh og de andre begjæringspartene medhold, kan det tvinge Delhi-politiet og andre politimyndigheter til å skalere ned eller innføre strengere kontroll med bruken av AI-overvåking ved offentlige samlinger. Dersom retten avgjør saken til regjeringens fordel, kan den i praksis validere brede overvåkingsfullmakter under protester – en avgjørelse som andre jurisdiksjoner kan vise til som begrunnelse for sine egne AI-overvåkingsprogrammer.

Uansett utfall vil avgjørelsen sannsynligvis bli fulgt nøye av digitale rettighetsorganisasjoner internasjonalt, gitt hvor mange regjeringer som eksperimenterer med ansiktsgjenkjenning, prediktivt politiarbeid og andre AI-drevne overvåkingssystemer i det offentlige rom.

Hva dette betyr for deg

Selv om denne saken utspiller seg i India, er de underliggende problemstillingene relevante for alle som er opptatt av personvern i offentlige rom overalt i verden. AI-drevne overvåkingsverktøy som ansiktsgjenkjenningskameraer tas i bruk av politimyndigheter og kommunale forvaltninger globalt, ofte med begrenset offentlig debatt om hvor grensene bør trekkes.

Dersom du deltar i protester, møter eller andre offentlige demonstrasjoner, er det verdt å være klar over at bildet ditt i mange jurisdiksjoner lovlig kan fanges opp og i stadig større grad matches mot databaser ved hjelp av KI. Dette betyr ikke at du bør unngå samfunnsdeltakelse, men at du bør være bevisst på det digitale fotavtrykket offentlig aktivitet kan legge igjen, og holde deg orientert om hvilke beskyttelsesmekanismer som finnes (eller ikke finnes) der du bor.

Viktige punkter

  • Studentaktivisten Aishe Ghosh har begjært Delhi High Court om å erklære AI-drevet politiovervåking av demonstranter for grunnlovsstridig, etter rapporter om ansiktsgjenkjenningsbiler utplassert under nylige demonstrasjoner i New Delhi.
  • Saken bygger på en tidligere rettslig utfordring som ber retten fastslå at masseovervåking av demonstranter er ulovlig, og utfallet kan få betydning for hvordan AI-politiverktøy reguleres i fremtiden.
  • Ansiktsgjenkjenning under protester vekker bekymring for nedkjølende effekt på ytringsfriheten, siden deltakere kan frykte å bli identifisert og sporet utelukkende fordi de utøver forsamlingsfriheten.
  • Avgjørelsen vil sannsynligvis bli fulgt nøye av digitale rettighetsforkjempere over hele verden, ettersom regjeringer overalt strever med hvordan AI-overvåking i offentlige rom skal reguleres.
  • Å holde seg orientert om lokale overvåkingslover og digitale personvernregler er ett praktisk skritt enkeltpersoner kan ta i takt med at slik teknologi blir mer utbredt.