Een juridische uitdaging voor AI-gestuurde politiesurveillance

Digitale rechtenactivisten en studentenleiders in India hebben de regering van premier Narendra Modi voor de rechter gedaagd vanwege het gebruik van kunstmatige intelligentie om recente jeugddemonstraties in New Delhi te monitoren. Studentenactiviste Aishe Ghosh heeft een petitie ingediend bij het Hooggerechtshof van Delhi, waarin ze de rechters vraagt om de massale, AI-gestuurde surveillance van de politie tegen betogers ongrondwettelijk te verklaren.

De petitie draait om berichten dat de politie van Delhi gezichtsherkenningstechnologie heeft ingezet, waaronder speciale surveillancebusjes uitgerust met AI-camera's, op demonstratielocaties. Volgens verslagen van de zaak werd deze technologie gebruikt om individuen te identificeren en te volgen die deelnamen aan wat wordt omschreven als een van de grootste jeugddemonstraties die de stad in de afgelopen jaren heeft gezien. De aanklacht betoogt dat het scannen van de gezichten van betogers zonder hun medeweten of toestemming, en het gebruiken van die gegevens om profielen op te bouwen van wie aanwezig was, een wettelijke grens overschrijdt die burgers beschermt tegen ongerechtvaardigde overheidsinmenging.

Deze zaak bouwt rechtstreeks voort op een eerdere aanklacht waarover we berichtten in ons verslag over de petitie die AI-surveillance van betogers aanvecht, waarin het hof werd verzocht te oordelen dat massasurveillance van demonstranten de grondwettelijke beschermingen schendt. Samen vormen deze juridische stappen een van de meest directe uitdagingen tot nu toe van de manier waarop Indiase autoriteiten AI-tools gebruiken om openbare dissidentie te controleren.

Waarom gezichtsherkenning bij protesten alarmbellen doet rinkelen

Gezichtsherkenning en AI-gestuurde surveillance zijn geen nieuwe middelen voor wetshandhaving, maar het gebruik ervan bij politieke demonstraties brengt specifieke risico's met zich mee. Wanneer camera's de gezichten van iedereen in een menigte vastleggen en identificeren, inclusief mensen die geen misdaad hebben begaan en simpelweg hun recht van vergadering uitoefenen, creëert de technologie in feite een permanent dossier van politieke participatie.

Burgerrechtengroeperingen die de petitie steunen, betogen dat dit soort sleepnetmonitoring de vrije meningsuiting kan verlammen. Mensen kunnen aarzelen om naar een protest, een bijeenkomst of zelfs een openbare vergadering te gaan als ze denken dat hun aanwezigheid wordt geregistreerd, vergeleken met een databank en mogelijk later tegen hen wordt gebruikt. De petitie plaatst dit als een fundamentele privacy- en grondwetskwestie en niet als een eng technisch geschil over één politie-instrument.

De zaak belicht ook een bredere spanning die zich afspeelt in democratieën over de hele wereld: overheden krijgen steeds meer toegang tot krachtige identificatietechnologie, terwijl het wettelijke kader voor het gebruik ervan vaak ver achterloopt. India, net als veel andere landen, heeft nog geen uitgebreide wetgeving die specifiek regelt hoe gezichtsherkenning kan worden ingezet door de politie tijdens openbare demonstraties, wat mede de reden is dat activisten de rechter inschakelen om grenzen te stellen.

Wat deze rechtszaak kan betekenen voor de toekomst

De uiteindelijke uitspraak van het Hooggerechtshof van Delhi kan een belangrijk precedent scheppen, niet alleen voor India, maar ook voor hoe andere regeringen soortgelijke surveillancetools rechtvaardigen. Als de rechter Ghosh en haar mede-indiener gelijk geeft, kan dat de politie van Delhi en andere wetshandhavingsinstanties dwingen om het gebruik van AI-monitoring bij openbare bijeenkomsten terug te schroeven of aan strenger toezicht te onderwerpen. Als de rechter in het voordeel van de regering oordeelt, kan dat feitelijk brede surveillancebevoegdheden tijdens protesten bekrachtigen, een beslissing waar andere rechtsgebieden naar kunnen verwijzen als rechtvaardiging voor hun eigen AI-politieprogramma's.

Beide uitkomsten zullen waarschijnlijk nauwlettend worden gevolgd door digitale rechtenorganisaties wereldwijd, gezien het feit dat hoeveel overheden experimenteren met gezichtsherkenning, voorspellende politie en andere AI-gestuurde monitoringsystemen in openbare ruimtes.

Wat dit voor jou betekent

Hoewel deze zaak zich in India afspeelt, zijn de onderliggende kwesties relevant voor iedereen die zich zorgen maakt over privacy in openbare ruimtes, waar ook ter wereld. AI-gestuurde surveillancemiddelen zoals camera's met gezichtsherkenning worden wereldwijd door politiediensten en gemeentelijke overheden ingevoerd, vaak met beperkte publieke discussie over waar de grenzen getrokken moeten worden.

Als je protesten, demonstraties of andere openbare bijeenkomsten bijwoont, is het goed om te begrijpen dat je beeld in veel rechtsgebieden legaal kan worden vastgelegd en in toenemende mate met behulp van AI vergeleken met databanken. Dit betekent niet dat je deelname aan het maatschappelijk leven moet vermijden, maar wel dat je je bewust bent van de digitale voetafdruk die openbare activiteit kan achterlaten, en dat je op de hoogte blijft van welke beschermingen er (niet) bestaan waar je woont.

Kernpunten

  • Studentenactiviste Aishe Ghosh heeft bij het Hooggerechtshof van Delhi een petitie ingediend om AI-gestuurde politiesurveillance van betogers ongrondwettelijk te laten verklaren, naar aanleiding van berichten over inzet van surveillancebusjes met gezichtsherkenning bij recente demonstraties in New Delhi.
  • De zaak bouwt voort op een eerdere juridische uitdaging die het hof vraagt massasurveillance van betogers onwettig te verklaren, en de uitkomst ervan kan bepalen hoe AI-politiesystemen in de toekomst worden gereguleerd.
  • Gezichtsherkenning bij protesten roept zorgen op over het belemmeren van vrije meningsuiting, aangezien deelnemers bang kunnen zijn te worden geïdentificeerd en gevolgd, simpelweg omdat ze hun recht van vergadering uitoefenen.
  • De uitspraak zal waarschijnlijk wereldwijd nauwlettend worden gevolgd door voorvechters van digitale rechten, aangezien overheden overal worstelen met de regulering van AI-surveillance in openbare ruimtes.
  • Op de hoogte blijven van lokale surveillancewetten en digitale privacybeschermingen is een praktische stap die individuen kunnen nemen naarmate deze technologieën verder verspreid raken.