Een live gezichtsherkenningsproef waarvan de meeste inwoners nooit wisten

Wat wordt omschreven als een Australische primeur: de politie van West-Australië heeft vanaf juni in stilte live AI-gezichtsherkenningscamera's ingezet in Perth en Fremantle. Binnen één week van de proef had het systeem meer dan 130.000 gezichten gescand, wat 33 meldingen opleverde en tot 18 arrestaties leidde. De politie zei ook dat de technologie hielp bij het identificeren van en contact leggen met 21 geregistreerde zedendelinquenten in het gebied.

De omvang van het scannen is op zichzelf al opmerkelijk, maar de meeste aandacht gaat uit naar de manier waarop het gebeurde: bewoners die door die straten liepen, werd niet verteld dat ze werden gescand. Er was geen bebordingscampagne, geen periode van openbare raadpleging en geen duidelijk opt-outmechanisme. Voor veel Australiërs was de nieuwsberichtgeving achteraf de eerste keer dat ze van het programma hoorden, niet een mededeling van de politie of de lokale overheid.

Waarom het ontbreken van kennisgeving ertoe doet

Gezichtsherkenningssystemen werken door beelden van mensen in het openbaar vast te leggen en die te vergelijken met een database, vaak in realtime. Wanneer dat proces zonder openbare kennisgeving plaatsvindt, verliezen mensen de mogelijkheid om weloverwogen keuzes te maken over waar ze naartoe gaan, met wie ze gezien worden of hoe hun bewegingen kunnen worden vastgelegd en aan andere gegevens gekoppeld. Privacyvoorvechters en juridische experts wijzen erop dat dit een basisprincipe van toezicht op surveillance ondermijnt: mensen moeten over het algemeen weten wanneer en hoe ze in de gaten worden gehouden, zeker door overheidsinstanties.

De proef leverde ook ten minste één bevestigde valse identificatie op, een herinnering dat zelfs geavanceerde AI-systemen mensen verkeerd kunnen identificeren, soms met gevolgen uiteenlopend van hinderlijk tot ernstig. De risico's op verkeerde identificatie zijn bovendien niet gelijk verdeeld; gezichtsherkenningstools hebben een goed gedocumenteerde geschiedenis van hogere foutpercentages voor bepaalde demografische groepen, wat naast privacykwesties ook gelijkheidskwesties oproept.

De WA-politie heeft de resultaten voorgesteld als winst voor de openbare veiligheid: verrichte arrestaties, geïdentificeerde daders en gegenereerde meldingen. Maar privacywaakhonden stellen dat een echte kosten-batenanalyse transparantie vereist over de regels van de proef: hoe lang beeldmateriaal en matchgegevens worden bewaard, wie er toegang toe heeft, of ze worden gedeeld met andere instanties, en wat er gebeurt met de biometrische gegevens van de tienduizenden mensen die werden gescand maar geen enkele band met een onderzoek hadden.

Het bredere patroon van biometrische gegevensverzameling

Deze proef staat niet op zichzelf. Overheden en bedrijven wereldwijd zetten steeds vaker biometrische verificatie in, of het nu gaat om gezichtsherkenning voor politiewerk, biometrische controles op luchthavens of leeftijdsverificatiesystemen die gezichten scannen om iemands leeftijd te schatten voordat toegang wordt verleend tot bepaalde inhoud of diensten. Elk van deze systemen roept dezelfde kernvraag op: hoeveel biometrische gegevens mag één systeem verzamelen, en hoe lang moeten die worden bewaard? Lezers die nieuwsgierig zijn naar hoe deze afwegingen in een andere maar verwante context uitpakken, kunnen kijken naar hoe leeftijdsverificatiewetten wereldwijd nu al vergelijkbare debatten afdwingen over biometrisch scannen, gegevensbewaring en toestemming, vaak met veel minder publiek bewustzijn dan het bereik van de technologie zou doen vermoeden.

De proef van de WA-politie is juist daarom een nuttige casestudy, omdat die laat zien wat er gebeurt wanneer biometrische surveillance van een beleidsdebat overgaat naar live inzet. De technologie werkte in veel gevallen zoals bedoeld, maar het ontbreken van duidelijke openbare kennisgeving, een onafhankelijk auditspoor of formele opt-outmogelijkheden toont hoe snel de capaciteit het toezicht kan overtreffen.

Wat dit voor jou betekent

Als je in Perth of Fremantle woont of daar op bezoek bent, ben je mogelijk al gescand zonder het te weten, en diezelfde dynamiek kan zich naar andere steden verspreiden als soortgelijke proefprogramma's elders worden overwogen. Ook buiten Australië is deze zaak een voorproefje van waar AI-gezichtsherkenningsproeven in de openbare ruimte naartoe gaan: stille uitrol die wordt gerechtvaardigd met veiligheidsstatistieken, waarbij privacywaarborgen vaak achteraf worden toegevoegd in plaats van vanaf het begin te zijn ingebouwd.

Je kunt je over het algemeen niet afmelden voor een live openbaar gezichtsherkenningssysteem zodra het in jouw omgeving actief is, en dat maakt transparantie en publiek debat zo belangrijk voordat deze systemen live gaan, niet daarna.

Praktische actiepunten

  • Controleer of je lokale politiekorps of gemeenteraad informatie heeft gepubliceerd over lopende of geplande proeven met gezichtsherkenning, en zoek naar een openbaar feedback- of raadplegingsproces.
  • Steun oproepen voor duidelijk beleid voor het bewaren en verwijderen van gegevens wanneer gezichtsherkenning of andere biometrische instrumenten voor openbare ruimtes worden voorgesteld.
  • Dring aan op onafhankelijke audits van nauwkeurigheid en bias bij elk AI-surveillancesysteem voordat het verder wordt uitgebreid dan een pilotfase.
  • Blijf op de hoogte van hoe biometrische gegevens die voor één doel zijn verzameld, zoals politiewerk, later kunnen worden gedeeld met andere instanties of particuliere bedrijven.

Het gesprek over AI-gezichtsherkenningsproeven zal alleen maar luider worden naarmate meer steden vergelijkbare systemen testen. Op de hoogte blijven van hoe deze programma's worden uitgerold, en transparantie eisen wanneer dat niet gebeurt, is een van de meest praktische manieren waarop het publiek invloed kan uitoefenen op hoe deze technologie in de toekomst wordt gebruikt.