WA-politiet skannet 130 000 ansikter i prøveprosjekt på én uke

Et prøveprosjekt med sanntids ansiktsgjenkjenning de fleste innbyggere aldri visste om

I det som omtales som det første i Australia, satte politiet i Western Australia i all stillhet i gang sanntidskameraer med AI-ansiktsgjenkjenning i Perth og Fremantle fra og med juni. I løpet av én enkelt uke av prøveprosjektet hadde systemet skannet mer enn 130 000 ansikter, generert 33 varsler og ført til 18 pågripelser. Politiet opplyste også at teknologien hjalp dem med å identifisere og komme i kontakt med 21 registrerte seksualforbrytere i området.

Selve omfanget av skanningen er i seg selv bemerkelsesverdig, men det som har fått mest oppmerksomhet, er hvordan det skjedde: innbyggere som gikk gjennom disse gatene, fikk ikke beskjed om at de ble skannet. Det var ingen skiltkampanje, ingen offentlig høringsperiode og ingen klar mulighet til å reservere seg. For mange australiere fikk de først høre om programmet gjennom nyhetsdekning i etterkant, ikke gjennom noe varsel fra politi eller lokale myndigheter.

Hvorfor manglende varsling betyr noe

Ansiktsgjenkjenningssystemer fungerer ved å fange bilder av mennesker i det offentlige rom og sammenligne dem med en database, ofte i sanntid. Når den prosessen skjer uten offentlig varsel, mister folk muligheten til å ta informerte valg om hvor de går, hvem de blir sett sammen med, eller hvordan bevegelsene deres kan bli logget og kryssjekket. Personvernforkjempere og juridiske eksperter har påpekt at dette undergraver et grunnleggende prinsipp for tilsyn med overvåkning: folk bør generelt få vite når og hvordan de blir overvåket, særlig av offentlige etater.

Prøveprosjektet produserte også minst én bekreftet falsk identifisering, en påminnelse om at selv avanserte AI-systemer kan feilidentifisere mennesker, noen ganger med konsekvenser som spenner fra ubeleilige til alvorlige. Risikoen for feilidentifisering er heller ikke jevnt fordelt; ansiktsgjenkjenningsverktøy har en veldokumentert historie med høyere feilrater for visse demografiske grupper, noe som reiser likestillingsbekymringer i tillegg til personvernbekymringene.

WA-politiet har fremstilt resultatene som seire for offentlig sikkerhet, med pågripelser, identifiserte lovbrytere og genererte varsler. Men personvernvakter hevder at en reell kost-nytte-vurdering krever åpenhet om prøveprosjektets regler: hvor lenge opptak og treffdata lagres, hvem som har tilgang til dem, om de deles med andre etater, og hva som skjer med biometriske data fra titusenvis av mennesker som ble skannet, men som ikke hadde noen tilknytning til noen etterforskning.

Det bredere mønsteret for innsamling av biometriske data

Dette prøveprosjektet eksisterer ikke isolert. Regjeringer og private selskaper over hele verden tar i økende grad i bruk biometrisk verifisering, enten gjennom ansiktsgjenkjenning i politiarbeid, biometriske kontroller på flyplasser eller aldersverifiseringssystemer som skanner ansikter for å anslå en brukers alder før de gir tilgang til bestemt innhold eller bestemte tjenester. Hvert av disse systemene reiser det samme kjernespørsmålet: hvor mye biometriske data bør ett enkelt system få lov til å samle inn, og hvor lenge bør de oppbevares? Lesere som er nysgjerrige på hvordan disse avveiningene utspiller seg i en annen, men beslektet kontekst, kan se hvordan aldersverifiseringslover rundt om i verden allerede tvinger frem lignende debatter om biometrisk skanning, datalagring og samtykke, ofte med langt mindre offentlig bevissthet enn teknologiens rekkevidde skulle tilsi.

WA-politiets prøveprosjekt er en nyttig casestudie nettopp fordi det viser hva som skjer når biometrisk overvåkning beveger seg fra en politisk debatt til faktisk bruk i sanntid. Teknologien fungerte som tiltenkt i mange tilfeller, men fraværet av tydelig offentlig varsling, en uavhengig revisjonsspor eller formelle reservasjonsmuligheter viser hvor raskt kapasitet kan løpe fra tilsyn.

Hva dette betyr for deg

Hvis du bor i eller besøker Perth eller Fremantle, kan du allerede ha blitt skannet uten å vite det, og den samme dynamikken kan spre seg til andre byer etter hvert som lignende pilotprogrammer vurderes andre steder. Også utenfor Australia er denne saken en forsmak på hvor prøveprosjekter med AI-ansiktsgjenkjenning i offentlige rom er på vei: stille lanseringer som begrunnes med sikkerhetsstatistikk, der personverntiltak ofte legges til i etterkant i stedet for å bygges inn fra starten.

Du kan vanligvis ikke reservere deg mot et sanntids ansiktsgjenkjenningssystem i det offentlige rom når det først er aktivt i ditt område, og det er nettopp derfor åpenhet og offentlig debatt er så viktig før disse systemene settes i drift, ikke etterpå.

Konkrete tiltak

• Undersøk om ditt lokale politi eller din kommune har publisert informasjon om eventuelle prøveprosjekter med ansiktsgjenkjenning, enten pågående eller planlagte, og se etter en offentlig tilbakemeldings- eller høringsprosess.
• Støtt krav om tydelige retningslinjer for datalagring og sletting når ansiktsgjenkjenning eller andre biometriske verktøy foreslås for offentlige rom.
• Jobb for uavhengige revisjoner av nøyaktighet og skjevheter i ethvert AI-overvåkningssystem før det utvides utover en pilotfase.
• Hold deg informert om hvordan biometriske data samlet inn for ett formål, for eksempel politiarbeid, senere kan bli delt med andre etater eller private selskaper.

Debatten om prøveprosjekter med AI-ansiktsgjenkjenning kommer bare til å vokse seg høyere etter hvert som flere byer tester lignende systemer. Å holde seg informert om hvordan disse programmene utplasseres, og kreve åpenhet når de ikke er det, er en av de mest praktiske måtene publikum kan påvirke hvordan denne teknologien brukes i tiden fremover.