I det, der beskrives som et australsk førstegangstilfælde, indsatte Western Australias politi i stilhed live AI-ansigtsgenkendelseskameraer i Perth og Fremantle fra og med juni. Inden for en enkelt uge af...

Et live ansigtsgenkendelsesforsøg, som de fleste beboere aldrig vidste noget om

I det, der beskrives som et australsk førstegangstilfælde, indsatte Western Australias politi i stilhed live AI-ansigtsgenkendelseskameraer i Perth og Fremantle fra og med juni. Inden for en enkelt uge af forsøget havde systemet scannet mere end 130.000 ansigter, genereret 33 advarsler og ført til 18 anholdelser. Politiet oplyste også, at teknologien hjalp med at identificere og opsøge 21 registrerede seksualforbrydere i området.

Omfanget af scanningen er bemærkelsesværdigt i sig selv, men det, der har tiltrukket sig mest kritik, er, hvordan det foregik: Beboere, der gik gennem disse gader, fik ikke at vide, at de blev scannet. Der var ingen skiltningskampagne, ingen offentlig høringsperiode og ingen klar fravalgsmekanisme. For mange australiere var det første, de hørte om programmet, gennem nyhedsdækning bagefter – ikke gennem nogen besked fra politiet eller lokale myndigheder.

Hvorfor den manglende underretning betyder noget

Ansigtsgenkendelsessystemer fungerer ved at optage billeder af mennesker i det offentlige rum og sammenligne dem med en database, ofte i realtid. Når den proces kører uden offentlig underretning, mister folk evnen til at træffe informerede valg om, hvor de går hen, hvem de ses med, eller hvordan deres bevægelser kan blive logget og krydsrefereret. Privatlivsforkæmpere og juridiske eksperter har påpeget, at dette underminerer et grundlæggende princip for overvågningskontrol: Folk bør generelt vide, hvornår og hvordan de bliver overvåget, især af offentlige myndigheder.

Forsøget producerede også mindst én bekræftet falsk identifikation – en påmindelse om, at selv sofistikerede AI-systemer kan fejlidentificere mennesker, nogle gange med konsekvenser, der spænder fra ubelejlige til alvorlige. Risikoen for fejlidentifikation er heller ikke jævnt fordelt; ansigtsgenkendelsesværktøjer har en veldokumenteret historie med højere fejlprocenter for visse demografiske grupper, hvilket rejser lighedsbekymringer ud over privatlivsbekymringer.

WA-politiet har fremstillet resultaterne i form af gevinster for den offentlige sikkerhed: anholdelser foretaget, forbrydere identificeret og advarsler genereret. Men privatlivsvagthunde argumenterer for, at en ægte cost-benefit-vurdering kræver gennemsigtighed om forsøgets regler: hvor længe optagelser og matchdata opbevares, hvem der kan få adgang til dem, om de deles med andre myndigheder, og hvad der sker med de biometriske data fra de titusindvis af mennesker, der blev scannet, men som ikke havde nogen forbindelse til nogen efterforskning.

Det bredere mønster for biometrisk dataindsamling

Dette forsøg eksisterer ikke i et vakuum. Regeringer og private virksomheder verden over vender sig i stigende grad mod biometrisk verifikation – hvad enten det er ansigtsgenkendelse til politiarbejde, biometriske tjek i lufthavne eller aldersverifikationssystemer, der scanner ansigter for at estimere en brugers alder, før der gives adgang til bestemt indhold eller bestemte tjenester. Hvert af disse systemer rejser et lignende kerne spørgsmål: Hvor meget biometrisk data skal et enkelt system have lov til at indsamle, og hvor længe skal det opbevares? Læsere, der er nysgerrige efter, hvordan disse afvejninger udspiller sig i en anden, men beslægtet kontekst, kan se på, hvordan aldersverifikationslove verden over allerede tvinger lignende debatter om biometrisk scanning, dataopbevaring og samtykke frem – ofte med langt mindre offentlig bevidsthed, end teknologiens rækkevidde kunne antyde.

WA-politiets forsøg er en nyttig casestudie netop, fordi det viser, hvad der sker, når biometrisk overvågning bevæger sig fra en politisk debat til live-udrulning. Teknologien fungerede som tilsigtet i mange tilfælde, men fraværet af klar offentlig underretning, en uafhængig revisionsspor eller formelle fravalgsmuligheder viser, hvor hurtigt kapacitet kan overhale kontrol.

Hvad dette betyder for dig

Hvis du bor i eller besøger Perth eller Fremantle, er du måske allerede blevet scannet uden at vide det – og den samme dynamik kunne sprede sig til andre byer, efterhånden som lignende pilotprogrammer overvejes andre steder. Selv uden for Australien er denne sag et forhåndsbillede af, hvor forsøg med AI-ansigtsgenkendelse i det offentlige rum er på vej hen: Stille udrulninger begrundet i sikkerhedsstatistikker, hvor privatlivsbeskyttelser ofte tilføjes bagefter i stedet for at være indbygget fra starten.

Du kan generelt ikke fravælge et live offentligt ansigtsgenkendelsessystem, når det først er aktivt i dit område – hvilket er præcis, hvorfor gennemsigtighed og offentlig debat er så vigtige, før disse systemer aktiveres, ikke bagefter.

Handleorienterede pointer

• Tjek, om dit lokale politi eller din byråd har offentliggjort oplysninger om eventuelle ansigtsgenkendelsesforsøg, nuværende eller planlagte, og se efter en offentlig feedback- eller høringsproces.
• Støt krav om klare politikker for dataopbevaring og -sletning, når ansigtsgenkendelse eller andre biometriske værktøjer foreslås til offentlige rum.
• Arbejd for uafhængige revisioner af nøjagtighed og bias i ethvert AI-overvågningssystem, før det udvides ud over en pilotfase.
• Hold dig informeret om, hvordan biometriske data indsamlet til ét formål, såsom politiarbejde, senere kunne deles med andre myndigheder eller private virksomheder.

Samtalen om AI-ansigtsgenkendelsesforsøg vil kun blive højere, efterhånden som flere byer tester lignende systemer. At holde sig informeret om, hvordan disse programmer udrulles, og kræve gennemsigtighed, når de ikke er, er en af de mest praktiske måder, offentligheden kan påvirke, hvordan denne teknologi bruges fremover.