En førsteplads i australsk politiarbejde

Western Australia Police er blevet den første politistyrke i landet, der anvender live ansigtsgenkendelsesteknologi i offentlige rum, og det varede ikke længe, før systemet gav gevinst. Under forsøget brugte betjentene teknologien til at identificere og anholde en person i realtid – en milepæl, som politiet fremstiller som et proof of concept, og som fortalere for privatliv betragter som et advarselstegn.

Systemet fungerer ved at scanne live videofeeds, der efter sigende behandler hundredvis af ansigter i minuttet, og straks krydstjekke dem mod politiets billeddatabase. I modsætning til traditionel ansigtsgenkendelse, som typisk anvendes efterfølgende til at matche optagelser fra et gerningssted med en database, opererer denne teknologi i nuet og markerer match for betjentene, mens folk går forbi overvågede kameraer i realtid. Forsøget har angiveligt involveret en markeret politibil stationeret nær store begivenheder og i tætpakkede offentlige områder, hvor systemet kontrollerer ansigter mod det, myndighederne beskriver som en strengt kontrolleret varslingsliste over lovligt gemte politibilleder.

Hvorfor fortalerne for privatliv er bekymrede

Live-anholdelsen fremhæves af WA Police som bevis på, at teknologien virker. Men kritikere ser den samme begivenhed som starten på en meget større samtale om, hvor meget overvågning offentligheden er villig til at acceptere i bytte for bekvemmelighed eller sikkerhed.

Tre bekymringer dukker hele tiden op. For det første risikoen for falske alarmer: ansigtsgenkendelsessystemer, selv de velindstillede, kan fejlidentificere personer, og et forkert flag i en live politisammenhæng kan betyde, at en uskyldig person stoppes, udspørges eller værre baseret på computerens fejl snarere end beviser. For det andet algoritmisk skævhed. Ansigtsgenkendelsessystemer har en veldokumenteret historie med at præstere mindre præcist på tværs af forskellige demografiske grupper, hvilket nærer frygten for, at nogle samfund kan blive uforholdsmæssigt påvirket af falske match. For det tredje, og måske mest vedholdende, er bekymringen om funktionsudglidning: teknologi, der indføres til et snævert formål, såsom at identificere personer på en specifik varslingsliste ved store begivenheder, kan gradvist udvide sit anvendelsesområde, indtil det bliver et rutineværktøj til bredere offentlig overvågning.

Det sidste punkt er der, hvor meget af modstanden samler sig. Når først infrastrukturen og den offentlige accept til at scanne folkemængder til en musikfestival eller sportsbegivenhed er på plads, er der ingen teknisk barriere for at bruge den til protester, trafikknudepunkter eller almindelige gadehjørner. Kritikere hævder, at forsøg som dette har en tendens til at normalisere overvågning gradvist, hvor hver udvidelse retfærdiggøres af den foregåendes succes.

Det større dataproblem

Forsøg med ansigtsgenkendelse rejser ikke kun spørgsmål om polititaktik; de rejser spørgsmål om datastyring. Hvert ansigt, der scannes, matches eller logges, bliver et datapunkt i et regeringssystem, og regeringssystemer har ikke altid vist sig som pålidelige forvaltere af følsomme personoplysninger. Biometriske data er særligt følsomme, fordi et ansigt i modsætning til en adgangskode ikke kan ændres, hvis det blottes eller misbruges.

Det er her, WA-forsøget forbinder sig med et bredere bekymringsmønster omkring teknologi i den offentlige sektor. Offentlige myndigheder besidder i stigende grad store mængder personoplysninger, lige fra licensregistre til biometriske skanninger, og erfaringerne med at holde disse data sikre har været blandede. Problemer som dem, der er beskrevet i WA DOL Data Breach: When Government Systems Fail You, viser, hvordan sårbarheder i offentlige systemer kan bestå i årevis, før de adresseres, og hvordan konsekvenserne rammer almindelige mennesker, hvis oplysninger burde have været beskyttet. En varslingsliste til ansigtsgenkendelse er i bund og grund endnu en følsom regeringsdatabase, og dens sikkerhed er lige så vigtig som dens præcision.

Hvad dette betyder for dig

For indbyggerne i Western Australia og for alle, der følger dette forsøg som en rettesnor for polititeknologi andre steder, er den umiddelbare påvirkning begrænset: systemet kontrollerer i øjeblikket ansigter mod en specifik varslingsliste frem for at logge alle, der går forbi. Men forsøget markerer et bemærkelsesværdigt skift i, hvordan offentlige rum kan overvåges, og det er rimeligt at stille spørgsmål, før teknologien bliver permanent eller udvides.

Man behøver ikke at være teknolog for at have en interesse i dette. Offentlige forsøg som dette efterfølges typisk af evalueringer, offentlige høringer eller parlamentarisk kontrol, og offentlig feedback i disse vinduer former reelt, om der bliver indbygget tilsynsmekanismer. At forstå, hvad der scannes, hvem der står på varslingslisten, og hvor længe data opbevares, er rimelige spørgsmål for ethvert samfund, der står over for denne form for teknologi for første gang.

Vigtige pointer

  • Live ansigtsgenkendelse adskiller sig fra efterfølgende matchning: den markerer personer i realtid, mens de passerer overvågede kameraer, hvilket øger indsatsen ved enhver fejl.
  • Falske positive resultater og algoritmisk skævhed forbliver reelle risici, selv i forsøg, der præsenteres som snævre og kontrollerede.
  • Funktionsudglidning, den gradvise udvidelse af et værktøjs oprindelige formål, er den bekymring, eksperter holder mest øje med.
  • Datastyring er lige så vigtig som præcision. En database til ansigtsgenkendelse er endnu et lager af følsomme personoplysninger, der kræver stærk sikkerhed og tilsyn.
  • Offentlig kontrol i prøvefaserne er et af de få vinduer, hvor samfundets input kan forme, hvordan, eller om, denne teknologi bliver permanent.

Mens WA Police udvider og evaluerer dette forsøg, vil samtalen omkring live ansigtsgenkendelse kun blive højere. At holde sig informeret om, hvordan disse systemer anvendes, og at stille spørgsmål om tilsyn og databeskyttelse, er den mest praktiske måde for offentligheden at få indflydelse på, hvor denne teknologi bevæger sig hen næste gang.