Ett liveförsök med ansiktsigenkänning som de flesta invånare aldrig kände till

I vad som beskrivs som en australiensisk första, satte polisen i Western Australia i juni tyst in kameror för AI-ansiktsigenkänning i realtid i Perth och Fremantle. Inom en enda vecka av försöket hade systemet skannat mer än 130 000 ansikten, genererat 33 varningar och lett till 18 gripanden. Polisen uppgav också att tekniken hjälpte till att identifiera och ta kontakt med 21 registrerade sexualförbrytare i området.

Omfattningen av skanningen är i sig anmärkningsvärd, men det som har granskats mest är hur den genomfördes: invånare som gick längs dessa gator fick inte veta att de skannades. Det fanns ingen skyltkampanj, ingen offentlig samrådsperiod och ingen tydlig möjlighet att välja bort det. För många australier var det första de hörde om programmet genom nyhetsrapportering i efterhand, inte genom något meddelande från polisen eller den lokala förvaltningen.

Varför avsaknaden av information spelar roll

Ansiktsigenkänningssystem fungerar genom att fånga bilder av människor på offentliga platser och jämföra dem med en databas, ofta i realtid. När den processen sker utan offentligt meddelande förlorar människor möjligheten att göra informerade val om vart de går, vilka de syns med eller hur deras rörelser kan loggas och korskontrolleras. Integritetsförespråkare och juridiska experter har påpekat att detta undergräver en grundläggande princip för övervakningstillsyn: människor bör i allmänhet veta när och hur de övervakas, särskilt av myndigheter.

Försöket gav också upphov till minst en bekräftad felidentifiering, en påminnelse om att även sofistikerade AI-system kan felidentifiera människor, ibland med konsekvenser som sträcker sig från besvärande till allvarliga. Riskerna för felidentifiering är inte heller jämnt fördelade; ansiktsigenkänningsverktyg har en väldokumenterad historia av högre felprocent för vissa demografiska grupper, vilket väcker både rättvise- och integritetsfrågor.

WA-polisen har framställt resultaten som framgångar för allmän säkerhet: gripanden som gjorts, förövare som identifierats och varningar som genererats. Men integritetsorganisationer menar att en verklig kostnads-nyttoanalys kräver transparens kring försökets regler: hur länge bildmaterial och matchdata sparas, vem som kan få tillgång till dem, om de delas med andra myndigheter och vad som händer med biometriska data från de tiotusentals människor som skannades men inte hade någon koppling till någon utredning.

Det bredare mönstret av insamling av biometriska data

Detta försök existerar inte i ett vakuum. Regeringar och privata företag världen över använder i allt högre grad biometrisk verifiering, vare sig det gäller ansiktsigenkänning inom polisarbete, biometriska kontroller på flygplatser eller åldersverifieringssystem som skannar ansikten för att uppskatta en användares ålder innan åtkomst ges till visst innehåll eller vissa tjänster. Vart och ett av dessa system väcker samma centrala fråga: hur mycket biometriska data bör ett enskilt system tillåtas samla in, och hur länge bör de sparas? Läsare som är nyfikna på hur dessa avvägningar utspelar sig i en annan men relaterad kontext kan titta på hur åldersverifieringslagar runt om i världen redan tvingar fram liknande debatter om biometrisk skanning, datalagring och samtycke, ofta med mycket mindre offentlig medvetenhet än vad teknikens räckvidd skulle antyda.

WA-polisens försök är en användbar fallstudie just för att den visar vad som händer när biometrisk övervakning rör sig från policydebatt till skarp drift. Tekniken fungerade som avsett i många fall, men avsaknaden av tydligt offentligt meddelande, oberoende granskningsspår eller formella möjligheter att välja bort visar hur snabbt teknikens kapacitet kan springa om kontrollen.

Vad detta innebär för dig

Om du bor i eller besöker Perth eller Fremantle kan du redan ha blivit skannad utan att veta om det, och samma utveckling kan sprida sig till andra städer när liknande pilotprogram övervägs på andra håll. Även utanför Australien är detta fall en förhandsvisning av vart AI-ansiktsigenkänningsförsök i offentliga miljöer är på väg: tysta lanseringar som motiveras med säkerhetsstatistik, med integritetsskydd som ofta läggs till i efterhand snarare än byggs in från början.

Du kan i allmänhet inte välja bort ett offentligt ansiktsigenkänningssystem i realtid när det väl är aktivt i ditt område, vilket är just det som gör transparens och offentlig debatt så viktig innan dessa system tas i drift, inte efteråt.

Praktiska lärdomar

  • Kontrollera om din lokala polismyndighet eller kommunfullmäktige har publicerat information om några ansiktsigenkänningsförsök, pågående eller planerade, och leta efter en offentlig återkopplings- eller samrådsprocess.
  • Stöd krav på tydliga policyer för datalagring och radering närhelst ansiktsigenkänning eller andra biometriska verktyg föreslås för offentliga platser.
  • Kräv oberoende granskningar av träffsäkerhet och snedvridning i alla AI-övervakningssystem innan de utökas bortom en pilotfas.
  • Håll dig informerad om hur biometriska data som samlas in för ett syfte, till exempel polisarbete, senare skulle kunna delas med andra myndigheter eller privata företag.

Debatten om försök med AI-ansiktsigenkänning kommer bara att bli allt intensivare i takt med att fler städer testar liknande system. Att hålla sig informerad om hur dessa program tas i drift, och att kräva transparens när de inte är det, är ett av de mest praktiska sätten för allmänheten att påverka hur denna teknik används framöver.