En första för australisk polis

Polisen i Western Australia har blivit den första styrkan i landet att använda live-ansiktsigenkänningsteknik i offentliga rum, och det dröjde inte länge innan systemet gav resultat. Under försöket använde poliser tekniken för att identifiera och gripa någon i realtid, en milstolpe som polisen framställer som ett konceptbevis och som integritetsförespråkare ser som en varningssignal.

Systemet fungerar genom att skanna direktsända videoströmmar och uppges bearbeta hundratals ansikten per minut för att omedelbart jämföra dem med en polisiär bilddatabas. Till skillnad från traditionell ansiktsigenkänning, som vanligtvis används i efterhand för att matcha filmer från en brottsplats mot en databas, arbetar denna teknik i realtid och flaggar matchningar för poliser när människor går förbi övervakade kameror. Försöket har enligt uppgift inneburit att en markerad polisbil har stått stationerad vid större evenemang och i folksamlingar, där systemet har kontrollerat ansikten mot vad tjänstemän beskriver som en strikt kontrollerad bevakningslista över lagligt innehavda polisbilder.

Varför integritetsförespråkare är oroade

Det direktsända gripandet lyfts fram av WA-polisen som bevis för att tekniken fungerar. Men kritiker ser samma händelse som början på ett mycket större samtal om hur mycket övervakning allmänheten är beredd att acceptera i utbyte mot bekvämlighet eller säkerhet.

Tre farhågor återkommer ständigt. Den första är risken för falska varningar: ansiktsigenkänningssystem, även välkalibrerade sådana, kan felidentifiera människor, och en felaktig flaggning i en polisiär livesituation kan innebära att en oskyldig person stoppas, förhörs eller värre, baserat på ett datorfel i stället för bevis. Den andra är algoritmisk snedvridning. Ansiktsigenkänningssystem har en dokumenterad historia av att prestera sämre för olika demografiska grupper, vilket väcker farhågor om att vissa samhällen kan drabbas oproportionerligt av falska matchningar. Den tredje, och kanske mest ihållande, är oron för funktionsglidning: teknik som införs för ett snävt syfte, som att identifiera personer på en specifik bevakningslista vid stora evenemang, kan gradvis utvidgas tills den blir ett rutinverktyg för bredare offentlig övervakning.

Det är framför allt den sista punkten som kritiken riktas mot. När infrastrukturen och det allmänna accepterandet väl finns för att skanna folksamlingar på en musikfestival eller ett sportevenemang, finns det få tekniska hinder för att använda tekniken vid protester, trafikknutpunkter eller vanliga gathörn. Kritiker menar att försök som detta tenderar att gradvis normalisera övervakning, där varje utvidgning rättfärdigas av den föregåendes framgång.

Det större dataproblemet

Försök med ansiktsigenkänning väcker inte bara frågor om polisiär taktik; de väcker frågor om datahantering. Varje ansikte som skannas, matchas eller loggas blir en datapunkt som hamnar i myndighetssystem, och myndighetssystem har inte alltid visat sig vara pålitliga förvaltare av känslig personlig information. Biometriska data är särskilt känsliga eftersom ett ansikte, till skillnad från ett lösenord, inte kan ändras om det exponeras eller missbrukas.

Det är här WA-försöket knyter an till ett bredare oro kring teknik i offentlig sektor. Myndigheter förfogar över allt större datamängder personuppgifter, från körkortsregister till biometriska skanningar, och resultaten när det gäller att hålla dessa data säkra har varit blandade. Incidenter som den som beskrivs i WA DOL-dataintrånget: När myndighetssystemen sviker dig visar hur sårbarheter i myndighetssystem kan kvarstå i åratal innan de åtgärdas, och hur konsekvenserna drabbar vanliga människor vars uppgifter skulle ha varit skyddade. En bevakningslista för ansiktsigenkänning är i grunden ytterligare en känslig myndighetsdatabas, och dess säkerhet är lika viktig som dess träffsäkerhet.

Vad detta innebär för dig

För invånarna i Western Australia, och för alla som ser detta försök som en vägvisare för polisteknik på andra håll, är den omedelbara påverkan begränsad: systemet kontrollerar för närvarande ansikten mot en specifik bevakningslista snarare än att logga alla som går förbi. Men försöket markerar en betydelsefull förändring i hur offentliga platser kan övervakas, och det är rimligt att ställa frågor innan tekniken blir permanent eller utvidgas.

Du behöver inte vara tekniker för att ha en andel i detta. Offentliga försök som detta följs vanligtvis av granskningar, offentliga samråd eller parlamentarisk tillsyn, och allmänhetens synpunkter under dessa perioder påverkar verkligen om tillsynsåtgärder byggs in. Att förstå vad som skannas, vem som finns på bevakningslistan och hur länge data sparas är rimliga frågor för alla samhällen som ställs inför denna typ av teknik för första gången.

Viktiga slutsatser

  • Live-ansiktsigenkänning skiljer sig från efterhands-matchning: den flaggar personer i realtid när de passerar övervakade kameror, vilket höjer insatserna vid varje fel.
  • Falska positiva träffar och algoritmisk snedvridning förblir verkliga risker, även i försök som framställs som snäva och kontrollerade.
  • Funktionsglidning, den gradvisa utvidgningen av ett verktygs ursprungliga syfte, är den oro experter följer mest noggrant.
  • Datahantering är lika viktigt som träffsäkerhet. En databas för ansiktsigenkänning är ytterligare ett register med känsliga personuppgifter som kräver stark säkerhet och tillsyn.
  • Offentlig granskning under försöksfaserna är ett av de få tillfällen där allmänhetens medverkan kan forma hur, eller om, den här tekniken blir permanent.

När WA-polisen utökar och utvärderar detta försök kommer diskussionen om live-ansiktsigenkänning bara att bli högre. Att hålla sig informerad om hur dessa system används, och att ställa frågor om tillsyn och dataskydd, är det mest praktiska sättet för allmänheten att ha inflytande över vart tekniken tar vägen härnäst.