En første for australsk politiarbeid

Politiet i Western Australia har blitt den første politistyrken i landet til å ta i bruk direkte ansiktsgjenkjenningsteknologi i offentlige rom, og det tok ikke lang tid før systemet ga resultater. Under testperioden brukte politibetjentene teknologien til å identifisere og pågripe en person i sanntid – en milepæl som politiet fremstiller som et konseptbevis, og som personvernforkjempere behandler som et varselsignal.

Systemet fungerer ved å skanne direkte videostrømmer, angivelig med behandling av hundrevis av ansikter i minuttet, og umiddelbart kryssjekke dem mot en politidatabase med bilder. I motsetning til tradisjonell ansiktsgjenkjenning, som vanligvis brukes i ettertid for å matche opptak fra et åsted mot en database, opererer denne teknologien i øyeblikket og varsler betjentene om treff mens folk går forbi overvåkede kameraer i sanntid. Testen har angivelig involvert en merket politibil stasjonert i nærheten av større arrangementer og i folkerike offentlige områder, der systemet sjekker ansikter mot det myndighetene beskriver som en strengt kontrollert varslingsliste over lovlig lagrede politibilder.

Hvorfor personvernforkjempere er bekymret

Sanntidspågripelsen blir trukket frem av WA-politiet som bevis på at teknologien virker. Men kritikere ser den samme hendelsen som begynnelsen på en mye større samtale om hvor mye overvåking publikum er villige til å akseptere i bytte mot bekvemmelighet eller trygghet.

Tre bekymringer dukker stadig opp. Den første er risikoen for falske varsler: ansiktsgjenkjenningssystemer, selv veltilpassede, kan feilidentifisere personer, og et feilaktig utslag i en direkte politikontekst kan bety at en uskyldig person blir stoppet, avhørt, eller verre, basert på en datamaskins feil snarere enn bevis. Den andre er algoritmisk skjevhet. Ansiktsgjenkjenningssystemer har en dokumentert historie med lavere nøyaktighet på tvers av ulike demografiske grupper, noe som vekker frykt for at enkelte samfunnsgrupper kan bli uforholdsmessig rammet av falske treff. Den tredje, og kanskje mest vedvarende, er bekymringen for funksjonsutvidelse: teknologi som innføres for et smalt formål, som å identifisere personer på en bestemt varslingsliste ved større arrangementer, kan gradvis utvides i omfang til den blir et rutineverktøy for bredere offentlig overvåking.

Det siste punktet er der mye av motstanden konsentreres. Når infrastrukturen og den offentlige aksepten for å skanne folkemengder på en musikkfestival eller et sportsarrangement først er på plass, er det lite teknisk som hindrer det fra å bli brukt ved protester, kollektivknutepunkter eller vanlige gatehjørner. Kritikere hevder at tester som denne har en tendens til å normalisere overvåking trinnvis, der hver utvidelse rettferdiggjøres av suksessen til den forrige.

Det større dataproblemet

Ansiktsgjenkjenningstester reiser ikke bare spørsmål om polititaktikk; de reiser spørsmål om datastyring. Hvert ansikt som skannes, matches eller loggføres blir et datapunkt som ligger i et offentlig system, og offentlige systemer har ikke alltid vist seg å være pålitelige forvaltere av sensitiv personinformasjon. Biometriske data er spesielt sensitive fordi, i motsetning til et passord, kan et ansikt ikke endres hvis det blir eksponert eller misbrukt.

Det er her WA-testen knytter seg til et bredere bekymringsmønster rundt offentlig sektors teknologi. Offentlige etater sitter i økende grad på store mengder personopplysninger, fra førerkortregistre til biometriske skanninger, og resultatene med å holde disse dataene trygge har vært blandede. Saker som den som er beskrevet i WA DOL Data Breach: When Government Systems Fail You viser hvordan sårbarheter i offentlige systemer kan vedvare i årevis før de blir adressert, og hvordan konsekvensene lander rett på vanlige folk hvis informasjon skulle vært beskyttet. En varslingsliste for ansiktsgjenkjenning er i bunn og grunn nok en sensitiv offentlig database, og sikkerheten rundt den er like viktig som nøyaktigheten.

Hva dette betyr for deg

For innbyggere i Western Australia, og for alle som følger denne testen som en pekepinn for polititeknologi andre steder, er den umiddelbare påvirkningen begrenset: systemet sjekker for tiden ansikter mot en bestemt varslingsliste i stedet for å loggføre alle som går forbi. Men testen markerer et meningsfullt skifte i hvordan offentlige rom kan overvåkes, og det er rimelig å stille spørsmål før teknologien blir permanent eller utvides.

Du trenger ikke å være teknolog for å ha en interesse i dette. Offentlige tester som denne blir vanligvis etterfulgt av vurderinger, offentlige høringer eller parlamentarisk gransking, og tilbakemeldinger fra publikum i disse vinduene former genuint om tilsynsmekanismer blir innebygd. Å forstå hva som skannes, hvem som står på varslingslisten og hvor lenge data oppbevares, er rimelige spørsmål for ethvert samfunn som møter denne typen teknologi for første gang.

Hovedpunkter

  • Direkte ansiktsgjenkjenning skiller seg fra etterfølgende matching: den flagger personer i sanntid mens de passerer overvåkede kameraer, noe som øker konsekvensene av eventuelle feil.
  • Falske positive treff og algoritmisk skjevhet forblir reelle risikoer, selv i tester som fremstilles som smale og kontrollerte.
  • Funksjonsutvidelse, den gradvise utvidelsen av et verktøys opprinnelige formål, er bekymringen eksperter følger tettest.
  • Datastyring er like viktig som nøyaktighet. En ansiktsgjenkjenningsdatabase er enda et lager av sensitiv personinformasjon som trenger sterk sikkerhet og tilsyn.
  • Offentlig gransking i testfaser er et av de få vinduene der innspill fra samfunnet kan forme hvordan, eller om, denne teknologien blir permanent.

Etter hvert som WA-politiet utvider og evaluerer denne testen, vil samtalen rundt direkte ansiktsgjenkjenning bare bli høyere. Å holde seg informert om hvordan disse systemene tas i bruk, og å stille spørsmål om tilsyn og databeskyttelse, er den mest praktiske måten for publikum å ha en stemme i hvor denne teknologien beveger seg videre.