En britisk polititilsynsmyndighet har advart om at feil i ansiktsgjenkjenning kan sette etniske minoriteter i fare for uriktige pågripelser. Ifølge The Guardian fant inspektører at enkelte tjenestepersoner handlet på potensielle treff fra retrospektive ansiktsgjenkjenningssøk uten å gjøre tilstrekkelige tilleggskontroller. Funnene styrker den økende bekymringen rundt uriktige pågripelser som følge av ansiktsgjenkjenning i Storbritannia, og reiser et praktisk spørsmål: hva beskytter en person når programvaren peker på feil ansikt?

Kildeartikkelen er kort, så dette innlegget holder seg til det som er rapportert og forklarer den bredere konteksten nøye.

Hva inspektørene fant om retrospektiv ansiktsgjenkjenning

Retrospektiv ansiktsgjenkjenning skiller seg fra livesystemer, som skanner ansikter i sanntid når folk passerer et kamera. I et retrospektivt søk tar politiet et bilde av en person av interesse, for eksempel et stillbilde fra CCTV, og sammenligner det med en database med bilder for å generere potensielle treff.

Stikkordet er «potensielt». Et treff fra programvare er et spor, ikke en identifikasjon. Ifølge The Guardians rapportering fant inspektørene at enkelte tjenestepersoner behandlet disse resultatene som grunnlag for å handle uten å utføre tilstrekkelige ytterligere kontroller. I praksis betyr det at et mulig treff kan ha blitt tillagt mer vekt enn det fortjente før en pågripelse ble gjort.

Dette er et prosessproblem like mye som et teknologiproblem. Selv en velfungerende algoritme produserer falske treff, så kontrollene som mennesker utfører i etterkant, er den viktigste beskyttelsen mot feil.

Hvorfor etniske minoriteter er mer utsatt for matchfeil

Tilsynsmyndighetens advarsel fremhever spesielt risikoen for etniske minoriteter. Bekymringen er at matchfeil ikke fordeler seg jevnt i befolkningen. Hvis et system har større sannsynlighet for å produsere falske treff for enkelte grupper, har disse gruppene større sjanse for å bli feilaktig flagget som mistenkt.

Kombiner det med utilstrekkelig kontroll, og risikoen forsterkes. Et falskt treff som blir grundig gransket, fanges opp tidlig. Et falskt treff som godtas ukritisk, kan føre til en stopp, en pågripelse eller verre. Tilsynsmyndighetens bekymring er kombinasjonen: feilutsatt matching pluss svak verifisering.

Dette er også grunnen til at detaljene rundt hvordan et søk utføres og gjennomgås, er viktige. Hvem som undersøker kandidatlisten, hvilke andre bevis som kreves, og hvordan uenigheter håndteres – alt dette avgjør om en feil når frem til en virkelig person.

Hvor britiske sikkerhetstiltak og juridiske regler kommer til kort

Inspektørenes funn tyder på at sikkerhetstiltak finnes på papiret, men ikke alltid anvendes konsekvent i praksis. Dette gapet er en del av grunnen til at regjeringen har sett på reglene. Vi dekket planen om å stramme inn det juridiske rammeverket i vår artikkel om britiske regler for politiets ansiktsgjenkjenning etter kameraer i Oxford Street, og tilsynsmyndighetens funn styrker argumentet for klarere, håndhevbare standarder for både retrospektive søk og livesystemer.

Dokumentasjon er ett sted å se etter hvordan sikkerhetstiltak er ment å fungere. Home Office har publisert en personvernvurdering for immigrasjonshåndhevingens live ansiktsgjenkjenning, som vi oppsummerte i vår gjennomgang av Home Offices personvernvurdering for LFR. Å lese slike dokumenter viser hvilke risikoer myndighetene erkjenner og hvilke avbøtende tiltak de lover. Prøven er om disse løftene følges i praksis, og det er nettopp det inspeksjoner som denne undersøker.

Det er også verdt å merke seg at ansiktsgjenkjenning ikke er begrenset til politiet. Butikker bruker det også, og de samme spørsmålene om nøyaktighet og klagemuligheter gjelder. Vår dekning av Facewatch-varsler og britiske kunder utforsker den siden av bildet.

Hvilke rettigheter du har hvis du blir feilidentifisert

Kildeartikkelen angir ikke individuelle rettsmidler, så det følgende er generell veiledning og ikke juridisk rådgivning.

  • Spør hva grunnlaget er. Hvis du blir stanset eller pågrepet, kan du spørre hvorfor. Hvis ansiktsgjenkjenning var involvert, spør om andre bevis knytter deg til hendelsen.
  • Be om dine data. I henhold til britisk personvernlovgivning kan du generelt sende en innsynsforespørsel for å se personopplysninger en organisasjon har om deg, selv om politiet noen ganger kan bruke unntak.
  • Før protokoll. Noter datoer, tidspunkter, steder og navn eller nummer på tjenestepersonene som var involvert.
  • Søk råd. En advokat, eller en organisasjon som spesialiserer seg på borgerrettigheter, kan forklare dine muligheter for klager eller utfordringer.
  • Klag. Du kan klage til den aktuelle politistyrken, og eskalere hvis du ikke er fornøyd.

For butikkmiljøer dekker vår guide til dine personvernrettigheter i butikk ved Facewatch-skanninger hvordan du kan stille spørsmål ved og utfordre et varsel.

Hva dette betyr for deg

De fleste vil aldri bli feilmatchet, men risikoen er ikke jevnt fordelt, og tilsynsmyndighetens advarsel er en påminnelse om at et programvareresultat bare er så pålitelig som kontrollene bak det. En VPN vil ikke skjule ansiktet ditt for et kamera på gaten, så de reelle beskyttelsene her er juridiske og prosessuelle: tilsyn, åpenhet og retten til å utfordre feil.

Hvis du er bekymret, følg med på hvordan reglene utvikler seg. Vær oppmerksom på om ny lovgivning setter klare krav til menneskelig verifisering før det handles på et treff, og om uavhengig inspeksjon fortsetter.

Viktige punkter

Risikoen for uriktige pågripelser som følge av ansiktsgjenkjenning i Storbritannia avhenger av om verifiseringen holder tritt med teknologien. Inntil den gjør det, er kunnskap om dine rettigheter din beste praktiske beskyttelse.