En britisk polititilsynsmyndighed har advaret om, at fejl i ansigtsgenkendelse kan udsætte etniske minoriteter for risiko for fejlagtige anholdelser. Ifølge The Guardian fandt inspektører, at nogle betjente handlede på potentielle match fra retrospektive ansigtsgenkendelsessøgninger uden at foretage tilstrækkelige yderligere kontrol. Fundet understøtter den voksende bekymring om fejlagtige anholdelser på grund af ansigtsgenkendelse i Storbritannien og rejser et praktisk spørgsmål: hvad beskytter en person, når softwaren peger på det forkerte ansigt?

Kildeartiklen er kort, så dette indlæg holder sig til det, der er rapporteret, og forklarer den bredere kontekst omhyggeligt.

Hvad inspektørerne fandt om retrospektiv ansigtsgenkendelse

Retrospektiv ansigtsgenkendelse adskiller sig fra live-systemer, som scanner ansigter i realtid, når folk passerer et kamera. I en retrospektiv søgning tager politiet et billede af en person af interesse, f.eks. et stillbillede fra CCTV, og sammenligner det med en database af billeder for at generere potentielle match.

Det afgørende ord er "potentiel". Et match fra software er et spor, ikke en identifikation. Ifølge The Guardians rapportering fandt inspektører, at nogle betjente behandlede disse resultater som grundlag for at handle uden at udføre tilstrækkelige yderligere kontrol. I praksis betyder det, at et muligt match kan være blevet tillagt mere vægt, end det fortjente, før en anholdelse blev foretaget.

Dette er et procesproblem såvel som et teknologiproblem. Selv en velfungerende algoritme producerer falske match, så de kontrol, som mennesker udfører bagefter, er den vigtigste beskyttelse mod fejl.

Hvorfor etniske minoriteter er i højere risiko for matchfejl

Tilsynsmyndighedens advarsel fremhæver specifikt risikoen for etniske minoriteter. Bekymringen er, at matchfejl ikke fordeler sig jævnt i befolkningen. Hvis et system har større sandsynlighed for at producere falske match for visse grupper, så har disse grupper en højere chance for fejlagtigt at blive flagget som mistænkt.

Kombiner det med utilstrækkelig kontrol, og risikoen forstærkes. Et falsk match, der bliver ordentligt gransket, fanges tidligt. Et falsk match, der accepteres uden videre, kan føre til en standsning, en anholdelse eller værre. Tilsynsmyndighedens bekymring er kombinationen: fejlbehæftet matching plus svag verifikation.

Det er også derfor, detaljerne om, hvordan en søgning udføres og gennemgås, er vigtige. Hvem undersøger kandidatlisten, hvilke andre beviser kræves, og hvordan uenigheder håndteres – alt dette former, hvorvidt en fejl når en rigtig person.

Hvor britiske sikkerhedsforanstaltninger og retsregler kommer til kort

Inspektørernes fund tyder på, at sikkerhedsforanstaltninger findes på papiret, men ikke altid anvendes konsekvent i praksis. Det gab er en del af grunden til, at regeringen har undersøgt reglerne. Vi dækkede dens plan om at stramme den retlige ramme i vores artikel om UK police facial recognition rules prompted by Oxford Street cameras, og tilsynsmyndighedens fund taler for klarere, håndhævelige standarder for både retrospektive søgninger og live-søgninger.

Dokumentation er et sted at kigge efter, hvordan sikkerhedsforanstaltninger er ment at fungere. Home Office har offentliggjort en privatlivsvurdering for immigrationshåndhævelsens live ansigtsgenkendelse, som vi opsummerede i vores gennemgang af Home Offices LFR-privatlivsvurdering. Læsning af sådanne dokumenter viser, hvilke risici myndighederne anerkender, og hvilke afbødende tiltag de lover. Testen er, om disse løfter følges i praksis, hvilket netop er, hvad inspektioner som denne undersøger.

Det er også værd at bemærke, at ansigtsgenkendelse ikke er begrænset til politiet. Detailhandlere bruger det også, og de samme spørgsmål om nøjagtighed og klagemuligheder gælder. Vores dækning af Facewatch alerts and UK shoppers undersøger den side af billedet.

Hvilke rettigheder har du, hvis du bliver fejlidentificeret

Kildeartiklen angiver ikke individuelle retsmidler, så det følgende er generel vejledning og ikke juridisk rådgivning.

  • Spørg, hvad grundlaget er. Hvis du bliver stoppet eller anholdt, kan du spørge hvorfor. Hvis ansigtsgenkendelse var involveret, spørg om der er andre beviser, der forbinder dig med hændelsen.
  • Anmod om dine data. I henhold til britisk databeskyttelseslovgivning kan du generelt indgive en anmodning om aktindsigt for at se personoplysninger, som en organisation har om dig, selvom politiet nogle gange kan anvende undtagelser.
  • Hold en registrering. Noter datoer, tidspunkter, steder og navne eller numre på de involverede betjente.
  • Søg rådgivning. En advokat eller en organisation, der specialiserer sig i borgerrettigheder, kan forklare dine muligheder for klager eller udfordringer.
  • Klag. Du kan klage til den involverede politistyrke og eskalere, hvis du ikke er tilfreds.

For detailhandelsmiljøer dækker vores guide til your retail privacy rights around Facewatch scans, hvordan man forespørger og udfordrer et flag.

Hvad dette betyder for dig

De fleste vil aldrig blive fejlagtigt matchet, men risikoen er ikke ligeligt fordelt, og tilsynsmyndighedens advarsel er en påmindelse om, at et softwareresultat kun er så pålideligt som de kontrol, der ligger bag. En VPN skjuler ikke dit ansigt for et kamera på gaden, så de reelle beskyttelser her er juridiske og proceduremæssige: tilsyn, gennemsigtighed og retten til at udfordre fejl.

Hvis du er bekymret, følg med i, hvordan reglerne udvikler sig. Vær opmærksom på, om ny lovgivning fastsætter klare krav til menneskelig verifikation, før der handles på et match, og om uafhængig inspektion fortsætter.

Vigtige pointer

  • Et match fra ansigtsgenkendelse er et spor, ikke bevis for identitet.
  • Tilsynsmyndigheden fandt, at nogle betjente handlede på retrospektive match uden tilstrækkelig kontrol.
  • Etniske minoriteter er i højere risiko for matchfejl, ifølge advarslen.
  • Hvis du bliver fejlidentificeret, spørg om grundlaget, hold registreringer, anmod om dine data og søg rådgivning.
  • Hold dig informeret: læs om regeringens plan om at stramme politiets regler for ansigtsgenkendelse og se, hvordan sikkerhedsforanstaltninger dokumenteres i Home Offices LFR-privatlivsvurdering.

Risikoen for fejlagtige anholdelser på grund af ansigtsgenkendelse i Storbritannien afhænger af, om verifikationen holder trit med teknologien. Indtil den gør, er kendskab til dine rettigheder din bedste praktiske beskyttelse.