En brittisk polistillsynsmyndighet har varnat för att fel i ansiktsigenkänning kan utsätta etniska minoriteter för risk för felaktiga gripanden. Enligt The Guardian fann inspektörer att vissa poliser agerade på potentiella träffar från retrospektiva ansiktsigenkänningssökningar utan att göra tillräckliga ytterligare kontroller. Fyndet förstärker den växande oron kring fall av felaktiga gripanden till följd av ansiktsigenkänning i Storbritannien, och väcker en praktisk fråga: vad skyddar en person när mjukvaran pekar på fel ansikte?

Källartikeln är kortfattad, så detta inlägg håller sig till det som har rapporterats och förklarar den bredare kontexten noggrant.

Vad inspektörerna fann om retrospektiv ansiktsigenkänning

Retrospektiv ansiktsigenkänning skiljer sig från live-system, som skannar ansikten i realtid när människor passerar en kamera. Vid en retrospektiv sökning tar polisen en bild av en intressant person, till exempel en stillbild från CCTV, och jämför den mot en databas med bilder för att generera potentiella träffar.

Nyckelordet är "potentiella". En träff från mjukvara är ett spår, inte en identifiering. Enligt The Guardians rapportering fann inspektörerna att vissa poliser behandlade dessa resultat som grund för att agera utan att utföra tillräckliga ytterligare kontroller. I praktiken innebär det att en möjlig träff kan ha getts mer vikt än den förtjänade innan ett gripande gjordes.

Detta är ett processproblem lika mycket som ett teknikproblem. Även en välpresterande algoritm producerar falska träffar, så de kontroller som människor utför efteråt är det främsta skyddet mot fel.

Varför etniska minoriteter löper högre risk vid matchningsfel

Tillsynsmyndighetens varning belyser särskilt risken för etniska minoriteter. Oron är att matchningsfel inte drabbar befolkningen jämnt. Om ett system har större sannolikhet att producera falska träffar för vissa grupper, löper dessa grupper högre risk att felaktigt flaggas som misstänkta.

Kombinera det med otillräcklig kontroll och risken förstärks. En falsk träff som granskas ordentligt fångas upp tidigt. En falsk träff som accepteras som den är kan leda till ett stopp, ett gripande eller värre. Tillsynsmyndighetens oro är kombinationen: felbenägen matchning plus svag verifiering.

Det är också därför detaljerna kring hur en sökning utförs och granskas spelar roll. Vem som granskar kandidatlistan, vilka andra bevis som krävs och hur oenigheter hanteras formar alla huruvida ett misstag når en verklig person.

Var brittiska skyddsåtgärder och rättsregler brister

Inspektörernas fynd tyder på att skyddsåtgärder finns på papper men inte alltid tillämpas konsekvent i praktiken. Den luckan är en del av anledningen till att regeringen har sett över reglerna. Vi täckte dess plan att skärpa det rättsliga ramverket i vår artikel om brittiska polisregler för ansiktsigenkänning föranledda av kameror på Oxford Street, och tillsynsmyndighetens fynd talar för tydligare, verkställbara standarder för både retrospektiva sökningar och live-sökningar.

Dokumentation är en plats att leta efter hur skyddsåtgärder är tänkta att fungera. Home Office har publicerat en integritetsbedömning för immigrationsmyndighetens live-ansiktsigenkänning, som vi sammanfattade i vår genomgång av Home Offices integritetsbedömning för LFR. Att läsa sådana dokument visar vilka risker myndigheterna erkänner och vilka motåtgärder de lovar. Provet är huruvida dessa löften följs i praktiken, vilket är precis vad inspektioner som denna undersöker.

Det är också värt att notera att ansiktsigenkänning inte är begränsad till polisen. Återförsäljare använder det också, och samma frågor om noggrannhet och rättsmedel gäller. Vår bevakning av Facewatch-larm och brittiska konsumenter utforskar den sidan av bilden.

Vilka rättigheter du har om du felidentifieras

Källartikeln anger inte individuella rättsmedel, så följande är allmän vägledning snarare än juridisk rådgivning.

  • Fråga vad grunden är. Om du stoppas eller grips kan du fråga varför. Om ansiktsigenkänning var inblandad, fråga om några andra bevis kopplar dig till händelsen.
  • Begär dina uppgifter. Enligt brittisk dataskyddslagstiftning kan du i allmänhet göra en begäran om tillgång till personuppgifter för att se personuppgifter som en organisation innehar om dig, även om polisen ibland kan tillämpa undantag.
  • För ett register. Notera datum, tider, platser och namn eller nummer på inblandade poliser.
  • Sök rådgivning. En advokat, eller en organisation som specialiserar sig på medborgerliga friheter, kan förklara dina alternativ för klagomål eller överklaganden.
  • Klagomål. Du kan klaga till den berörda polismyndigheten och eskalera om du inte är nöjd.

För detaljhandelsmiljöer täcker vår guide om dina integritetsrättigheter i detaljhandeln kring Facewatch-skanningar hur du ifrågasätter och överklagar en flagga.

Vad detta innebär för dig

De flesta kommer aldrig att felmatchas, men risken delas inte jämnt, och tillsynsmyndighetens varning är en påminnelse om att ett mjukvaruresultat bara är så tillförlitligt som kontrollerna bakom det. En VPN döljer inte ditt ansikte för en kamera på gatan, så de verkliga skydden här är juridiska och procedurella: tillsyn, transparens och rätten att ifrågasätta fel.

Om du är orolig, följ hur reglerna utvecklas. Var uppmärksam på huruvida ny lagstiftning ställer tydliga krav på mänsklig verifiering innan åtgärder vidtas på en träff, och huruvida oberoende inspektion fortsätter.

Viktiga slutsatser

Risken för felaktiga gripanden till följd av ansiktsigenkänning i Storbritannien handlar om huruvida verifieringen håller jämna steg med tekniken. Tills den gör det är kunskapen om dina rättigheter ditt bästa praktiska skydd.