En tegneserie med et alvorlig poeng
Når en satirisk tegneserieskaper sikter seg inn på ansiktsgjenkjenningsteknologi i supermarkeder, er det verdt å stoppe opp og spørre hva vitsen egentlig peker på. The Guardians «First Dog on the Moon»-stripe, publisert under overskriften «Shoplifting crime wave?! Putting facial recognition technology everywhere will fix it», latterliggjør ideen om at de australske retail-gigantene Coles og Woolworths kan løse tyveriproblemet bare ved å dekke butikkene med kameraer og biometrisk programvare. Poenget treffer fordi det er forankret i noe reelt: ansiktsgjenkjenningsalgoritmer har dokumenterte skjevheter, og selskapene som tar dem i bruk ber i praksis publikum om å stole på at de ikke vil misbruke en teknologi som er kjent for å gjøre feil.
Det er spenningen i kjernen av denne historien. Retailerne fremstiller ansiktsgjenkjenning som en enkel sikkerhetsoppgradering, en måte å flagge kjente lovbrytere før de når kassen. Men teknologien opererer ikke i et vakuum. Den skanner, lagrer og matcher ansiktene til hver eneste kunde som går gjennom døren, enten de noen gang har vært mistenkt for noe eller ikke.
Hvorfor skjevhet i ansiktsgjenkjenning betyr noe i retail
Ansiktsgjenkjenningssystemer har en veletablert historie med å prestere ujevnt på tvers av ulike demografiske grupper. Studier og uavhengige tester over årene har gjentatte ganger funnet at feilratene ikke er jevnt fordelt, noe som betyr at noen kunder statistisk sett er mer sannsynlige til å bli feilidentifisert enn andre. I en retail-sammenheng fører ikke en falsk match bare til en upraktisk varsling. Det kan bety at en kunde blir stoppet, avhørt eller bedt om å forlate en butikk uten å ha gjort noe galt.
Løftet fra supermarkeder om at de vil bruke denne teknologien ansvarlig, endrer ikke det underliggende nøyaktighetsproblemet. En bedriftsløfte om å unngå misbruk er en policyforpliktelse, ikke en teknisk løsning. Algoritmen gjør fortsatt de samme statistiske feilene uansett hvor nøye et selskap sier at det vil styre bruken. Det er nettopp dette gapet tegneserien gjør narr av: mismatch mellom et feilbeheftet verktøy og det selvsikkere språket som brukes for å selge det inn som en løsning.
Dataene ligger et sted, og det er også en risiko
Utover feilidentifisering finnes det et andre lag av bekymring som ofte får mindre oppmerksomhet: hvor de biometriske dataene blir av når de først er samlet inn. Ansiktsgjenkjenningssystemer krever lagring av ansiktsmaler, bilder eller matchlogger, og enhver database av den typen blir et mål. Retailere er tradisjonelt ikke sikkerhetsfokuserte organisasjoner på samme måte som banker eller teleselskaper, og det bredere mønsteret av sårbarhet i næringslivet er verdt å huske på. Rapportering om britiske produsenter rammet av cyberangrep fant at en stor andel av industribedriftene ble rammet av datainnbrudd i løpet av det siste året, mens mange forble uforberedt – en påminnelse om at sektorer utenfor tradisjonell tech ofte er underbemannet for sikkerhetskravene knyttet til dataene de nå besitter. En supermarkedkjede som lagrer biometriske maler på millioner av kunder, påtar seg en lignende type eksponering, uansett om den har infrastrukturen til å håndtere det eller ikke.
Det er også et mønster verdt å merke seg i hvordan verifiseringsteknologi rulles ut med selvsikre løfter som ikke alltid holder mål under gransking. Regulatorer har reist lignende spørsmål andre steder, for eksempel når Ofcom åpnet en etterforskning av TikToks aldersverifiseringssystemer etter bekymringer om at kontrollene ikke fungerte som annonsert. Ansiktsgjenkjenning i retail følger et lignende manus: en teknologi introduseres som en løsning på et reelt problem, ledsaget av forsikringer om ansvarlig bruk, mens nøyaktighets- og tilsynsspørsmålene i stor grad forblir uløste.
Hva dette betyr for deg
Hvis du handler i en butikk som bruker ansiktsgjenkjenning, blir ansiktet ditt skannet og potensielt matchet mot en database hver gang du går inn, uavhengig av om du noen gang har gjort noe galt. Du vil neppe bli fortalt hvilket spesifikt system som er i bruk, hvor lenge dataene dine oppbevares, eller hvilke rettigheter du har hvis du feilaktig blir flagget. Bedriftsløfter om ansvarlig bruk er ikke håndhevbare garantier, og de tar ikke tak i de algoritmiske nøyaktighetsproblemene som er innebygd i selve teknologien.
Dette betyr ikke at all bruk av ansiktsgjenkjenning er ondsinnet, eller at hver kunde er i reell risiko. Men det betyr at bevisbyrden bør ligge hos selskapene som tar i bruk denne teknologien, ikke hos kundene som går forbi kameraene deres. Tillit til ethvert system som håndterer sensitive personopplysninger, biometriske eller andre, bør støttes av verifiserbare praksiser snarere enn beroligende uttalelser. Det er den samme standarden som er verdt å bruke på enhver tjeneste som håndterer dataene dine, inkludert uavhengig reviderte sikkerhetspraksiser snarere enn ubekreftede påstander om god oppførsel.
Råd til kunder
Vær oppmerksom på skilting ved butikkens innganger som varsler om overvåkning eller ansiktsgjenkjenningsteknologi, og ikke nøl med å spørre ansatte eller kundeservice i selskapet om hvilke data som samles inn og hvor lenge de oppbevares. Hvis du mener du er blitt feilidentifisert, be om en formell gjennomgang i stedet for å godta en avgjørelse på stedet. Og mer generelt: husk at et selskaps løfte om å bruke ansiktsgjenkjenningsteknologi ansvarlig ikke er det samme som bevis på at systemet fungerer rettferdig. Ettersom denne teknologien sprer seg til flere hverdagslige steder, fra supermarkeder til kollektivtransport, er spørsmålene som reises av en satirisk tegneserie verdt å ta like alvorlig som enhver formell policydebatt.
