En tecknad serie med en allvarlig poäng

När en satirisk serietecknare riktar in sig på ansiktsigenkänningsteknik i stormarknader är det värt att stanna upp och fråga vad skämtet egentligen pekar på. The Guardian's First Dog on the Moon-serie, publicerad under rubriken "Shoplifting crime wave?! Putting facial recognition technology everywhere will fix it," hånar idén att de australiska detaljhandelsjättarna Coles och Woolworths kan lösa stöld genom att helt enkelt täcka butiker med kameror och biometrisk programvara. Poängen landar eftersom den grundar sig i något verkligt: ansiktsigenkänningsalgoritmer har dokumenterade biaser, och företagen som använder dem ber i praktiken allmänheten att lita på att de inte kommer att missbruka en teknik som är känd för att göra misstag.

Det är spänningen i hjärtat av den här berättelsen. Återförsäljare framställer ansiktsigenkänning som en enkel säkerhetsuppgradering, ett sätt att flagga kända förövare innan de når kassan. Men tekniken verkar inte i ett vakuum. Den skannar, lagrar och matchar ansiktena på varje kund som går genom dörren, oavsett om de någonsin varit misstänkta för något eller inte.

Varför ansiktsigenkänningsbias spelar roll i detaljhandeln

Ansiktsigenkänningssystem har en väletablerad historia av att prestera ojämnt över olika demografiska grupper. Studier och oberoende tester under åren har upprepade gånger funnit att felfrekvenser inte är jämnt fördelade, vilket innebär att vissa shoppare statistiskt sett är mer benägna att felidentifieras än andra. I en butiksmiljö leder en falsk matchning inte bara till en obekväm notis. Det kan innebära att en kund stoppas, ifrågasätts eller ombeds lämna en butik där de inte har gjort något fel.

Löftet från stormarknader att de kommer att använda tekniken på ett ansvarsfullt sätt ändrar inte det underliggande noggrannhetsproblemet. Ett företagslöfte om att undvika missbruk är ett policyåtagande, inte en teknisk lösning. Algoritmen gör fortfarande samma statistiska fel oavsett hur noggrant ett företag säger att det kommer att styra användningen. Det är precis denna klyfta som serien driver med: missmatchningen mellan ett bristfälligt verktyg och det självsäkra språket som används för att sälja det som en lösning.

Uppgifterna finns någonstans, och det är också en risk

Bortom felidentifiering finns ett andra lager av oro som ofta får mindre uppmärksamhet: var den biometriska datan tar vägen när den väl har samlats in. Ansiktsigenkänningssystem kräver lagring av ansiktsmallar, bilder eller matchningsloggar, och alla databaser av det slaget blir ett mål. Återförsäljare är traditionellt inte säkerhetsorienterade organisationer på det sätt som banker eller telekomföretag är, och det bredare mönstret av företags sårbarhet är värt att hålla i minnet. Rapportering om UK manufacturers hit by cyberattacks fann att en stor andel av industriföretagen drabbades av intrång under det senaste året medan många förblev oförberedda, en påminnelse om att sektorer utanför traditionell tech ofta är underresurserade för de säkerhetskrav som den data de nu innehar ställer. En stormarknadskedja som lagrar biometriska mallar för miljontals kunder tar på sig en liknande typ av exponering, oavsett om den har infrastrukturen som krävs.

Det finns också ett mönster värt att notera i hur verifieringsteknik lanseras med självsäkra löften som inte alltid håller under granskning. Regulatorer har ställt liknande frågor på andra håll, som när Ofcom opened an investigation into TikTok's age verification systems efter farhågor om att kontrollerna inte fungerade som annonserat. Ansiktsigenkänning i detaljhandeln följer ett jämförbart manus: en teknik introduceras som en lösning på ett verkligt problem, åtföljd av försäkringar om ansvarsfull användning, medan noggrannhets- och tillsynsfrågorna i stort sett förblir olösta.

Vad detta betyder för dig

Om du handlar i en butik som använder ansiktsigenkänning skannas ditt ansikte och kan potentiellt matchas mot en databas varje gång du går in, oavsett om du någonsin har gjort något fel. Du kommer sannolikt inte att få veta vilket specifikt system som används, hur länge din data behålls, eller vilka rättsmedel som finns om du felaktigt flaggas. Företagslöften om ansvarsfull användning är inte verkställbara garantier, och de åtgärdar inte de algoritmiska noggrannhetsproblem som är inbyggda i tekniken i sig.

Detta betyder inte att varje användning av ansiktsigenkänning är illasinnad eller att varje shoppare löper en betydande risk. Men det betyder att bevisbördan bör ligga hos företagen som använder tekniken, inte hos kunderna som går förbi deras kameror. Förtroende för alla system som hanterar känslig personlig data, biometrisk eller inte, bör backas upp av verifierbara metoder snarare än lugnande uttalanden. Det är samma standard som är värd att tillämpa på alla tjänster som hanterar din data, inklusive independently audited security practices snarare än overifierade påståenden om gott uppförande.

Råd till shoppare

Var uppmärksam på skyltar vid butiksingångar som noterar användning av övervakning eller ansiktsigenkänningsteknik, och tveka inte att fråga personal eller företagets kundservice vilken data som samlas in och hur länge den behålls. Om du tror att du har blivit felidentifierad, begär en formell granskning snarare än att acceptera ett beslut på plats. Och mer allmänt, kom ihåg att ett företags löfte om att använda ansiktsigenkänningsteknik på ett ansvarsfullt sätt inte är detsamma som bevis på att systemet fungerar rättvist. I takt med att denna teknik sprider sig till fler vardagliga miljöer, från stormarknader till kollektivtrafik, är frågorna som en satirisk serie väcker värda att tas på lika stort allvar som vilken formell policydebatt som helst.