Sarjakuva, jolla on vakava pointti

Kun satiirinen sarjakuvapiirtäjä ottaa tähtäimeensä kasvojentunnistusteknologian supermarketeissa, kannattaa pysähtyä miettimään, mihin vitsi itse asiassa osoittaa. The Guardianin First Dog on the Moon -sarjakuva, joka julkaistiin otsikolla "Shoplifting crime wave?! Putting facial recognition technology everywhere will fix it", pilkkaa ajatusta, että australialaiset vähittäiskaupan jätit Coles ja Woolworths voisivat ratkaista varkaudet yksinkertaisesti täyttämällä kaupat kameroilla ja biometrisillä ohjelmistoilla. Iskevä loppupointti toimii, koska se perustuu johonkin todelliseen: kasvojentunnistusalgoritmeilla on dokumentoituja vinoumia, ja yritykset, jotka ottavat ne käyttöön, pyytävät käytännössä yleisöä luottamaan siihen, etteivät ne käytä väärin teknologiaa, jonka tiedetään tekevän virheitä.

Tämä on tämän tarinan ytimessä oleva jännite. Vähittäiskauppiaat esittelevät kasvojentunnistuksen suoraviivaisena turvallisuuspäivityksenä, tapana merkitä tunnetut rikkojat ennen kuin he ehtivät kassalle. Mutta teknologia ei toimi tyhjiössä. Se skannaa, tallentaa ja vertaa jokaisen ovesta sisään astuvan asiakkaan kasvot riippumatta siitä, onko häntä koskaan epäilty mistään vai ei.

Miksi kasvojentunnistuksen vinouma on merkityksellistä vähittäiskaupassa

Kasvojentunnistusjärjestelmillä on vakiintunut maine siitä, että ne toimivat epätasaisesti eri väestöryhmien välillä. Tutkimukset ja riippumattomat testit ovat vuosien varrella toistuvasti osoittaneet, että virheprosentit eivät jakaudu tasaisesti, mikä tarkoittaa, että jotkut asiakkaat ovat tilastollisesti todennäköisemmin väärin tunnistettuja kuin toiset. Vähittäiskaupan ympäristössä väärä osuma ei tuota vain epämukavaa ilmoitusta. Se voi tarkoittaa, että asiakas pysäytetään, kuulustellaan tai pyydetään poistumaan kaupasta, vaikka hän ei ole tehnyt mitään väärää.

Supermarkettien lupaus käyttää teknologiaa vastuullisesti ei muuta taustalla olevaa tarkkuusongelmaa. Yrityksen sitoumus välttää väärinkäyttöä on poliittinen lupaus, ei tekninen korjaus. Algoritmi tekee edelleen samat tilastolliset virheet riippumatta siitä, kuinka huolellisesti yritys sanoo säätelevänsä sen käyttöä. Tämä on juuri se kuilu, jota sarjakuva pilkkaa: epätäydellisen työkalun ja sen myynnissä käytetyn itsevarman kielen välinen ristiriita, kun sitä markkinoidaan ratkaisuna.

Data on jossain, ja sekin on riski

Väärin tunnistamisen lisäksi on toinen huolen taso, joka jää usein vähemmälle huomiolle: mihin biometrinen data päätyy, kun se on kerätty. Kasvojentunnistusjärjestelmät edellyttävät kasvomallien, kuvien tai osumalokien tallentamista, ja mikä tahansa tällainen tietokanta muuttuu kohteeksi. Vähittäiskauppiaat eivät perinteisesti ole turvallisuuskeskeisiä organisaatioita samalla tavalla kuin pankit tai teleoperaattorit, ja laajempi yritysten haavoittuvuuden kaava on syytä pitää mielessä. Raportointi kyberhyökkäysten kohteeksi joutuneista brittiläisistä valmistajista osoitti, että suuri osa teollisuusyrityksistä joutui tietomurron kohteeksi viime vuonna, kun monet olivat silti valmistautumattomia. Tämä muistuttaa siitä, että perinteisen teknologian ulkopuoliset sektorit ovat usein aliresursoituja nykyään hallussaan olevan datan turvallisuusvaatimuksiin. Supermarketketju, joka tallentaa biometrisiä malleja miljoonista asiakkaista, ottaa vastaavanlaisen altistuksen riippumatta siitä, onko sillä siihen sopivaa infrastruktuuria.

On myös huomionarvoinen kaava siinä, miten varmennusteknologiaa otetaan käyttöön itsevarmoin lupauksin, jotka eivät aina kestä tarkastelua. Sääntelyviranomaiset ovat nostaneet samanlaisia kysymyksiä muuallakin, kuten silloin, kun Ofcom avasi tutkinnan TikTokin ikävarmennusjärjestelmistä huolien jälkeen siitä, että tarkistukset eivät toimineet kuten mainostettiin. Kasvojentunnistus vähittäiskaupassa noudattaa samanlaista kaavaa: teknologia esitellään ratkaisuna todelliseen ongelmaan, mukana vakuutuksia vastuullisesta käytöstä, kun taas tarkkuuteen ja valvontaan liittyvät kysymykset jäävät suurelta osin ratkaisematta.

Mitä tämä tarkoittaa sinulle

Jos asioit kaupassa, joka käyttää kasvojentunnistusta, kasvosi skannataan ja mahdollisesti verrataan tietokantaan joka kerta, kun astut sisään, riippumatta siitä, oletko koskaan tehnyt mitään väärää. Sinulle ei todennäköisesti kerrota, mitä järjestelmää käytetään, kuinka kauan tietojasi säilytetään tai mitä muutoksenhakukeinoja on olemassa, jos sinut merkitään virheellisesti. Yritysten lupaukset vastuullisesta käytöstä eivät ole täytäntöönpanokelpoisia takuita, eivätkä ne ratkaise teknologiaan itseensä sisäänrakennettuja algoritmisten tarkkuuden ongelmia.

Tämä ei tarkoita, että jokainen kasvojentunnistuksen käyttö olisi pahantahtoista tai että jokainen asiakas olisi merkittävässä riskissä. Mutta se tarkoittaa, että todistustaakan tulisi olla teknologiaa käyttävillä yrityksillä, ei heidän kameroittensa ohi kävelevillä asiakkailla. Luottamus mihin tahansa järjestelmään, joka käsittelee arkaluonteista henkilödataa, oli se sitten biometristä tai muuta, tulisi perustua todennettaviin käytäntöihin eikä rauhoittaviin lausuntoihin. Tämä on sama standardi, jota kannattaa soveltaa mihin tahansa palveluun, joka käsittelee dataasi, mukaan lukien riippumattomasti auditoituihin turvallisuuskäytäntöihin perustuvat palvelut todennettujen hyvän käytöksen väitteiden sijaan.

Vinkkejä asiakkaille

Kiinnitä huomiota kauppojen sisäänkäyntien kyltteihin, joissa mainitaan valvonnan tai kasvojentunnistusteknologian käyttö, ja älä epäröi kysyä henkilökunnalta tai yrityksen asiakaspalvelusta, mitä tietoja kerätään ja kuinka kauan niitä säilytetään. Jos uskot, että sinut on tunnistettu väärin, pyydä muodollista uudelleenarviointia äläkä tyydy paikan päällä tehtyyn päätökseen. Ja laajemmin ottaen pidä mielessä, että yrityksen lupaus käyttää kasvojentunnistusteknologiaa vastuullisesti ei ole sama asia kuin todiste siitä, että järjestelmä toimii oikeudenmukaisesti. Kun tämä teknologia leviää yhä useampiin arkipäivän tiloihin, supermarketeista julkiseen liikenteeseen, satiirisen sarjakuvan herättämät kysymykset kannattaa ottaa yhtä vakavasti kuin mikä tahansa muodollinen poliittinen keskustelu.