Isoon-Britannian poliisin valvontaelin on varoittanut, että kasvojentunnistuksen virheet voivat saattaa etniset vähemmistöt vaaraan joutua virheellisesti pidätetyiksi. The Guardianin mukaan tarkastajat havaitsivat, että jotkut poliisit toimivat takautuvien kasvojentunnistushakujen mahdollisten osumien perusteella tekemättä riittäviä lisätarkistuksia. Havainto vahvistaa kasvavaa huolta kasvojentunnistuksen virheellisistä pidätyksistä Isossa-Britanniassa ja nostaa esiin käytännön kysymyksen: mikä suojaa henkilöä, kun ohjelmisto osoittaa väärää kasvoa?

Lähdeartikkeli on lyhyt, joten tämä kirjoitus pitäytyy siinä, mitä on raportoitu, ja selittää laajempaa kontekstia huolellisesti.

Mitä tarkastajat havaitsivat takautuvasta kasvojentunnistuksesta

Takautuva kasvojentunnistus eroaa reaaliaikaisista järjestelmistä, jotka skannaavat kasvoja reaaliajassa ihmisten kulkiessa kameran ohi. Takautuvassa haussa poliisi ottaa kuvan kiinnostuksen kohteena olevasta henkilöstä, kuten still-kuvan valvontakamerasta, ja vertaa sitä kuvatietokantaan mahdollisten osumien tuottamiseksi.

Avainsana on "mahdollinen". Ohjelmiston tuottama osuma on johtolanka, ei tunnistus. The Guardianin raportoinnin mukaan tarkastajat havaitsivat, että jotkut poliisit kohtelivat näitä tuloksia perusteena toimia suorittamatta riittäviä lisätarkistuksia. Käytännössä tämä tarkoittaa, että mahdolliselle osumalle on saatettu antaa enemmän painoarvoa kuin se ansaitsi ennen pidätystä.

Kyse on prosessiongelmasta yhtä lailla kuin teknologiangelmasta. Hyvinkin suoriutuva algoritmi tuottaa vääriä osumia, joten ihmisten tekemät tarkistukset ovat tärkein suojakeino virheitä vastaan.

Miksi etniset vähemmistöt kohtaavat suuremman riskin osumavirheistä

Valvontaelimen varoitus korostaa erityisesti etnisten vähemmistöjen riskiä. Huoli on siitä, että osumavirheet eivät jakaudu tasaisesti väestön kesken. Jos järjestelmä tuottaa todennäköisemmin vääriä osumia joillekin ryhmille, näillä ryhmillä on suurempi todennäköisyys tulla virheellisesti merkityksi epäillyksi.

Yhdistettynä riittämättömään tarkistukseen riski moninkertaistuu. Asianmukaisesti tutkittu väärä osuma havaitaan varhain. Sellaisenaan hyväksytty väärä osuma voi johtaa pysäytykseen, pidätykseen tai pahempaan. Valvontaelimen huoli koskee yhdistelmää: virhealtis tunnistus ja heikko varmennus.

Tästä syystä myös haun suorittamisen ja tarkastelun yksityiskohdat ovat tärkeitä. Kuka tutkii ehdokasluettelon, mitä muuta näyttöä vaaditaan ja miten erimielisyydet käsitellään – kaikki nämä vaikuttavat siihen, tavoittaako virhe todellisen henkilön.

Missä Ison-Britannian suojakeinot ja oikeussäännöt jäävät vajaiksi

Tarkastajien havainnot viittaavat siihen, että suojakeinoja on olemassa paperilla, mutta niitä ei aina sovelleta johdonmukaisesti käytännössä. Tämä puute on osasyy siihen, miksi hallitus on tarkastellut sääntöjä. Käsittelimme sen suunnitelmaa kiristää lainsäädäntökehystä jutussamme Ison-Britannian poliisin kasvojentunnistussäännöistä Oxford Streetin kameroiden innoittamina, ja valvontaelimen havainnot vahvistavat tarvetta selkeämmille ja täytäntöönpanokelpoisille standardeille sekä takautuvissa että reaaliaikaisissa hauissa.

Dokumentaatio on yksi paikka, josta voi etsiä tietoa siitä, miten suojakeinojen on tarkoitus toimia. Sisäministeriö on julkaissut tietosuoja-arvioinnin maahanmuuttoviranomaisten reaaliaikaisesta kasvojentunnistuksesta, jonka tiivistimme jutussamme Sisäministeriön LFR-tietosuoja-arvioinnista. Tällaisten asiakirjojen lukeminen osoittaa, mitä riskejä viranomaiset myöntävät ja mitä lieventäviä toimia ne lupaavat. Testi on siinä, noudatetaanko näitä lupauksia käytännössä – ja juuri sitä tämänkaltaiset tarkastukset tutkivat.

On myös syytä huomata, että kasvojentunnistus ei rajoitu poliisiin. Myös vähittäiskauppiaat käyttävät sitä, ja samat kysymykset tarkkuudesta ja oikeussuojakeinoista pätevät. Käsittelymme Facewatch-hälytyksistä ja Ison-Britannian ostajista valottaa tätä puolta.

Mitkä ovat oikeutesi, jos sinut tunnistetaan väärin

Lähdeartikkeli ei esitä yksilöllisiä oikeussuojakeinoja, joten seuraava on yleistä ohjeistusta eikä oikeudellista neuvontaa.

  • Kysy, mikä on peruste. Jos sinut pysäytetään tai pidätetään, voit kysyä miksi. Jos kasvojentunnistus oli mukana, kysy, yhdistääkö mikään muu näyttö sinut tapahtumaan.
  • Pyydä tietojasi. Ison-Britannian tietosuojalain nojalla voit yleensä tehdä tietojensaantipyynnön nähdäksesi henkilötiedot, joita organisaatiolla on sinusta, vaikka poliisi voi joskus soveltaa poikkeuksia.
  • Pidä kirjaa. Merkitse muistiin päivämäärät, kellonajat, paikat sekä osallisten poliisien nimet tai numerot.
  • Hae neuvoja. Asianajaja tai kansalaisvapauksiin erikoistunut järjestö voi selittää vaihtoehtosi valitusten tai haasteiden osalta.
  • Kanna. Voit tehdä valituksen kyseessä olevalle poliisilaitokselle ja valittaa eteenpäin, jos et ole tyytyväinen.

Vähittäiskaupan osalta oppaamme vähittäiskaupan tietosuojaoikeuksistasi Facewatch-skannausten yhteydessä kertoo, miten merkinnän voi kyseenalaistaa ja haastaa.

Mitä tämä tarkoittaa sinulle

Useimmat ihmiset eivät koskaan tule virheellisesti yhdistetyiksi, mutta riski ei jakaudu tasaisesti, ja valvontaelimen varoitus muistuttaa, että ohjelmiston tulos on yhtä luotettava kuin sen taustalla olevat tarkistukset. VPN ei piilota kasvojasi kadun kamerolta, joten todelliset suojakeinot ovat tässä oikeudellisia ja menettelyllisiä: valvonta, avoimuus ja oikeus haastaa virheet.

Jos olet huolissasi, seuraa sääntöjen kehitystä. Kiinnitä huomiota siihen, asettaako uusi lainsäädäntö selkeät vaatimukset ihmisen tekemälle varmennukselle ennen kuin osuman perusteella toimitaan, ja jatkuuko riippumaton tarkastus.

Keskeiset huomiot

Kasvojentunnistuksen virheellisten pidätysten riski Isossa-Britanniassa riippuu siitä, pysyykö varmennus teknologian tahdissa. Siihen asti oikeuksiesi tunteminen on paras käytännön suojasi.