Väärä pidätys koneen arvauksen perusteella

Tennesseeläinen isoäiti haastaa oikeuteen 10 miljoonasta dollarista sen jälkeen, kun hänen mukaansa väitetty tekoälyn kasvojentunnistusosuma johti siihen, että häntä syytettiin virheellisesti pankkiryöstörikoksista Pohjois-Dakotassa ja hänet pidettiin kuusi kuukautta. Tapaus, josta ABC News uutisoi ensimmäisenä, nostaa esiin teräviä kysymyksiä siitä, kuinka paljon luottamusta poliisilaitosten tulisi asettaa automatisoituihin tunnistustyökaluihin, kun virheen seuraukset voivat tarkoittaa kuukausien vankeutta viattomalle henkilölle.

Raportin mukaan nainen yhdistettiin pankkipetosrikoksiin, joita hän sanoo ei tehneensä, sen jälkeen kun kasvojentunnistusohjelmisto yhdisti hänen kuvansa valvontamateriaaliin. Hän vietti puoli vuotta pidätettynä ennen kuin häntä vastaan nostettu syyte romahti, ja hän pyrkii nyt oikeusjutulla vaatimaan 10 miljoonaa dollaria vahingonkorvauksia koettelemuksesta.

Miten kasvojentunnistusvirheet tapahtuvat

Kasvojentunnistusjärjestelmät toimivat vertaamalla valokuvaa tai videokehystä kuvatietokantaan ja tuottamalla todennäköisyyspisteet osumalle. Tämä pistemäärä on tilastollinen arvio, ei varmuus. Kun tutkijat tai syyttäjät kohtelevat algoritmin tuotosta lopullisena todisteena eivätkä yhtenä johtolankana muiden joukossa, virheellisen syytöksen riski kasvaa jyrkästi.

Näillä järjestelmillä on dokumentoituja tarkkuuspuutteita, jotka riippuvat kuvan laadusta, valaistuksesta, kamerakulmasta ja niiden rakentamiseen käytetyn koulutusdatan demografisesta koostumuksesta. Rakeinen valvontakuva, osittainen profiilikuva tai epätavallinen ilme voivat kaikki työntää algoritmin kohti väärää positiivista tulosta. Kun tästä puutteellisesta osumasta tulee pidätysmääräyksen perusta, todistustaakka viattomuuden osoittamisesta siirtyy virheellisesti syytetylle henkilölle, usein elämää muuttavin seurauksin, kuten tässä tapauksessa kuvatut kuusi kuukautta kestänyt pidätys.

Yksityisyyden ja kansalaisvapauksien panokset

Tämä kanne on osa laajempaa huolten kaavaa siitä, miten lainvalvontaviranomaiset ottavat kasvojentunnistuksen käyttöön ilman johdonmukaisia kansallisia standardeja, valvontaa tai avoimuusvaatimuksia. Toisin kuin sormenjälki- tai DNA-osuma, joka tyypillisesti käy läpi tiukan oikeuslääketieteellisen validoinnin ennen tuomioistuimessa käyttöä, kasvojentunnistuksen tulokset voidaan tuottaa välittömästi ja niitä voidaan soveltaa paljon vähemmällä tarkastelulla kentällä.

Taustalla oleva ongelma on data ja suostumus. Useimmat ihmiset, joiden kasvot päätyvät näihin tunnistusjärjestelmiin, eivät ole koskaan suostuneet siihen, että heidän kuviaan käytetään tällä tavalla. Ajokorttitietokannoista, sosiaalisesta mediasta tai julkisista valvontakameroista poimitut valokuvat voivat kaikki päätyä tunnistustyökaluihin ilman yksilön tietämystä. Kun algoritmi epäonnistuu, vahingoittunut henkilö ei usein tiedä biometristen tietojensa olleen edes osa prosessia ennen kuin hän jo kohtaa rikossyytteitä.

Tämä avoimuuden puute heijastaa keskusteluja, joita käydään muilla digitaalipolitiikan alueilla, joissa ydin kysymys on, kuka hallitsee henkilökohtaisen datan virtaa ja millä säännöillä. Aivan kuten verkkoneutraliteettia koskevat keskustelut keskittyvät varmistamaan verkkojen kautta kulkevan tiedon oikeudenmukaisen ja tasapuolisen kohtelun, kasvojentunnistuskeskustelu keskittyy varmistamaan lainvalvontajärjestelmien kautta kulkevan henkilökohtaisen biometrisen datan oikeudenmukaisen ja vastuullisen kohtelun.

Mitä tämä tarkoittaa sinulle

Useimmat ihmiset eivät koskaan kohtaa kasvojentunnistukseen liittyvää virheellistä pidätystä, mutta tämä tapaus muistuttaa, että yhtä tarkoitusta varten kerätty biometrinen data voi päätyä käyttöön tavoilla, joita yksilöt eivät ole koskaan odottaneet tai joihin he eivät ole suostuneet. Kasvojasi, toisin kuin salasanaa, ei voi vaihtaa, jos puutteellinen järjestelmä käyttää niitä väärin tai yhdistää ne virheellisesti.

Jos asut tai työskentelet alueella, jossa poliisilaitokset käyttävät kasvojentunnistusteknologiaa, kannattaa ymmärtää, mitkä paikalliset käytännöt, jos mitkään, säätelevät tätä käyttöä. Jotkin lainkäyttöalueet vaativat ihmisen tarkistuksen ennen kuin algoritminen osuma voi johtaa pidätykseen, kun taas toiset eivät. Tietäminen, ovatko nämä suojatoimet olemassa yhteisössäsi, voi auttaa sinua vaatimaan vahvempia suojia, jos ne puuttuvat.

Henkilöille, jotka ovat huolissaan omasta biometrisestä jalanjäljestään, käytännöllisiä askelia ovat sosiaalisen median alustojen tietosuoja-asetusten tarkistaminen, sen ymmärtäminen, mitkä hallituksen tietokannat tallentavat valokuvasi, ja pysyminen tietoisena paikallisesta ja osavaltiotason lainsäädännöstä koskien kasvojentunnistusta. Edunvalvontaryhmät ja lainsäätäjät useissa osavaltioissa ovat jo vaatineet rajoituksia tai kieltoja poliisin teknologian käytölle, ja julkinen paine on historiallisesti ollut ratkaiseva tekijä näissä politiikkamuutoksissa.

Suurempi kuva

Tämä 10 miljoonan dollarin kanne todennäköisesti herättää jatkuvaa huomiota edetessään oikeusjärjestelmässä, ja se lisää kasvavaa joukkoa tapauksia, jotka haastavat tekoälyn kasvojentunnistustyökalujen käytön rikostutkinnassa. Riippumatta lopputuloksesta, tapaus korostaa yksinkertaista totuutta: teknologia, jota markkinoidaan tutkinnan oikotienä, kantaa todellisia inhimillisiä kustannuksia, kun se epäonnistuu, ja nämä kustannukset langetuvat raskaimmin ihmisille, jotka ovat heikoimmin varustautuneita taistelemaan vastaan.

Kun kasvojentunnistustyökalut yleistyvät poliisitoiminnassa, tietoisena pysyminen siitä, miten nämä järjestelmät toimivat, missä biometrisi dataa säilytetään ja mitä suojia alueellasi on olemassa, on yksi käytännöllisimmistä tavoista suojautua joutumasta seuraavaksi varoittavaksi otsikoksi.