Reaaliaikainen kasvojentunnistuskokeilu, josta useimmat asukkaat eivät koskaan tienneet

Siitä mitä kuvataan Australian ensimmäiseksi, Länsi-Australian poliisi otti hiljaisesti käyttöön reaaliaikaiset tekoälypohjaiset kasvojentunnistuskamerat Perthissä ja Fremantlessa kesäkuusta alkaen. Yhden ainoan viikon aikana järjestelmä oli skannannut yli 130 000 kasvoa, tuottanut 33 hälytystä ja johtanut 18 pidätykseen. Poliisi kertoi myös teknologian auttaneen tunnistamaan ja tavoittamaan 21 rekisteröitynyttä seksuaalirikollista alueella.

Skannauksen laajuus on sinänsä huomattavaa, mutta eniten huomiota on herättänyt se, miten se tapahtui: kadulla liikkuneille asukkaille ei kerrottu heidän tulevan skannatuiksi. Ei ollut opastekampanjaa, ei julkista kuulemiskierrosta eikä selkeää kieltäytymismekanismia. Monille australialaisille ensimmäinen tieto ohjelmasta tuli jälkikäteen uutisoinnin kautta, ei poliisin tai paikallishallinnon ilmoituksesta.

Miksi ilmoituksen puuttuminen on merkittävää

Kasvojentunnistusjärjestelmät toimivat kuvaamalla ihmisiä julkisilla paikoilla ja vertaamalla heitä tietokantaan, usein reaaliajassa. Kun prosessi toimii ilman julkista tiedotusta, ihmiset menettävät mahdollisuuden tehdä tietoisia valintoja siitä, missä liikkuvat, keiden kanssa heidät nähdään tai miten heidän liikkeitään saatetaan kirjata ja ristiinverrata. Yksityisyyden puolestapuhujat ja oikeusasiantuntijat ovat huomauttaneet, että tämä horjuttaa valvonnan valvonnan perusperiaatetta: ihmisten tulisi yleensä tietää, milloin ja miten heitä seurataan, erityisesti viranomaisten toimesta.

Kokeilu tuotti myös ainakin yhden vahvistetun virheellisen tunnistuksen, mikä muistuttaa siitä, että jopa kehittyneet tekoälyjärjestelmät voivat tunnistaa ihmisiä väärin, joskus seurauksin, jotka vaihtelevat epämukavista vakaviin. Virhetunnistuksen riskit eivät myöskään jakaudu tasaisesti; kasvojentunnistustyökaluilla on dokumentoitu historia korkeammista virheprosenteista tietyissä väestöryhmissä, mikä herättää tasa-arvohuolia yksityisyyshuolien rinnalla.

WA:n poliisi on kehystänyt tulokset yleisen turvallisuuden voittoina: pidätyksiä, rikoksentekijöiden tunnistamisia ja hälytyksiä. Mutta yksityisyyden puolestapuhujat väittävät, että aito kustannus-hyöty-arviointi edellyttää läpinäkyvyyttä kokeilun säännöistä: kuinka kauan kuvamateriaalia ja osumatietoja säilytetään, kenellä on pääsy niihin, jaetaanko niitä muiden viranomaisten kanssa, ja mitä tapahtuu niiden kymmenien tuhansien ihmisten biometrisille tiedoille, jotka skannattiin mutta joilla ei ollut yhteyttä mihinkään tutkintaan.

Laajempi biometrisen tiedonkeruun kuvio

Tämä kokeilu ei ole olemassa tyhjiössä. Hallitukset ja yksityiset yritykset maailmanlaajuisesti turvautuvat yhä enemmän biometriseen varmennukseen, oli se sitten kasvojentunnistusta poliisitoiminnassa, biometrisiä tarkistuksia lentokentillä tai ikävarmistusjärjestelmiä, jotka skannaavat kasvot arvioidakseen käyttäjän iän ennen pääsyn myöntämistä tiettyyn sisältöön tai palveluun. Jokainen näistä järjestelmistä nostaa esiin saman ydinkysymyksen: kuinka paljon biometristä dataa minkään yksittäisen järjestelmän tulisi saada kerätä, ja kuinka kauan sitä tulisi säilyttää? Lukijat, jotka ovat uteliaita siitä, miten nämä kompromissit toimivat erilaisessa mutta liittyvässä kontekstissa, voivat tutustua siihen, miten ikävarmistuslait ympäri maailmaa jo pakottavat samankaltaisiin keskusteluihin biometrisestä skannauksesta, tiedonsäilytyksestä ja suostumuksesta, usein paljon vähemmällä julkisella tietoisuudella kuin teknologian ulottuvuus antaisi ymmärtää.

WA:n poliisin kokeilu on hyödyllinen tapaustutkimus juuri siksi, että se osoittaa, mitä tapahtuu, kun biometrinen valvonta siirtyy poliittisesta keskustelusta elävään käyttöönottoon. Teknologia toimi monissa tapauksissa tarkoitetulla tavalla, mutta selkeän julkisen tiedotuksen, riippumattoman tarkastuspolun tai muodollisten kieltäytymisvaihtoehtojen puuttuminen osoittaa, kuinka nopeasti kyvykkyys voi ohittaa valvonnan.

Mitä tämä tarkoittaa sinulle

Jos asut Perthissä tai Fremantlessa tai vierailet siellä, sinut on saatettu jo skannata tietämättäsi, ja sama dynamiikka voi levitä muihin kaupunkeihin, kun vastaavia pilottiohjelmia harkitaan muuallakin. Jopa Australian ulkopuolella tämä tapaus on esimaku siitä, mihin julkisten tilojen tekoälypohjaiset kasvojentunnistuskokeilut ovat menossa: hiljaiset käyttöönotot perusteltuina turvallisuustilastoilla, joissa yksityisyydensuojatoimet lisätään usein jälkikäteen eikä rakenneta mukaan alusta alkaen.

Et voi yleensä kieltäytyä reaaliaikaisesta julkisesta kasvojentunnistusjärjestelmästä, kun se on käytössä alueellasi, mikä on juuri se syy, miksi läpinäkyvyys ja julkinen keskustelu ovat niin tärkeitä ennen näiden järjestelmien käyttöönottoa, ei jälkeen.

Käytännön toimia

  • Tarkista, onko paikallinen poliisilaitoksesi tai kaupunginhallituksesi julkaissut tietoja mahdollisista kasvojentunnistuskokeiluista, nykyisistä tai suunnitelluista, ja etsi julkista palautekanavaa tai kuulemisprosessia.
  • Tue vaatimuksia selkeistä tiedonsäilytys- ja poistokäytännöistä aina, kun kasvojentunnistusta tai muita biometrisiä työkaluja ehdotetaan julkisiin tiloihin.
  • Vaatikaa riippumattomia tarkastuksia tarkkuudesta ja vinoumista kaikissa tekoälyvalvontajärjestelmissä ennen kuin niitä laajennetaan pilottivaiheen ulkopuolelle.
  • Pysy ajan tasalla siitä, miten yhteen tarkoitukseen, kuten poliisitoimintaan, kerättyä biometristä dataa voitaisiin myöhemmin jakaa muiden viranomaisten tai yksityisten yritysten kanssa.

Keskustelu tekoälypohjaisista kasvojentunnistuskokeiluista tulee vain voimistumaan, kun yhä useammat kaupungit testaavat vastaavia järjestelmiä. Ajan tasalla pysyminen siitä, miten näitä ohjelmia otetaan käyttöön, ja läpinäkyvyyden vaatiminen silloin, kun sitä ei ole, on yksi käytännöllisimmistä tavoista, joilla yleisö voi vaikuttaa siihen, miten tätä teknologiaa käytetään tulevaisuudessa.