Oikeudellinen haaste tekoälyavusteiselle poliisivalvonnalle

Digitaalisten oikeuksien aktivistit ja opiskelijajohtajat Intiassa ovat vieneet pääministeri Narendra Modin hallituksen oikeuteen sen tekoälyn käytöstä nuorten mielenosoitusten valvonnassa New Delhissä. Opiskelija-aktivisti Aishe Ghosh jätti Delhi High Courtiin vetoomuksen, jossa tuomareita pyydetään toteamaan, että poliisin massamainen, tekoälyyn perustuva mielenosoittajien valvonta on perustuslain vastaista.

Vetoomus keskittyy raportteihin, joiden mukaan Delhin poliisi käytti kasvojentunnistusteknologiaa, mukaan lukien erityisiä valvonta-autoja, jotka oli varustettu tekoälykameroilla mielenosoituspaikoilla. Tapauksen kuvausten mukaan tätä teknologiaa käytettiin tunnistamaan ja seuraamaan henkilöitä, jotka osallistuivat yhteen kaupungin suurimmista nuorisomielenosoituksista viime vuosina. Vetoomuksessa todetaan, että mielenosoittajien kasvojen skannaaminen ilman heidän tietoaan tai suostumustaan ja näiden tietojen käyttäminen osallistujaprofiilien rakentamiseen ylittää sen oikeudellisen rajan, joka suojelee kansalaisia perusteettomalta valtion puuttumiselta.

Tämä tapaus rakentuu suoraan aiemmalle oikeusjutulle, jota käsittelimme raportissa vetoomuksesta, joka haastaa mielenosoittajien tekoälyvalvonnan ja jossa pyydettiin tuomioistuinta toteamaan, että mielenosoittajien joukkovalvonta rikkoo perustuslain suojia. Yhdessä nämä oikeustoimet edustavat tähän mennessä yhtä suorimmista haasteista sille, miten Intian viranomaiset käyttävät tekoälytyökaluja poliittisen toisinajattelun valvontaan.

Miksi kasvojentunnistus mielenosoituksissa aiheuttaa huolta

Kasvojentunnistus ja tekoälyavusteinen valvonta eivät ole uusia työkaluja lainvalvontaviranomaisille, mutta niiden käyttö poliittisissa mielenosoituksissa sisältää selkeitä riskejä. Kun kamerat tallentavat ja tunnistavat kaikkien väkijoukossa olevien kasvot, mukaan lukien henkilöt, jotka eivät ole tehneet mitään rikosta ja jotka vain käyttävät kokoontumisoikeuttaan, teknologia luo käytännössä pysyvän rekisterin poliittisesta osallistumisesta.

Vetoomusta tukevat kansalaisvapauksien puolestapuhujat väittävät, että tällainen laajamittainen verkkoseuranta voi jäytää sananvapautta. Ihmiset saattavat miettiä kahdesti, osallistuvatko mielenosoitukseen, mielenilmaukseen tai edes julkiseen kokoukseen, jos he uskovat, että heidän läsnäolonsa kirjataan, yhdistetään tietokantaan ja mahdollisesti käytetään heitä vastaan myöhemmin. Vetoomus esittää tämän keskeisenä yksityisyydensuojaan ja perustuslakiin liittyvänä kysymyksenä eikä pelkkänä kapeana teknisenä kiistana yhdestä valvontatyökalusta.

Tapaus korostaa myös laajempaa jännitettä, joka on käynnissä demokratioissa ympäri maailmaa: hallituksilla on yhä useammin käytössään tehokkaita tunnistusteknologioita, kun taas niiden käyttöä säätelevät oikeudelliset puitteet laahaavat usein pahasti perässä. Intiassa, kuten monissa muissakin maissa, ei vielä ole kattavaa lainsäädäntöä, jossa erikseen käsiteltäisiin sitä, miten poliisi voi käyttää kasvojentunnistusta julkisten mielenosoitusten aikana, minkä vuoksi aktivistit kääntyvätkin tuomioistuinten puoleen rajojen asettamiseksi.

Mitä oikeusjutun lopputulos voi merkitä jatkossa

Delhi High Courtin lopullinen päätös voi luoda tärkeän ennakkotapauksen, ei ainoastaan Intialle, vaan myös sille, miten muut hallitukset perustelevat vastaavia valvontatyökaluja. Jos tuomioistuin asettuu Ghoshin ja muiden vetoomuksen tekijöiden puolelle, se voi pakottaa Delhin poliisin ja muut lainvalvontaviranomaiset supistamaan tai lisäämään tiukempaa valvontaa tekoälyvalvonnan käytölle julkisissa kokoontumisissa. Jos tuomioistuin ratkaisee asian hallituksen eduksi, se saattaa tosiasiassa hyväksyä laajat valvontavaltuudet mielenosoitusten aikana – päätöksen, johon muut lainkäyttöalueet voisivat vedota perustellakseen omia tekoälyyn perustuvia poliisitoimintaohjelmiaan.

Digitaalisten oikeuksien järjestöt ympäri maailmaa seuraavat todennäköisesti tarkasti kumpaakin lopputulosta, kun otetaan huomioon, kuinka monet hallitukset kokeilevat kasvojentunnistusta, ennakoivaa poliisitoimintaa ja muita tekoälyyn perustuvia valvontajärjestelmiä julkisissa tiloissa.

Mitä tämä tarkoittaa sinulle

Vaikka tämä tapaus on käynnissä Intiassa, taustalla olevat kysymykset koskettavat kaikkia, joita huolestuttaa yksityisyydensuoja julkisissa tiloissa missä päin maailmaa tahansa. Tekoälypohjaisia valvontatyökaluja, kuten kasvojentunnistuskameroita, otetaan käyttöön poliisilaitoksissa ja kaupunginhallinnoissa maailmanlaajuisesti, usein ilman laajaa julkista keskustelua siitä, mihin rajat tulisi vetää.

Jos osallistut mielenosoituksiin, mielenilmauksiin tai muihin julkisiin tapahtumiin, on hyvä ymmärtää, että monilla lainkäyttöalueilla kuvasi voidaan laillisesti tallentaa ja yhä useammin yhdistää tietokantoihin tekoälyn avulla. Tämä ei tarkoita, että osallistumista kansalaistoimintaan tulisi välttää, mutta se tarkoittaa tietoisuutta siitä digitaalisesta jalanjäljestä, jonka julkinen toiminta voi jättää jälkeensä, ja ajan tasalla pysymistä siitä, millaista suojaa (tai suojattomuutta) asuinpaikassasi on voimassa.

Keskeiset asiat

  • Opiskelija-aktivisti Aishe Ghosh on jättänyt Delhi High Courtiin vetoomuksen, jossa vaaditaan mielenosoittajiin kohdistuvan tekoälypohjaisen poliisivalvonnan julistamista perustuslain vastaiseksi sen jälkeen, kun raporttien mukaan New Delhin mielenosoituksissa käytettiin kasvojentunnistusautoja.
  • Tapaus pohjautuu aiempaan oikeushaasteeseen, jossa pyydettiin tuomioistuinta toteamaan mielenosoittajien joukkovalvonta lainvastaiseksi, ja sen lopputulos saattaa muokata tekoälyyn perustuvien poliisityökalujen sääntelyä jatkossa.
  • Kasvojentunnistus mielenosoituksissa herättää huolta sananvapauden kaventumisesta, sillä osallistujat voivat pelätä tulevansa tunnistetuiksi ja jäljitetyiksi pelkästään siksi, että he käyttävät kokoontumisoikeuttaan.
  • Digitaalisten oikeuksien puolestapuhujat ympäri maailmaa seuraavat todennäköisesti tuomion tarkasti, sillä hallitukset kaikkialla pohtivat, miten tekoälyvalvontaa julkisissa tiloissa tulisi säännellä.
  • Pysyminen ajan tasalla paikallisista valvontalaista ja digitaalisesta yksityisyydensuojasta on yksi konkreettinen askel, jonka yksilöt voivat ottaa näiden teknologioiden yleistyessä.