Kanadan siirtyminen kohti alle 16-vuotiaiden sosiaalisen median käytön rajoittamista on saanut Googlen ja Metan ottamaan käyttöön tekoälypohjaisia ikävarmennustyökaluja alustoillaan. Pinnalta katsottuna tämä kuulostaa suoraviivaiselta lastensuojelutoimenpiteeltä. Taustalla se herättää vaikeamman kysymyksen jokaiselle käyttäjälle, ei vain teini-ikäisille: kuinka paljon henkilökohtaista dataa nämä järjestelmät keräävät ja päättelevät pelkästään arvatakseen ikäsi?

Kuten aiemmassa raportissamme Googlen ja Metan tekoälypohjaisista ikätarkistuksista Kanadassa käsittelimme, liittovaltion hallitus on esitellyt digitaalisen turvallisuuden lainsäädäntöä, jonka tavoitteena on pitää alle 16-vuotiaat lapset poissa sosiaalisen median alustoilta. Noudattaakseen tätä yritykset kääntyvät automaattisen iänarvioinnin puoleen sen sijaan, että ne luottaisivat pelkästään käyttäjien itse ilmoittamaan syntymäaikaan. Tässä muutoksessa tekoälyn ikävarmennuksen yksityisyyshuolet tulevat peliin.

Miten Googlen ja Metan iänarviointitekoäly todella toimii

Sen sijaan, että käyttäjiä pyydettäisiin lataamaan virallinen henkilöllisyystodistus, molemmat yritykset nojaavat koneoppimismalleihin, jotka analysoivat käyttäytymis- ja tili-signaaleja iän arvioimiseksi. Tämä voi sisältää sen, miten tiliä käytetään, minkälaisen sisällön kanssa se vuorovaikuttaa ja malleja, jotka eroavat aikuisten ja nuorempien käyttäjien käyttäytymisen välillä. Tavoitteena on merkitä tilit, jotka vaikuttavat kuuluvan alle 16-vuotiaalle, jotta alustarajoituksia voidaan soveltaa automaattisesti ilman, että jokaisen käyttäjän tarvitsee todistaa ikäänsä manuaalisesti.

Tämä lähestymistapa on houkutteleva sekä sääntelyviranomaisille että yrityksille, koska se välttää pakollisten asiakirjalatausten aiheuttaman kitkan koko käyttäjäkunnalle. Mutta se tarkoittaa myös sitä, että järjestelmän tarkkuus riippuu täysin siitä, kuinka paljon dataa tekoälyllä on käytettävissään ja kuinka hyvin se pystyy tulkitsemaan sitä dataa.

Mitä dataa nämä järjestelmät keräävät syntymäaikasi lisäksi

Tekoälyn ikävarmennuksen yksityisyyskeskustelujen ydinjännite on se, että iän arvioiminen käyttäytymisestä vaatii usein enemmän dataa kuin pelkän syntymäaikakentän tarkistaminen. Yhden datapisteen sijaan nämä järjestelmät voivat hyödyntää laajempaa tilitoimintaa ja käyttömalleja päätelmän tekemiseen. Tämä tarkoittaa, että iänarviointiprosessista itsestään voi tulla uusi datankeruun väylä, joka toimii jatkuvasti taustalla sen sijaan, että se olisi kertaluonteinen tarkistus.

Yksityisyydestään tietoisille käyttäjille tämä on tarinan osa, joka ansaitsee enemmän huomiota kuin se yleensä saa. Syntymäaika on staattinen ja rajallinen. Käyttäytymisprofilointi on jatkuvaa ja voi paljastaa henkilöstä paljon enemmän kuin pelkän iän. Kun alustat rakentavat järjestelmiä, jotka on suunniteltu päättelemään jotain niin arkaluontoista kuin käyttäjän ikäluokka, taustalla oleva dataputki kykenee usein päättelemään myös muita asioita.

Tarkkuus, vinouma ja väärien positiivisten riskit iänarvausalgortmeissa

Jokaisessa tekoälyjärjestelmässä, joka on rakennettu arvioimaan henkilökohtaista ominaisuutta epäsuorista signaaleista, on riski mennä pieleen. Iänarviointi ei ole poikkeus. Käyttäjät voivat tulla luokitelluiksi nuoremmiksi tai vanhemmiksi kuin he todellisuudessa ovat, mikä johtaa väärien rajoitusten soveltamiseen aikuisten tileihin tai päinvastoin alaikäisten käyttäjien livahtamiseen huomaamatta. Koska nämä mallit on koulutettu malleilla todennettujen tosiasioiden sijaan, virheet eivät ole vain mahdollisia, vaan ne ovat teknologian toimintatavan rakenteellinen ominaisuus.

Tämä luo todellisen kompromissin. Algoritmin kiristäminen useampien alaikäisten käyttäjien kiinni saamiseksi lisää riskiä merkitä aikuisia virheellisesti. Sen löysentäminen väärien positiivisten vähentämiseksi lisää riskiä jättää huomaamatta ne alaikäiset käyttäjät, jotka järjestelmä rakennettiin tunnistamaan. Kun Kanadan sosiaalisen median rajoitukset etenevät, tämä tasapainottelu pysyy todennäköisesti jatkuvana haasteena ratkaistun ongelman sijaan.

Miten yksityisyydestään tietoiset käyttäjät voivat rajoittaa datan altistumista ikätarkistuksilta

Vaikka yksittäiset käyttäjät eivät voi kirjoittaa uudelleen sitä, miten Google tai Meta rakentavat iänarviointijärjestelmiään, on olemassa askelia, jotka voivat vähentää tarpeetonta datan altistumista. Tilin yksityisyysasetusten säännöllinen tarkistaminen on hyvä lähtökohta, erityisesti toiminnan seurantaan, mainosten personointiin ja palveluiden väliseen datan jakamiseen liittyvät asetukset. Sen rajoittaminen, kuinka paljon käyttäytymisdataa alusta voi kerätä alun perin, vähentää raaka-ainetta, jota näillä tekoälyjärjestelmillä on käytettävissään.

Käyttäjien, jotka ovat erityisen huolissaan profiloinnista, tulisi myös harkita, miten heidän laajempi verkkotoimintansa, mukaan lukien samoihin tileihin tai laitteisiin sidotut selailutottumukset, voivat syöttää näihin järjestelmiin. VPN ei muuta sitä, miten alustan sisäinen iänarviointimalli toimii, mutta se voi auttaa rajoittamaan verkkotason datan määrää, kuten sijaintiin ja IP-pohjaisiin signaaleihin, jotka yhdistetään käyttäjän laajempaan digitaaliseen jalanjälkeen eri palveluissa.

Mitä tämä tarkoittaa sinulle

Jos käytät Googlen tai Metan tuotteita Kanadassa, saatat jo olla automaattisen iänarvioinnin kohteena ilman erityistä kehotetta, joka pyytäisi sinua varmentamaan ikäsi. Tämä poikkeaa perinteisestä itse ilmoitettujen syntymäaikojen mallista, ja se siirtää enemmän hallintaa henkilöllisyyden varmentamisesta läpinäkymättömille algoritmeille. Vaikka et olisi alaikäinen eikä sinulla olisi mitään huolta alustarajoituksiin liittyen, on syytä ymmärtää, että nämä päätökset tekevät järjestelmät nojaavat käyttäytymisdatan keräämiseen, joka ulottuu paljon pidemmälle kuin pelkkä ikäkenttä.

Keskeiset huomiot

Tekoälyn ikävarmennuksen yksityisyydestä on tulossa suurempi kysymys, kun hallitukset työntävät alustoja kohti automatisoitua vaatimustenmukaisuutta manuaalisten tarkistusten sijaan. Googlen ja Metan käyttöönotto Kanadassa on esikatselu siitä, mikä voi muodostua laajemmaksi maailmanlaajuiseksi trendiksi. Lue täydellinen erittelymme Googlen ja Metan tekoälypohjaisista ikätarkistuksista Kanadassa saadaksesi sääntelytaustan, käytä muutama minuutti yksityisyys- ja mainosten personointiasetustesi tarkistamiseen suurilla alustoilla ja pidä mielessäsi, että iänarviointityökalut riippuvat usein samasta käyttäytymisdatasta, joka pyörittää kohdennettua mainontaa. Perehtyneisyys siihen, miten nämä järjestelmät toimivat, on paras tapa pitää hallinta siitä, mitä jaat, riippumatta siitä, kuinka vanhaksi algoritmi sinut arvioi.