Kanadski pomak prema ograničavanju pristupa društvenim mrežama korisnicima mlađima od 16 godina potaknuo je Google i Metu da na svojim platformama uvedu AI alate za provjeru dobi. Na površini, to zvuči kao jednostavna mjera za zaštitu djece. Ispod površine, otvara teže pitanje za svakog korisnika, ne samo tinejdžere: koliko osobnih podataka ti sustavi prikupljaju i zaključuju samo da bi pogodili koliko imate godina?

Kao što smo pokrili u našem ranijem izvješću o Googleovim i Metinim AI provjerama dobi u Kanadi, savezna vlada predstavila je zakonodavstvo o digitalnoj sigurnosti s ciljem držanja djece mlađe od 16 godina podalje od platformi društvenih mreža. Kako bi se uskladile, kompanije se okreću automatiziranoj procjeni dobi umjesto da se oslanjaju isključivo na to da korisnici sami navedu svoj datum rođenja. Upravo tu na scenu stupaju zabrinutosti o privatnosti kod AI provjere dobi.

Kako zapravo funkcionira AI za procjenu dobi Googlea i Mete

Umjesto da od korisnika traže da prilože državnu osobnu iskaznicu, obje se kompanije oslanjaju na modele strojnog učenja koji analiziraju signale ponašanja i računa kako bi procijenili dob. To može uključivati način na koji se račun koristi, s kakvim sadržajem komunicira i obrasce koji se razlikuju između ponašanja odraslih i mlađih korisnika. Cilj je označiti račune koji izgledaju kao da pripadaju nekome mlađem od 16 godina kako bi se ograničenja platforme mogla primijeniti automatski, bez potrebe da svaki korisnik ručno dokazuje svoju dob.

Taj je pristup privlačan i regulatorima i kompanijama jer izbjegava trenje obveznog prilaganja dokumenata za cijelu korisničku bazu. No to također znači da točnost sustava u potpunosti ovisi o tome koliko podataka AI ima na raspolaganju i koliko dobro može interpretirati te podatke.

Koje podatke ti sustavi prikupljaju osim vašeg datuma rođenja

Osnovna napetost u raspravama o privatnosti kod AI provjere dobi jest to što procjena dobi na temelju ponašanja često zahtijeva više podataka od pukog provjeravanja polja s datumom rođenja. Umjesto jedne podatkovne točke, ti se sustavi mogu oslanjati na širu aktivnost računa i obrasce korištenja kako bi donijeli zaključak. To znači da sam proces procjene dobi može postati novi put prikupljanja podataka, koji djeluje kontinuirano u pozadini, a ne kao jednokratna provjera.

Za korisnike koji brinu o privatnosti, to je dio priče kojemu treba posvetiti više pažnje nego što je uobičajeno. Datum rođenja je statičan i ograničen. Profiliranje ponašanja je stalno i može otkriti daleko više o osobi od same njezine dobi. Kada platforme grade sustave namijenjene zaključivanju o nečemu tako osjetljivom kao što je dobna skupina korisnika, temeljni podatkovni tok često ima kapacitet zaključivati i o drugim stvarima.

Točnost, pristranost i rizici lažno pozitivnih rezultata kod algoritama za pogađanje dobi

Svaki AI sustav izgrađen za procjenu osobnog atributa iz neizravnih signala nosi rizik da će pogriješiti. Procjena dobi nije iznimka. Korisnici mogu biti pogrešno klasificirani kao mlađi ili stariji nego što doista jesu, što dovodi do primjene pogrešnih ograničenja na račune odraslih ili, obrnuto, maloljetni korisnici mogu proći neotkriveni. Budući da su ti modeli trenirani na obrascima, a ne na provjerenim činjenicama, pogreške nisu samo moguće, one su strukturna značajka načina na koji tehnologija funkcionira.

To stvara stvarnu kompromisnu situaciju. Pojačavanje algoritma kako bi se uhvatilo više maloljetnih korisnika povećava rizik lažnog označavanja odraslih. Ublažavanje kako bi se smanjili lažno pozitivni rezultati povećava rizik propuštanja maloljetnih korisnika koje je sustav trebao identificirati. Kako kanadska ograničenja društvenih mreža napreduju, ta će ravnoteža vjerojatno ostati trajni izazov, a ne riješen problem.

Kako korisnici koji brinu o privatnosti mogu ograničiti izloženost podataka provjerama dobi

Iako pojedinačni korisnici ne mogu promijeniti način na koji Google ili Meta grade svoje sustave procjene dobi, postoje koraci koji mogu smanjiti nepotrebnu izloženost podataka. Redovito pregledavanje postavki privatnosti računa dobra je početna točka, posebno postavki povezanih s praćenjem aktivnosti, personalizacijom oglasa i dijeljenjem podataka među uslugama. Ograničavanje količine podataka o ponašanju koje platforma uopće može prikupiti smanjuje sirovi materijal s kojim ti AI sustavi mogu raditi.

Korisnici koji su posebno zabrinuti zbog profiliranja također bi trebali razmotriti kako njihova šira online aktivnost, uključujući navike pregledavanja povezane s istim računima ili uređajima, može hraniti te sustave. VPN neće promijeniti način na koji interni model procjene dobi neke platforme funkcionira, ali može pomoći ograničiti količinu podataka na razini mreže, poput lokacije i signala temeljenih na IP adresi, koji se povezuju s širim digitalnim otiskom korisnika kroz različite usluge.

Što to znači za vas

Ako koristite Googleove ili Metine proizvode u Kanadi, možda ste već podvrgnuti automatiziranoj procjeni dobi bez posebnog poticaja koji od vas traži da provjerite svoju dob. To je odmak od tradicionalnog modela samoprijavljenih datuma rođenja i premješta više kontrole nad provjerom identiteta na neprozirne algoritme. Čak i ako niste maloljetni i nemate razloga za brigu oko ograničenja platforme, vrijedi razumjeti da se sustavi koji donose te odluke oslanjaju na prikupljanje podataka o ponašanju koje seže daleko izvan jednostavnog polja s dobi.

Ključni zaključci

Privatnost kod AI provjere dobi postaje sve veći problem dok vlade guraju platforme prema automatiziranoj usklađenosti umjesto ručnih provjera. Googleovo i Metino uvođenje u Kanadi pregled je onoga što bi moglo postati širi globalni trend. Pročitajte našu potpunu analizu Googleovih i Metinih AI provjera dobi u Kanadi za regulatornu pozadinu, odvojite nekoliko minuta za pregled postavki privatnosti i personalizacije oglasa na glavnim platformama i imajte na umu da alati za procjenu dobi često ovise o istim podacima o ponašanju koji pokreću ciljano oglašavanje. Informiranost o tome kako ti sustavi funkcioniraju najbolji je način da zadržite kontrolu nad onim što dijelite, bez obzira na to koliko godina algoritam misli da imate.