Prijedlog zakona izgrađen na dobrim namjerama, s problematičnom jezgrom

Zakon o sigurnosti djece na internetu (KOSA) godinama se predstavlja kao razuman odgovor na vrlo stvarne štete s kojima se tinejdžeri susreću na internetu: uznemiravanje, izloženost eksplicitnom sadržaju i ovisnost o društvenim platformama potaknuta algoritmima. Gotovo nitko ne osporava da su to legitimni problemi. No, prema nedavnoj analizi, središnji mehanizam prijedloga zakona, takozvana odredba o „dužnoj pažnji“, manje je sigurnosna mjera, a više alat za prikrivenu cenzuru, te podiže ozbiljne ustavne crvene zastavice koje Senat ne bi smio zanemariti.

Standard dužne pažnje zahtijevao bi od platformi da poduzmu „razumne mjere“ kako bi spriječile i ublažile štetu za maloljetnike od sadržaja povezanog sa stvarima poput anksioznosti, depresije, poremećaja prehrane i zlouporabe supstanci. Na papiru to zvuči zaštitnički. U praksi, kritičari tvrde, to daje vladi ogromnu diskreciju da odluči što se smatra štetnim govorom i vrši pritisak na platforme da pretjerano cenzuriraju umjesto da riskiraju odgovornost. To je srž zabrinutosti: nejasan pravni standard koji moderaciju sadržaja pretvara u vježbu usklađivanja vođenu strahom od tužbi i regulatornih kazni, a ne onim što je zapravo dobro za djecu.

Zašto dužna pažnja uvelike nalikuje cenzuri

Problem s Prvim amandmanom u vezi s KOSA-om nije hipotetski. Kada zakon zahtijeva od tvrtki da spriječe široko definirane kategorije „štete“ bez uskog definiranja što to znači, platforme su sklone odgovoriti potiskivanjem svega što bi moglo izazvati odgovornost, uključujući legitiman govor, obrazovne sadržaje i resurse koji zapravo pomažu tinejdžerima da se nose s teškim temama. To je klasični odvraćajući učinak: kada je cijena pogreške visoka, a definicija „pogreške“ nejasna, tvrtke griješe u smjeru uklanjanja više sadržaja nego što je potrebno.

Upravo zato izvorni članak opisuje KOSA-inu odredbu o dužnoj pažnji kao „bliže cenzuri nego regulaciji“. Regulacija obično postavlja jasna pravila koja tvrtke mogu slijediti. Režim cenzure, nasuprot tome, stvara otvorene obveze koje se provode nejednako i često se šire daleko izvan svoje izvorne namjene. Jednom kada se standard dužne pažnje unese u savezni zakon, malo toga sprječava da se primjenjuje šire nego što su zakonodavci izvorno obećavali – obrazac na koji su u drugim kontekstima upozoravali zagovornici privatnosti i građanskih sloboda, uključujući sveobuhvatne nadzorne ovlasti poput Odjeljka 702. FISA-e, gdje je širok zakonski jezik više puta nadživio svoje izvorno usko opravdanje.

Cijena privatnosti pri provedbi KOSA-e

Ovdje implikacije na privatnost postaju neizbježne. Kako bi se uskladile sa standardom dužne pažnje, platforme trebaju pouzdan način da znaju koji su korisnici maloljetni. To gotovo uvijek znači proširenu provjeru dobi, što pak znači prikupljanje više identifikacijskih informacija od svakog korisnika, a ne samo od tinejdžera. Provjere putem osobne iskaznice koju izdaje država, biometrijska procjena dobi ili usluge verifikacije treće strane zahtijevaju predaju osjetljivih osobnih podataka tvrtkama (ili njihovim pružateljima usluga) koje možda nemaju dobru evidenciju o njihovoj zaštiti.

Ta dinamika nije jedinstvena za KOSA-u. Ona odražava ono što smo već vidjeli sa zakonima o sadržaju na državnoj razini koji spajaju mandate za provjeru dobi s ograničenjima alata za zaobilaženje. SB 73 iz Utaha, na primjer, privukao je slične kritike jer kombinira ograničenja sadržaja s pravilima koja korisnicima otežavaju zaštitu privatnosti alatom poput VPN-ova. Kada zakonodavci sparuju nejasne obveze vezane uz sadržaj sa zahtjevima za verifikaciju, praktičan rezultat često je manje privatnosti za sve na platformi, a ne samo za maloljetnike koje zakon želi zaštititi.

U međuvremenu, savezne države također eksperimentiraju s vlastitim okvirima privatnosti koji imaju potpuno drugačiji pristup. Prijedlog zakona 71 Senata Vermonta, na primjer, usmjeren je na to da se stanovnicima da kontrola nad time kako se njihovi podaci prikupljaju i koriste, umjesto da se nalaže provjera identiteta povezana s moderacijom sadržaja. Tu suprotnost vrijedi primijetiti: zakonodavstvo koje štiti privatnost moguće je i bez izgradnje nove infrastrukture za cenzuru i nadzor.

Što to znači za vas

Ako KOSA postane zakon u sadašnjem obliku, očekujte da će sve više platformi tražiti provjeru dobi, da će se sve više odluka o moderaciji sadržaja donositi iz pravne opreznosti umjesto iz jasnih smjernica te da će potencijalno biti smanjen pristup osjetljivim, ali legitimnim informacijama za tinejdžere koji istražuju resurse o mentalnom zdravlju, seksualnosti ili zlouporabi supstanci. Za odrasle osobe to bi moglo značiti da provjere identiteta postaju rutinski dio korištenja popularnih platformi, povećavajući količinu osobnih podataka koje tvrtke drže o svima nama.

Rasprava o KOSA-i zapravo se ne vrti oko toga zaslužuju li djeca zaštitu na internetu. Radi se o tome je li nejasan, široko napisan pravni standard pravi alat za pružanje te zaštite, ili otvara vrata cenzuri i eroziji privatnosti koja će nadživjeti svoju izvornu svrhu.

Praktične preporuke

  • Pratite kako vaši senatori glasaju o KOSA-i i drugim prijedlozima zakona koji se temelje na dužnoj pažnji; ti glasovi oblikuju regulaciju interneta godinama.
  • Ako platforme uvedu nove korake za provjeru dobi, provjerite koje podatke od vas traže da podijelite i je li to zaista potrebno.
  • Podržite legislative modele koji na prvo mjesto stavljaju privatnost, poput zakona o kontroli podataka, umjesto mandata temeljenih na sadržaju koji zahtijevaju provjeru identiteta.
  • Ostanite skeptični prema svakom zakonu koji kombinira jezik „sigurnosti djece“ sa širokim, nedefiniranim provedbenim ovlastima; pitajte na koje konkretne štete cilja i koliko je usko napisan.

Zakon o sigurnosti djece na internetu možda je dobronamjeran, ali dobre namjere ne nadjačavaju ustavne i privatnosne brige. Senat ima priliku zahtijevati uži, jasniji prijedlog zakona, a čitatelji kojima je stalo i do sigurnosti djece i do digitalne privatnosti trebali bi pomno pratiti što se događa.