Metain novi program nadzora postavlja ozbiljna pitanja o privatnosti

Meta je navodno počela instalirati softver za praćenje na računalima svojih zaposlenika u SAD-u, bilježeći pokrete miša, klikove i pritiske tipki. Program, interno nazvan Model Capability Initiative (MCI), ima određenu svrhu: prikupljanje detaljnih podataka o ponašanju radi treniranja AI modela koji mogu autonomno obavljati radne zadatke oponašajući način na koji stvarni ljudi komuniciraju sa softverom.

Logika je s gledišta razvoja AI-a jednostavna. Ako želite da model navigira računalnim sučeljem na način na koji to čini osoba, morate mu pokazati točno kako ljudi zapravo navigiraju. To znači bilježiti svaki trenutak oklijevanja prije klika, svaki put kursora po zaslonu, svaki niz pritisaka tipki u tijeku rada. Zaposlenici na taj način postaju, u biti, nesvjesni treneri uspješnosti za sljedeću generaciju AI agenata.

No posljedice sežu daleko izvan internog AI projekta jedne tvrtke.

Što zapravo bilježi Model Capability Initiative

Praćenje pritisaka tipki i miša na ovoj razini mnogo je otkrivajuće nego što se u početku može činiti. Ovo nije samo bilježenje aplikacija koje netko otvara ili koliko sati radi. Detaljni ulazni podaci mogu otkriti kako osoba promišlja problem, gdje oklijeva, što briše i ponovo upisuje, pa čak i emocionalna stanja zaključena iz ritma tipkanja i stope grešaka.

Za zaposlenike to stvara okruženje nadzora koje ide znatno dublje od osnovnog monitora produktivnosti. Prikupljeni podaci mogli bi se teorijski koristiti za procjenu individualne uspješnosti, identificiranje anomalija u ponašanju ili donošenje odluka o ulogama i odgovornostima — čak i ako ništa od toga nije navedena namjera programa MCI.

Zaposlenici u Meti su također, valja napomenuti, tehnički najsofisticiraniji radnici bilo gdje. Ako se ovakav pristup normalizira u tvrtki poput Mete, presedan koji se time postavlja za manje tehnički pismenu radnu snagu u manjim tvrtkama je značajan. Korporativno usvajanje programa za treniranje AI-a izgrađenih na podacima o ponašanju zaposlenika moglo bi postati rutinsko, a da radnici u potpunosti ne razumiju što se bilježi ili kako bi se to moglo koristiti.

Širi trend prikupljanja podataka na radnom mjestu

Metain program nije nastao u vakuumu. Težnja prema AI agentima — sustavima sposobnim za autonomno obavljanje višestupanjskih računalnih zadataka — stvorila je enormnu potražnju za podacima o ponašanju za treniranje diljem tehnološke industrije. Tvrtkama trebaju primjeri stvarnog korištenja računala od strane ljudi kako bi izgradile te sustave, a zaposlenici predstavljaju prikladni, captivni izvor.

To se uklapa u duži trend širenja nadzora na radnom mjestu. Rad na daljinu ubrzao je usvajanje alata za praćenje zaposlenika početkom 2020-ih, normalizirajući ideju da poslodavci imaju legitimne interese u promatranju kako radnici provode vrijeme na hardveru tvrtke. Ono što Meta čini proširuje tu logiku na novo područje: podaci se primarno ne odnose na mjerenje produktivnosti. Radi se o izgradnji komercijalnog AI proizvoda.

Ta distinkcija je važna. Zaposlenici koji generiraju podatke za treniranje proizvoda koji će se prodavati ili koristiti izvana postavljaju pitanja o naknadi, pristanku i intelektualnom doprinosu koja standardni ugovori o zaposlenju nikada nisu bili osmišljeni da rješavaju.

Što to znači za vas

Čak i ako ne radite u Meti, ova priča je relevantna za način na koji razmišljate o privatnosti na poslu i šire.

Prvo, ako radite u bilo kojoj ulozi koja je bliska tehnologiji, vrijedi provjeriti koji je softver za praćenje vaš poslodavac instalirao na uređaje koje je tvrtka izdala. Mnoge organizacije imaju široka prava na nadzor aktivnosti na hardveru koji posjeduju, ali opseg tog nadzora nije uvijek jasno priopćen zaposlenicima. Pitanje HR-a ili IT-a za jasno objašnjenje što se prati razuman je i sve nužniji korak.

Drugo, odvajanje radnih uređaja od osobnih uređaja važnije je nego ikad. Korištenje osobnog laptopa ili telefona za bilo kakvu aktivnost koju smatrate privatnom, umjesto uređaja koji je izdala tvrtka, jedan je praktičan način za održavanje granice. VPN na vašem osobnom uređaju dodaje dodatni sloj zaštite za promet vaše kućne mreže, posebno ako radite na daljinu i želite odvojiti osobno pregledavanje od svega što bi moglo biti vidljivo infrastrukturi mreže pod kontrolom poslodavca.

Treće, razmislite koje podatke o ponašanju generira na bilo kojoj platformi — ne samo na poslu. Instinkt koji pokreće Metin program MCI, da detaljni obrasci ljudskog ponašanja imaju značajnu komercijalnu vrijednost za razvoj AI-a, nije jedinstven za radno mjesto. On odražava način na koji su potrošačke platforme funkcionirale godinama.

Konkretni zaključci:

  • Pitajte svog poslodavca koji softver za praćenje, ako postoji, je instaliran na uređajima tvrtke
  • Držite osobne aktivnosti na osobnim uređajima, a ne na hardveru koji je izdala tvrtka
  • Koristite VPN na osobnim uređajima kada radite na daljinu kako biste odvojili privatni promet od mrežnih aktivnosti vidljivih poslodavcu
  • Pregledajte ugovore o zaposlenju zbog odredbi o vlasništvu nad podacima i korištenju za treniranje AI-a
  • Budite informirani o svojim pravima prema primjenjivim državnim zakonima o privatnosti — nekoliko američkih saveznih država donijelo je ili razmatra zaštitu privatnosti na radnom mjestu

Metain Model Capability Initiative podsjetnik je da granica između toga da ste zaposlenik i da ste izvor podataka postaje sve teže vidljiva. Razumijevanje gdje ta granica leži — i koji alati postoje za održavanje određene kontrole nad vlastitim podacima o ponašanju — sada je praktična nužnost, a ne apstraktna briga.