Новата програма за наблюдение на Meta поражда сериозни въпроси за поверителността

Според съобщения Meta е започнала да инсталира софтуер за проследяване на компютрите на своите служители в САЩ, записвайки движенията на мишката, кликванията и натисканията на клавиши. Програмата, известна вътрешно като Model Capability Initiative (MCI), има конкретна цел: събиране на детайлни поведенчески данни за обучение на ИИ модели, способни автономно да изпълняват работни задачи, имитирайки начина, по който реалните хора взаимодействат със софтуера.

Логиката е ясна от гледна точка на разработката на ИИ. Ако искате даден модел да навигира в компютърен интерфейс по начина, по който го прави човек, трябва да му покажете точно как хората всъщност навигират. Това означава улавяне на всяко колебание преди кликване, всяка траектория на курсора върху екрана, всяка последователност от натискания на клавиши в рамките на даден работен процес. Служителите се превръщат, на практика, в неволни треньори по представяне за следващото поколение ИИ агенти.

Но последиците достигат далеч отвъд вътрешния ИИ проект на една компания.

Какво всъщност улавя Model Capability Initiative

Проследяването на натисканията на клавиши и движенията на мишката на това ниво е далеч по-разкриващо, отколкото може първоначално да изглежда. Това не е просто регистриране на това кои приложения отваря някой или колко часа работи. Детайлните входни данни могат да разкрият как един човек обмисля даден проблем, къде се колебае, какво изтрива и въвежда отново, и дори емоционални състояния, изведени от ритъма на писане и честотата на грешки.

За служителите това създава среда на наблюдение, която прониква значително по-дълбоко от обикновен монитор за продуктивност. Събираните данни теоретично биха могли да бъдат използвани за оценка на индивидуалното представяне, идентифициране на поведенчески аномалии или вземане на решения относно роли и отговорности — дори ако нито едно от тях не е заявената цел на програмата MCI.

Служителите на Meta са и, забележително, сред най-технически грамотните служители в света. Ако подобен подход се нормализира в компания като Meta, прецедентът, който той създава за по-малко технически грамотните работни ръце в по-малки компании, е значителен. Корпоративното приемане на програми за обучение на ИИ, изградени върху поведенчески данни на служителите, може да се превърне в рутинна практика, без работниците напълно да разбират какво се записва или как може да бъде използвано.

По-широката тенденция към събиране на данни на работното място

Програмата на Meta не се е появила в празно пространство. Стремежът към ИИ агенти — системи, способни автономно да изпълняват многоетапни компютърни задачи — е създал огромен апетит за поведенчески данни за обучение в технологичната индустрия. Компаниите се нуждаят от примери за реална употреба на компютри от хора, за да изградят тези системи, а служителите представляват удобен и постоянно достъпен източник.

Това се вписва в по-дългосрочна тенденция на разширяване на наблюдението на работното място. Дистанционната работа ускори приемането на инструменти за наблюдение на служителите в началото на 2020-те години, нормализирайки идеята, че работодателите имат законни интереси да наблюдават как работниците прекарват времето си на фирменото оборудване. Това, което прави Meta, разширява тази логика в нова територия: данните не служат предимно за измерване на продуктивността. Те служат за изграждане на търговски ИИ продукт.

Това разграничение е важно. Служителите, генериращи данни за обучение на продукт, който ще бъде продаден или внедрен външно, повдигат въпроси за компенсация, съгласие и интелектуален принос, за които стандартните трудови договори никога не са били предназначени.

Какво означава това за вас

Дори ако не работите в Meta, тази история е от значение за начина, по който мислите за поверителността на работното място и извън него.

Първо, ако работите в която и да е роля, свързана с технологиите, струва си да проверите какъв софтуер за наблюдение е инсталирал вашият работодател на фирмено предоставените устройства. Много организации имат широки права да наблюдават дейността на хардуера, който притежават, но обхватът на това наблюдение не винаги е ясно съобщен на служителите. Да поискате от HR или IT ясно обяснение на това какво се проследява е разумна и все по-необходима стъпка.

Второ, разделението между работни устройства и лични устройства е по-важно от всякога. Използването на личен лаптоп или телефон за всяка дейност, която смятате за лична — вместо фирмено предоставена машина — е един практичен начин да поддържате граница. VPN на личното ви устройство добавя допълнителен слой защита за трафика в домашната ви мрежа, особено ако работите дистанционно и искате да отделите личната си активност при сърфиране от всичко, което може да бъде видимо за мрежовата инфраструктура, контролирана от работодателя.

Трето, помислете какви поведенчески данни генерирате на всяка платформа — не само на работното място. Инстинктът, движещ програмата MCI на Meta — че детайлните модели на човешко поведение имат значителна търговска стойност за разработката на ИИ — не е уникален за работното място. Той отразява начина, по който потребителските платформи функционират от години.

Практически изводи:

  • Попитайте работодателя си какъв софтуер за наблюдение, ако има такъв, е инсталиран на фирмените устройства
  • Пазете личната си дейност на лични устройства, а не на фирмено предоставен хардуер
  • Използвайте VPN на лични устройства при дистанционна работа, за да отделите личния си трафик от мрежовата активност, видима за работодателя
  • Прегледайте трудовите си договори за клаузи относно собствеността върху данни и използването за обучение на ИИ
  • Информирайте се за правата си съгласно приложимите закони за поверителност на щатско ниво — няколко щата в САЩ са приели или разглеждат защити за поверителност на работното място

Model Capability Initiative на Meta е напомняне, че границата между това да бъдеш служител и да бъдеш източник на данни става все по-трудна за различаване. Разбирането на това къде се намира тази граница — и какви инструменти съществуват за поддържане на известен контрол върху собствените ви поведенчески данни — вече е практическа необходимост, а не абстрактна загриженост.