Нова програма стеження Meta порушує серйозні питання щодо конфіденційності

За повідомленнями, Meta почала встановлювати програмне забезпечення для стеження на комп'ютери своїх американських співробітників, записуючи рухи миші, кліки та натискання клавіш. Програма, яку внутрішньо називають Model Capability Initiative (MCI), має конкретну мету: збір детальних поведінкових даних для навчання моделей ШІ, здатних автономно виконувати робочі завдання, імітуючи те, як реальні люди взаємодіють із програмним забезпеченням.

Логіка є зрозумілою з точки зору розробки ШІ. Якщо ви хочете, щоб модель орієнтувалася в комп'ютерному інтерфейсі так само, як людина, вам потрібно показати їй, як люди насправді це роблять. Це означає фіксацію кожного вагання перед кліком, кожного шляху курсору по екрану, кожної послідовності натискань клавіш у робочому процесі. Співробітники фактично стають мимовільними тренерами з ефективності для наступного покоління агентів ШІ.

Але наслідки виходять далеко за межі одного внутрішнього проєкту компанії у сфері ШІ.

Що насправді фіксує Model Capability Initiative

Відстеження натискань клавіш і рухів миші на такому рівні є значно більш інформативним, ніж може здатися на перший погляд. Це не просто журналювання того, які програми хтось відкриває або скільки годин працює. Детальні дані про введення можуть розкрити, як людина обмірковує проблему, де вона вагається, що видаляє та передруковує, і навіть емоційний стан, що виводиться з ритму набору тексту та частоти помилок.

Для співробітників це створює середовище стеження, яке є значно глибшим, ніж базовий монітор продуктивності. Зібрані дані теоретично можуть використовуватися для оцінки індивідуальної ефективності, виявлення поведінкових аномалій або прийняття рішень щодо ролей і обов'язків — навіть якщо нічого з цього не є задекларованою метою програми MCI.

Варто також зазначити, що співробітники Meta є одними з найбільш технічно підготовлених фахівців у світі. Якщо такий підхід стане нормою в компанії на кшталт Meta, прецедент, який він створює для менш технічно грамотних працівників у менших компаніях, є вельми значущим. Корпоративне впровадження програм навчання ШІ на основі поведінкових даних співробітників може стати звичайною практикою без повного розуміння працівниками того, що записується та як це може бути використано.

Ширша тенденція збору даних на робочому місці

Програма Meta виникла не на порожньому місці. Прагнення до створення агентів ШІ — систем, здатних автономно виконувати багатоетапні комп'ютерні завдання, — сформувало величезний попит на поведінкові навчальні дані в усій технологічній галузі. Компаніям потрібні приклади реального використання комп'ютерів людьми для побудови цих систем, а співробітники є зручним і доступним джерелом.

Це вписується в довгострокову тенденцію розширення контролю на робочому місці. Дистанційна робота прискорила впровадження інструментів моніторингу співробітників на початку 2020-х років, нормалізувавши ідею про те, що роботодавці мають законний інтерес у спостереженні за тим, як працівники витрачають час на корпоративній техніці. Те, що робить Meta, розширює цю логіку в нову сферу: дані призначені не стільки для вимірювання продуктивності, скільки для створення комерційного продукту ШІ.

Ця відмінність є суттєвою. Генерація співробітниками навчальних даних для продукту, який буде продаватися або розгортатися зовні, порушує питання щодо компенсації, згоди та інтелектуального внеску, які стандартні трудові угоди ніколи не були розроблені для вирішення.

Що це означає для вас

Навіть якщо ви не працюєте в Meta, ця історія стосується того, як ви думаєте про конфіденційність на роботі та поза нею.

По-перше, якщо ви працюєте в будь-якій сфері, пов'язаній з технологіями, варто перевірити, яке програмне забезпечення для моніторингу встановлено на виданих роботодавцем пристроях. Багато організацій мають широкі права на моніторинг діяльності на своєму обладнанні, але обсяг такого моніторингу не завжди чітко доводиться до відома співробітників. Звернутися до відділу кадрів або ІТ-служби з проханням надати зрозуміле пояснення того, що відстежується, — це розумний і дедалі більш необхідний крок.

По-друге, розмежування між робочими та особистими пристроями важливе як ніколи. Використання особистого ноутбука чи телефону для будь-якої діяльності, яку ви вважаєте приватною, замість виданого роботодавцем пристрою — це один із практичних способів зберегти кордон. VPN на особистому пристрої додає додатковий рівень захисту трафіку домашньої мережі, особливо якщо ви працюєте дистанційно і хочете відокремити особисту активність у браузері від усього, що може бути видно в мережевій інфраструктурі, підконтрольній роботодавцю.

По-третє, подумайте про те, які поведінкові дані ви генеруєте на будь-якій платформі, а не лише на роботі. Інстинкт, що рухає програмою MCI компанії Meta, — що детальні моделі поведінки людей мають значну комерційну цінність для розробки ШІ, — не є унікальним для робочого місця. Він відображає те, як споживчі платформи працювали роками.

Практичні рекомендації:

  • Запитайте свого роботодавця, яке програмне забезпечення для моніторингу, якщо таке є, встановлено на корпоративних пристроях
  • Ведіть особисту діяльність на особистих пристроях, а не на виданих роботодавцем
  • Використовуйте VPN на особистих пристроях під час дистанційної роботи, щоб відокремити приватний трафік від мережевої активності, видимої роботодавцю
  • Перегляньте трудові договори щодо формулювань про право власності на дані та використання для навчання ШІ
  • Слідкуйте за своїми правами відповідно до чинного законодавства штату про конфіденційність — кілька штатів США вже прийняли або розглядають засоби захисту конфіденційності на робочому місці

Model Capability Initiative компанії Meta нагадує, що межа між тим, щоб бути співробітником і бути джерелом даних, стає дедалі менш помітною. Розуміння того, де ця межа пролягає, і які інструменти існують для збереження певного контролю над власними поведінковими даними, сьогодні є практичною необхідністю, а не абстрактним занепокоєнням.