Uber стикається з одним із найбільших штрафів за порушення конфіденційності, коли-небудь накладених у Європі. Нідерландський орган із захисту даних (Autoriteit Persoonsgegevens) оштрафував компанію з перевезень на €825 мільйонів, приблизно $966 мільйонів, через використання автоматизованих систем для призупинення акаунтів водіїв. Цей штраф є другим найбільшим покаранням, коли-небудь накладеним відповідно до Загального регламенту про захист даних (GDPR), що підкреслює, наскільки серйозно європейські регулятори ставляться до алгоритмічного прийняття рішень, які впливають на засоби до існування людей.

Що виявив нідерландський регулятор

Згідно з нідерландським DPA, Uber покладався на автоматизоване програмне забезпечення для позначення та призупинення акаунтів водіїв — процес, який позбавляв водіїв можливості працювати на платформі, іноді без належного перегляду людиною або чіткого шляху для оскарження рішення. Примусові заходи GDPR такого масштабу є рідкісними, і розмір цього штрафу свідчить про те, що регулятори розглядають автоматичне деактивування акаунтів як серйозну проблему захисту даних, а не просто як спір щодо обслуговування клієнтів. Як детально описано в попередньому матеріалі про штраф Uber за бан у GDPR, штраф напряму випливає з того, як алгоритми компанії обробляли персональні дані для прийняття важливих рішень щодо водіїв без достатньої прозорості чи нагляду.

Ця справа підкреслює повторювану напруженість у платформній економіці: компанії все частіше покладаються на автоматизовані системи для управління великими робочими колективами в масштабі, але ці ж системи можуть приймати рішення, що змінюють життя, наприклад відрізати людині дохід, із малою видимістю того, як або чому було прийняте рішення.

Чому автоматичні призупинення викликають перевірку GDPR

GDPR надає особам конкретні права щодо автоматизованого прийняття рішень. Відповідно до регламенту, люди загалом мають право не підлягати рішенню, заснованому виключно на автоматизованій обробці, якщо таке рішення створює юридичні наслідки або подібним чином суттєво впливає на них. Призупинення акаунта водія, а отже, і його здатності заробляти дохід, явно підпадає під цю категорію.

Регулятори послідовно виступали проти компаній, які використовують алгоритми «чорної скриньки» для прийняття таких рішень, не надаючи постраждалим особам значущої можливості для перегляду людиною або пояснення рішення. Цей штраф проти Uber вписується в ширшу картину примусових заходів GDPR, спрямованих на автоматизовані системи, яким бракує прозорості, а не на покарання за витоки даних чи хакерські атаки.

Для компанії, що працює на десятках європейських ринків, штраф такого масштабу — другий найбільший штраф за GDPR в історії — є чітким сигналом того, що органи із захисту даних готові накладати серйозні фінансові санкції, коли автоматизовані процеси порушують права осіб.

Що це означає для вас

Якщо ви працюєте водієм на платформі гіг-економіки, співпрацюєте з будь-яким сервісом, що використовує автоматизоване управління акаунтами, або просто користуєтеся застосунками, які приймають алгоритмічні рішення про вас, ця справа нагадує, що ви маєте права за законодавством про конфіденційність, коли йдеться про автоматизоване прийняття рішень. У ЄС це включає право вимагати втручання людини, висловлювати власну точку зору та оскаржувати рішення, прийняте виключно алгоритмом.

Навіть якщо ви не водій або працівник гіг-економіки, це рішення важливе, оскільки воно підтверджує, наскільки серйозно регулятори ставляться до захисту даних у контексті автоматизованих систем загалом, а не лише витоків чи хакерських атак. Компанії, які покладаються на алгоритми для управління акаунтами, членствами чи послугами, тепер стикаються з реальним фінансовим ризиком, якщо ці системи працюють без належної прозорості або людського нагляду.

Для звичайних користувачів це також слушна нагода переглянути, який контроль ви маєте над власними даними та статусом акаунта на платформах, якими регулярно користуєтеся. Розуміння процесу оскарження компанії та того, чи переглядає рішення людина, може допомогти вам уникнути подібного спору.

Ключові висновки

Штраф Uber є знаковою подією для примусового застосування GDPR і пропонує кілька практичних уроків для читачів:

  • Знайте свої права: відповідно до GDPR ви можете вимагати перегляду людиною будь-якого автоматизованого рішення, яке суттєво впливає на вас.
  • Якщо платформа призупиняє або обмежує ваш акаунт, конкретно запитайте, чи було рішення автоматизованим, і зажадайте пояснення.
  • Зберігайте записи про активність вашого акаунта та будь-яке спілкування з платформою на випадок, якщо вам доведеться оскаржувати автоматизоване рішення.
  • Слідкуйте за подальшими подіями, оскільки цей штраф може спонукати інші регулятори в Європі до перевірки подібних автоматизованих систем інших компаній.

Оскільки регулятори продовжують випробовувати межі GDPR проти потужних автоматизованих систем, такі справи, імовірно, формуватимуть те, як платформи проєктуватимуть свої алгоритми та який рівень прозорості вони повинні забезпечувати людям, яких ці алгоритми зачіпають.