Uber е изправен пред една от най-големите санкции за нарушаване на поверителността, налагани някога в Европа. Нидерландският орган за защита на данните (Autoriteit Persoonsgegevens) глоби компанията за споделено пътуване с 825 милиона евро, приблизително 966 милиона долара, заради използването на автоматизирани системи за преустановяване на акаунти на шофьори. Санкцията е втората по големина глоба, налагана някога съгласно Общия регламент за защита на данните (GDPR), което подчертава колко сериозно европейските регулатори третират алгоритмичното вземане на решения, което засяга поминъка на хората.

Какво установи нидерландският регулатор

Според нидерландския орган за защита на данните, Uber е разчитал на автоматизиран софтуер за отбелязване и преустановяване на акаунти на шофьори – процес, който е лишавал шофьорите от възможността да работят на платформата, понякога без адекватен човешки преглед или ясен път за оспорване на решението. Принудителните мерки по GDPR от такъв мащаб са рядкост, а размерът на тази глоба показва, че регулаторите възприемат автоматизираното деактивиране на акаунти като сериозен проблем за защитата на данните, а не просто като спор за обслужване на клиенти. Както е описано подробно в по-раншното отразяване на глобата на Uber по GDPR, санкцията произтича пряко от начина, по който алгоритмите на компанията обработват лични данни, за да вземат важни решения за шофьорите, без достатъчна прозрачност или надзор.

Случаят подчертава повтарящо се напрежение в платформената икономика: компаниите все повече разчитат на автоматизирани системи, за да управляват големи работни сили в мащаб, но същите тези системи могат да вземат решения, които променят живота, като например прекъсване на нечий доход, с малка видимост за това как или защо е взето решението.

Защо автоматизираните преустановявания предизвикват контрол по GDPR

GDPR дава на хората специфични права по отношение на автоматизираното вземане на решения. Съгласно регламента хората обикновено имат право да не бъдат обект на решение, основано единствено на автоматизирана обработка, когато това решение поражда правни последици или подобни значителни последици за тях. Преустановяването на акаунта на шофьор, а оттам и възможността му да печели доходи, определено попада в тази категория.

Регулаторите последователно се противопоставят на компании, които използват алгоритми от типа „черна кутия", за да вземат подобни решения, без да дават на засегнатите лица смислена възможност за човешки преглед или обяснение на решението. Тази глоба срещу Uber се вписва в по-широкия модел на принудително прилагане на GDPR, насочено към автоматизирани системи, които нямат прозрачност, а не към наказване на пробиви в данните или хакерски атаки.

За компания, работеща в десетки европейски пазари, глоба от такъв мащаб – втората по големина санкция по GDPR в историята – е ясен сигнал, че органите за защита на данните са готови да налагат сериозни финансови последици, когато бъде установено, че автоматизираните процеси нарушават правата на хората.

Какво означава това за вас

Ако шофирате за платформа от тип споделена икономика, работите с услуга, която използва автоматизирано управление на акаунти, или просто използвате приложения, които вземат алгоритмични решения за вас, този случай е напомняне, че имате права съгласно законодателството за защита на данните по отношение на автоматизираното вземане на решения. В ЕС това включва правото да поискате човешка намеса, да изразите своята гледна точка и да оспорите решение, взето единствено от алгоритъм.

Дори да не сте шофьор или работник в платформа, това решение има значение, защото затвърждава колко сериозно регулаторите третират защитата на данните във връзка с автоматизираните системи като цяло, а не само пробивите или хакерските атаки. Компаниите, които разчитат на алгоритми за управление на акаунти, членства или услуги, вече са изправени пред реален финансов риск, ако тези системи работят без достатъчна прозрачност или човешки надзор.

За обикновените потребители това също е добър момент да прегледат колко контрол имат върху собствените си данни и статуса на акаунтите си в платформите, които използват редовно. Разбирането на процеса за обжалване на дадена компания и това дали човек преглежда автоматизираните решения, може да ви помогне да избегнете попадането в подобен спор.

Основни изводи

Глобата на Uber е важен момент за принудителното прилагане на GDPR и предлага няколко практически урока за читателите:

  • Познавайте правата си: съгласно GDPR можете да поискате човешки преглед на всяко автоматизирано решение, което ви засяга значително.
  • Ако платформа преустанови или ограничи акаунта ви, попитайте конкретно дали решението е автоматизирано и поискайте обяснение.
  • Съхранявайте записи на дейността по акаунта си и всяка комуникация с платформата, в случай че трябва да оспорите автоматизирано решение.
  • Следете за по-нататъшни развития, тъй като тази глоба може да подтикне други регулатори в Европа да проверят подобни автоматизирани системи, използвани от други компании.

Докато регулаторите продължават да изпитват границите на GDPR срещу мощни автоматизирани системи, случаи като този вероятно ще оформят начина, по който платформите проектират своите алгоритми, и колко прозрачност дължат на хората, засегнати от тях.