Uber е изправен пред глоба от 825 млн. евро по GDPR, свързана с практика, която вероятно звучи познато на всеки, който някога е бил заключен извън акаунта си без обяснение: автоматично спиране на шофьори въз основа на алгоритмични решения, без никое човешко същество да е прегледало случая. Санкцията е една от най-големите глоби за нарушаване на поверителността от скоро време и хвърля светлина върху право, за което повечето интернет потребители не знаят, че имат — правото да не бъдат обект на чисто автоматизирани решения, които носят реални последици.

Какво направи Uber: Алгоритмични спирания без човешки преглед

В центъра на този случай е системата на Uber за деактивиране на шофьори. Според регулаторите шофьорите са можели да бъдат спирани и на практика да загубят доходите си, изцяло въз основа на автоматизирани оценки на тяхната дейност, сигнали за измами, рейтинги или други данни, без човек някога да се намеси, за да потвърди, че решението е справедливо или дори точно. За човек, работещ в гиг икономиката, спирането не е дребно неудобство. То може да означава незабавна загуба на прехраната, често с малко яснота защо се е случило или как може да се обжалва.

Това не е история за единичен неконтролируем алгоритъм, който прави грешка. Става въпрос за структурен избор: изграждане на система, при която машините вземат важни решения, а хората са незадължителни. Това разграничение има огромно значение съгласно европейското законодателство за поверителност и е причината глобата да достигне стотици милиони евро, а не предупредително писмо. Читателите, които искат пълната регулаторна предистория, включително как е изчислена санкцията и какво е установил нидерландският орган, могат да разгледат оригиналната глоба на нидерландския регулатор срещу Uber по GDPR за повече подробности по случая.

Как член 22 от GDPR защитава срещу автоматизирани решения

Правното основание за тази глоба се намира в член 22 от GDPR — разпоредба, която дава на лицата правото да не бъдат обект на решение, основано единствено на автоматизирано обработване, когато това решение поражда правни последици или по подобен начин ги засяга значително. Загубата на достъп до основния ви източник на доход явно попада в това определение.

Правилото не забранява напълно автоматизацията. Компаниите могат да използват алгоритми за отбелязване на проблеми, оценка на риска или сортиране на случаи. Това, което GDPR изисква, е когато дадено решение има сериозни последици, човек трябва да бъде съдържателно ангажиран — някой с правомощията и информацията наистина да отмени машината, а не просто да одобри автоматично нейния резултат. Регулаторите все по-често третират „човек е кликнал одобрение“ като недостатъчно, ако този човек никога не е имал реална възможност да разследва или отмени резултата. Случаят с Uber предполага, че именно тази разлика — между наличието на човек в процеса на хартия и наличието му на практика — е мястото, където компаниите си създават проблеми.

Отвъд гиг икономиката: Shadowban, блокирания на акаунти и заявки за изтриване на данни

Въпреки че тази глоба включва компания за споделено пътуване, основният проблем се простира далеч отвъд гиг икономиката. Социалните платформи използват автоматизирани системи за shadowban на акаунти или премахване на съдържание. Банките и платежните процесори използват алгоритми за замразяване на акаунти при съмнение за измама. Стрийминг услугите и пазарите автоматично блокират потребители за отбелязано поведение. Дори заявките за изтриване и достъп до данни — основни права по GDPR — често се обработват от автоматизирани системи, които могат мълчаливо да отхвърлят легитимна заявка без никакъв човешки преглед.

Във всеки от тези сценарии се прилага същото напрежение: удобство и мащаб за компанията, срещу надлежен процес и прозрачност за индивида. Повечето потребители никога не се замислят да попитат дали човек е прегледал решението, което ги е засегнало, главно защото платформите рядко го разкриват. Глобата на Uber е сигнал, че регулаторите започват да възприемат тази непрозрачност като риск за съответствието, а не просто като досада за обслужването на клиенти.

Какво означава това за вас

Ако някога сте били спрени, блокирани или ви е било отказано нещо от приложение или платформа без ясно обяснение, има голяма вероятност алгоритъм да е взел това решение с минимален или никакъв човешки надзор. Съгласно GDPR, ако сте в ЕС или данните ви се обработват от компания, оперираща там, обикновено имате право да поискате обяснение за автоматизирани решения, които ви засягат значително, да оспорите решението и да поискате съдържателен човешки преглед. Компаниите, опериращи в тази сфера, са законово задължени да вградят този предпазен клапан, дори да не е очевидно рекламиран.

Този случай също така повдига практическия въпрос за предпазливостта относно това колко контрол предоставяте на платформи, които разчитат силно на автоматизирано прилагане на правила. Разбирането на вашите права за автоматизирано вземане на решения по GDPR не е просто абстрактна правна концепция — това е инструмент, който реално можете да използвате, когато приложение ви заключи или алгоритъм отбележи акаунта ви.

Ключови изводи

Ако се окажете обект на автоматизирано спиране, блокиране или отказ, си струва да предприемете действия, вместо да приемете, че решението е окончателно. Поискайте писмено обяснение как е взето решението и дали човек го е прегледал. Посочете изрично правата си по GDPR, ако компанията е обект на законодателството на ЕС, и подайте жалба до съответния орган за защита на данните, ако не получите задоволителен отговор. Водете записи на комуникациите си с платформата, тъй като документираният модел на автоматизирани, непрегледани решения е точно видът доказателство, което доведе до глобата от 825 млн. евро за Uber. Тъй като все повече от ежедневието се филтрира през алгоритми, познаването на тези права и използването им е един от най-ясните начини да отговорите, когато машината сгреши.