Uber čelí pokutě 825 milionů eur podle GDPR kvůli postupu, který pravděpodobně zná každý, kdo byl někdy bez vysvětlení uzamčen ze svého účtu: automatickému pozastavování řidičů na základě algoritmických rozhodnutí, aniž by případ kdykoli přezkoumal člověk. Tato pokuta patří k největším sankcím za porušení soukromí v nedávné paměti a upozorňuje na právo, o kterém většina uživatelů internetu neví, že ho má – právo nebýt vystaven čistě automatizovaným rozhodnutím s reálnými důsledky.

Co Uber udělal: Algoritmická pozastavení bez lidského přezkumu

V centru tohoto případu stojí systém Uberu pro deaktivaci řidičů. Podle regulátorů mohli být řidiči pozastaveni, a tím pádem přijít o příjem, zcela na základě automatizovaného vyhodnocení své aktivity, podvodných signálů, hodnocení či jiných datových bodů, aniž by do procesu vstoupil člověk, který by potvrdil, že rozhodnutí bylo spravedlivé, nebo dokonce přesné. Pro pracovníka v gig ekonomice není pozastavení jen drobnou nepříjemností. Může znamenat okamžitou ztrátu živobytí, často bez jasného vysvětlení, proč se to stalo nebo jak se proti tomu odvolat.

Nejde o příběh o jediném problémovém algoritmu, který udělal chybu. Jde o strukturální volbu: vybudovat systém, kde stroje dělají rozhodnutí s významnými důsledky a lidé jsou volitelní. Tento rozdíl má pod evropským právem na ochranu soukromí obrovský význam, a právě proto pokuta dosáhla stovek milionů eur, nikoli varovného dopisu. Čtenáři, kteří chtějí znát celé regulační pozadí, včetně toho, jak byla pokuta vypočítána a co zjistil nizozemský úřad, si mohou pro více podrobností o případu přečíst původní pokutu nizozemského regulátora pro Uber podle GDPR.

Jak článek 22 GDPR chrání před automatizovanými rozhodnutími

Právní základ této pokuty spočívá v článku 22 GDPR, ustanovení, které jednotlivcům dává právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování, pokud toto rozhodnutí vyvolává právní účinky nebo se jich obdobně významně dotýká. Ztráta přístupu k hlavnímu zdroji příjmu tomu jednoznačně odpovídá.

Toto pravidlo automatizaci zcela nezakazuje. Společnosti mohou používat algoritmy k označování problémů, vyhodnocování rizik nebo třídění případů. GDPR vyžaduje, aby v případě rozhodnutí s vážnými důsledky byl smysluplně zapojen člověk – někdo s pravomocí a informacemi skutečně stroj přehlasovat, ne jen mechanicky potvrdit jeho výstup. Regulátoři stále častěji považují „osoba klikla na schválit" za nedostatečné, pokud dotyčný neměl skutečnou možnost výsledek prošetřit nebo zvrátit. Případ Uberu naznačuje, že právě tato mezera – mezi tím, mít člověka v procesu na papíře, a mít ho tam v praxi – je přesně tím místem, kde společnosti skončí v problémech.

Mimo gig ekonomiku: Shadowbanning, blokace účtů a žádosti o výmaz dat

I když se tato pokuta týká společnosti poskytující spolujízdu, základní problém sahá daleko za gig ekonomiku. Platformy sociálních médií používají automatizované systémy k shadowbanningu účtů nebo odebírání obsahu. Banky a platební procesoři používají algoritmy k zmrazení účtů kvůli podezření z podvodu. Streamingové služby a tržiště automaticky blokují uživatele za označené chování. Dokonce i žádosti o výmaz a přístup k datům, což jsou základní práva podle GDPR, jsou často zpracovávány automatizovanými systémy, které mohou oprávněnou žádost tiše zamítnout bez jakéhokoli lidského přezkumu.

V každém z těchto scénářů platí stejné napětí: pohodlí a škálovatelnost pro společnost versus řádný proces a transparentnost pro jednotlivce. Většina uživatelů se nikdy nezamyslí nad tím, zda člověk přezkoumal rozhodnutí, které se jich dotklo – hlavně proto, že platformy to málokdy zveřejňují. Pokuta pro Uber signalizuje, že regulátoři začínají tuto netransparentnost považovat za riziko pro dodržování předpisů, ne jen za nepříjemnost v zákaznické podpoře.

Co to znamená pro vás

Pokud jste někdy byli pozastaveni, zablokováni nebo vám byla zamítnuta žádost aplikací či platformou bez jasného vysvětlení, je velká šance, že to rozhodnutí udělal algoritmus s minimálním nebo žádným lidským dohledem. Podle GDPR máte, pokud jste v EU nebo vaše data zpracovává společnost zde působící, obecně právo požádat o vysvětlení automatizovaných rozhodnutí, která vás významně ovlivňují, právo toto rozhodnutí napadnout a právo požádat o smysluplný lidský přezkum. Společnosti působící v této oblasti jsou ze zákona povinny tento pojistný ventil zabudovat, i když to není na první pohled zřejmé.

Tento případ také ukazuje praktickou hodnotu obezřetnosti ohledně toho, kolik kontroly předáváte platformám, které se silně spoléhají na automatizované vymáhání pravidel. Porozumět svým právům na automatizované rozhodování podle GDPR není jen abstraktní právní koncept – je to nástroj, který můžete skutečně použít, když vás aplikace uzamkne nebo algoritmus označí váš účet.

Klíčové poznatky

Pokud se ocitnete na straně automatizovaného pozastavení, blokace nebo zamítnutí, stojí za to jednat, místo abyste předpokládali, že rozhodnutí je konečné. Požádejte o písemné vysvětlení, jak bylo rozhodnutí učiněno a zda ho přezkoumal člověk. Pokud se na společnost vztahuje právo EU, výslovně se odvolejte na svá práva podle GDPR, a pokud nedostanete uspokojivou odpověď, podejte stížnost u příslušného úřadu pro ochranu osobních údajů. Archivujte si záznamy o komunikaci s platformou, protože zdokumentovaný vzorec automatizovaných rozhodnutí bez lidského přezkumu je přesně ten typ důkazu, který vedl k pokutě 825 milionů eur pro Uber. Čím více každodenního života prochází přes algoritmy, znalost těchto práv a jejich používání je jedním z nejjasnějších způsobů, jak se ohradit, když to stroj pokazí.