Uber čelí jedné z nejvyšších pokut za porušení soukromí, jaké kdy byly v Evropě uděleny. Nizozemský úřad pro ochranu osobních údajů (Autoriteit Persoonsgegevens) udělil společnosti provozující přepravní služby pokutu 825 milionů eur, zhruba 966 milionů dolarů, kvůli používání automatizovaných systémů k pozastavování účtů řidičů. Tato pokuta je druhým nejvyšším trestem, jaký byl kdy uložen podle obecného nařízení o ochraně osobních údajů (GDPR), a zdůrazňuje, jak vážně evropští regulátoři vnímají algoritmické rozhodování, které ovlivňuje živobytí lidí.

Co zjistil nizozemský regulátor

Podle nizozemského úřadu pro ochranu osobních údajů Uber spoléhal na automatizovaný software, který označoval a pozastavoval účty řidičů, což řidiče připravilo o možnost pracovat na platformě, někdy bez odpovídajícího lidského přezkumu nebo jasné cesty k napadení rozhodnutí. Vymáhání GDPR v tomto rozsahu je vzácné a výše této pokuty signalizuje, že regulátoři považují automatizované deaktivace účtů za závažný problém ochrany osobních údajů, nikoli jen za spor o zákaznický servis. Jak je podrobněji popsáno v dřívější zprávě o pokutě pro Uber za porušení GDPR, pokuta přímo vyplývá ze způsobu, jakým algoritmy společnosti zpracovávaly osobní údaje, aby činily zásadní rozhodnutí o řidičích bez dostatečné transparentnosti a dohledu.

Tento případ zdůrazňuje opakující se napětí v platformové ekonomice: společnosti stále více spoléhají na automatizované systémy, aby ve velkém měřítku řídily rozsáhlou pracovní sílu, ale tytéž systémy mohou činit rozhodnutí měnící život, jako je přerušení něčího příjmu, s minimální možností nahlédnout do toho, jak nebo proč bylo rozhodnutí učiněno.

Proč automatizovaná pozastavení spouštějí přezkum podle GDPR

GDPR dává jednotlivcům konkrétní práva, pokud jde o automatizované rozhodování. Podle nařízení mají lidé obecně právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování, pokud toto rozhodnutí má právní účinky nebo se jich obdobně významně dotýká. Pozastavení účtu řidiče, a tím i jeho schopnosti vydělávat, do této kategorie jednoznačně spadá.

Regulátoři opakovaně kritizují společnosti, které k těmto rozhodnutím používají algoritmy typu černá skříňka, aniž by dotčeným osobám poskytly smysluplnou možnost lidského přezkumu nebo vysvětlení rozhodnutí. Tato pokuta pro Uber zapadá do širšího vzorce vymáhání GDPR zaměřeného na automatizované systémy postrádající transparentnost, nikoli na trestání úniků dat nebo hackerských útoků.

Pro společnost působící na desítkách evropských trhů je pokuta této výše – druhý nejvyšší trest podle GDPR v historii – jasným signálem, že úřady pro ochranu osobních údajů jsou ochotny ukládat tvrdé finanční sankce, pokud automatizované procesy porušují práva jednotlivců.

Co to znamená pro vás

Pokud řídíte pro platformu gig ekonomiky, spolupracujete s jakoukoli službou, která používá automatizovanou správu účtů, nebo jen používáte aplikace, které o vás rozhodují algoritmicky, tento případ vám připomíná, že pokud jde o automatizované rozhodování, máte podle právních předpisů o ochraně soukromí určitá práva. V EU to zahrnuje právo požádat o lidský zásah, vyjádřit svůj názor a napadnout rozhodnutí učiněné výhradně algoritmem.

I když nejste řidič nebo pracovník z gig ekonomiky, toto rozhodnutí je důležité, protože posiluje, jak vážně regulátoři vnímají ochranu osobních údajů ve vztahu k automatizovaným systémům obecně, nejen k únikům dat nebo hackingu. Společnosti, které se při správě účtů, členství nebo služeb spoléhají na algoritmy, nyní čelí skutečnému finančnímu riziku, pokud tyto systémy fungují bez odpovídající transparentnosti nebo lidského dohledu.

Pro běžné uživatele je to také vhodná příležitost zvážit, jakou kontrolu máte nad svými vlastními údaji a stavem účtu na platformách, které pravidelně používáte. Pochopení odvolacího procesu společnosti a toho, zda automatizovaná rozhodnutí přezkoumává člověk, vám může pomoci vyhnout se podobnému sporu.

Klíčové poznatky

Pokuta pro Uber je přelomovým okamžikem pro vymáhání GDPR a nabízí čtenářům několik praktických ponaučení:

  • Znejte svá práva: podle GDPR můžete požádat o lidský přezkum jakéhokoli automatizovaného rozhodnutí, které se vás významně dotýká.
  • Pokud platforma pozastaví nebo omezí váš účet, konkrétně se zeptejte, zda bylo rozhodnutí automatizované, a požádejte o vysvětlení.
  • Uchovávejte záznamy o své aktivitě na účtu a veškeré komunikaci s platformou pro případ, že budete potřebovat napadnout automatizované rozhodnutí.
  • Sledujte další vývoj, protože tato pokuta může přimět další regulátory v Evropě k přezkumu podobných automatizovaných systémů používaných jinými společnostmi.

Jak regulátoři nadále testují hranice GDPR ve vztahu k mocným automatizovaným systémům, případy, jako je tento, pravděpodobně ovlivní, jak platformy navrhují své algoritmy a jakou transparentnost dluží lidem, kterých se tyto algoritmy týkají.