Grzywna w wysokości 825 mln euro dla Ubera uwypukla ryzyko zautomatyzowanych decyzji w kontekście RODO

Uber stoi w obliczu grzywny w wysokości 825 mln euro nałożonej na podstawie RODO, związanej z praktyką, która prawdopodobnie brzmi znajomo dla każdego, kto kiedykolwiek został zablokowany na koncie bez żadnego wyjaśnienia: automatyczne zawieszanie kierowców na podstawie algorytmicznych decyzji, bez udziału człowieka w przeglądzie sprawy. Kara ta jest jedną z największych kar za naruszenie prywatności w ostatnim czasie i zwraca uwagę na prawo, o którego istnieniu większość użytkowników internetu nie wie — prawo do niepodlegania w pełni zautomatyzowanym decyzjom, które niosą za sobą realne konsekwencje.

Co zrobił Uber: algorytmiczne zawieszenia bez przeglądu przez człowieka

W centrum tej sprawy znajduje się system Ubera służący do dezaktywacji kierowców. Zdaniem organów regulacyjnych kierowcy mogli być zawieszani, a w praktyce tracić dochody, wyłącznie na podstawie automatycznych ocen ich aktywności, sygnałów dotyczących oszustw, ocen lub innych danych, bez udziału człowieka, który potwierdziłby, że decyzja była sprawiedliwa, a nawet prawidłowa. Dla pracownika gig economy zawieszenie to nie drobna niedogodność. Może oznaczać natychmiastową utratę źródła utrzymania, często bez jasności co do przyczyny lub sposobu odwołania się.

To nie jest historia o pojedynczym błędnym algorytmie, który popełnił pomyłkę. Chodzi o wybór strukturalny: zbudowanie systemu, w którym maszyny podejmują decyzje o istotnych konsekwencjach, a ludzie są opcjonalni. To rozróżnienie ma ogromne znaczenie w świetle europejskiego prawa ochrony danych i dlatego grzywna sięgnęła setek milionów euro, a nie skończyło się na liście ostrzegawczym. Czytelnicy, którzy chcą poznać pełne tło regulacyjne, w tym sposób obliczenia kary i ustalenia holenderskiego organu nadzorczego, mogą zapoznać się z oryginalną grzywną holenderskiego regulatora nałożoną na Ubera na podstawie RODO, aby uzyskać więcej szczegółów na temat sprawy.

Jak art. 22 RODO chroni przed zautomatyzowanymi decyzjami

Podstawą prawną tej grzywny jest art. 22 RODO, przepis przyznający osobom prawo do niepodlegania decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, jeżeli decyzja ta wywołuje skutki prawne lub w podobny sposób istotnie wpływa na te osoby. Utrata dostępu do głównego źródła dochodu niewątpliwie się do tego kwalifikuje.

Przepis ten nie zakazuje w pełni automatyzacji. Firmy mogą używać algorytmów do oznaczania problemów, oceny ryzyka czy kategoryzacji spraw. To, czego wymaga RODO, to aby w przypadku decyzji o poważnych konsekwencjach człowiek był rzeczywiście zaangażowany — ktoś, kto ma uprawnienia i informacje, aby faktycznie zmienić decyzję maszyny, a nie tylko automatycznie ją zatwierdzić. Organy nadzorcze coraz częściej uznają, że „osoba kliknęła zatwierdź" jest niewystarczające, jeśli osoba ta nigdy nie miała realnej możliwości zbadania sprawy lub odwrócenia wyniku. Sprawa Ubera sugeruje, że właśnie ta luka — między posiadaniem człowieka w pętli na papierze a posiadaniem go w praktyce — jest miejscem, w którym firmy popadają w kłopoty.

Poza pracą w gig economy: shadowbanning, blokady kont i wnioski o usunięcie danych

Chociaż grzywna dotyczy firmy świadczącej usługi transportowe, podstawowy problem wykracza daleko poza pracę w gig economy. Platformy społecznościowe używają automatycznych systemów do shadowbanningu kont lub usuwania treści. Banki i podmioty przetwarzające płatności używają algorytmów do zamrażania kont w przypadku podejrzenia oszustwa. Usługi streamingowe i platformy handlowe automatycznie blokują użytkowników za oznaczone zachowania. Nawet wnioski o usunięcie danych i dostęp do nich — podstawowe prawa wynikające z RODO — są często obsługiwane przez zautomatyzowane systemy, które mogą po cichu odrzucić uzasadniony wniosek bez jakiegokolwiek przeglądu przez człowieka.

W każdej z tych sytuacji pojawia się to samo napięcie: wygoda i skala dla firmy kontra prawo do procesu i przejrzystości dla jednostki. Większość użytkowników nigdy nie zastanawia się, czy człowiek zweryfikował decyzję, która ich dotyczy, głównie dlatego, że platformy rzadko to ujawniają. Grzywna dla Ubera sygnalizuje, że organy nadzorcze zaczynają traktować tę nieprzejrzystość jako ryzyko zgodności, a nie tylko uciążliwość dla obsługi klienta.

Co to oznacza dla Ciebie

Jeśli kiedykolwiek zostałeś zawieszony, zablokowany lub otrzymałeś odmowę od aplikacji lub platformy bez jasnego wyjaśnienia, istnieje duże prawdopodobieństwo, że decyzję podjął algorytm przy minimalnym nadzorze człowieka lub bez niego. Na mocy RODO, jeśli przebywasz w UE lub Twoje dane są przetwarzane przez firmę działającą na tym obszarze, masz zasadniczo prawo poprosić o wyjaśnienie zautomatyzowanych decyzji, które istotnie Cię dotyczą, zakwestionować tę decyzję oraz poprosić o rzeczywisty przegląd przez człowieka. Firmy działające w tym obszarze są prawnie zobowiązane do wbudowania tego zaworu bezpieczeństwa, nawet jeśli nie jest on wyraźnie reklamowany.

Sprawa ta pokazuje również praktyczną wartość ostrożności w przekazywaniu kontroli platformom, które w dużej mierze opierają się na zautomatyzowanym egzekwowaniu przepisów. Zrozumienie swoich praw związanych z zautomatyzowanym podejmowaniem decyzji w świetle RODO to nie tylko abstrakcyjna koncepcja prawna — to narzędzie, z którego możesz faktycznie skorzystać, gdy aplikacja Cię zablokuje lub algorytm oznaczy Twoje konto.

Kluczowe wnioski

Jeśli znajdziesz się po stronie automatycznego zawieszenia, blokady lub odrzucenia, warto podjąć działania, zamiast zakładać, że decyzja jest ostateczna. Poproś o pisemne wyjaśnienie, w jaki sposób podjęto decyzję i czy człowiek ją zweryfikował. Przywołaj wyraźnie swoje prawa wynikające z RODO, jeśli firma podlega prawu UE, i złóż skargę do właściwego organu nadzorczego ds. ochrony danych, jeśli nie otrzymasz zadowalającej odpowiedzi. Zachowuj dokumentację swojej komunikacji z platformą, ponieważ udokumentowany wzór zautomatyzowanych decyzji bez przeglądu przez człowieka to dokładnie ten rodzaj dowodów, który doprowadził do grzywny w wysokości 825 mln euro dla Ubera. W miarę jak coraz więcej codziennego życia jest filtrowane przez algorytmy, znajomość tych praw i korzystanie z nich to jeden z najskuteczniejszych sposobów na sprzeciw, gdy maszyna popełni błąd.