Ubers Geldbuße von 825 Mio. € macht Risiken automatisierter Entscheidungen nach DSGVO deutlich

Uber steht eine Geldbuße von 825 Millionen Euro nach DSGVO bevor, die mit einer Praxis zusammenhängt, die jedem bekannt vorkommen dürfte, der jemals ohne Erklärung von einem Konto ausgesperrt wurde: automatische Sperrung von Fahrern auf der Grundlage algorithmischer Entscheidungen, ohne dass ein Mensch den Fall jemals geprüft hat. Die Strafe ist eine der höchsten Datenschutzstrafen der jüngeren Geschichte und rückt ein Recht in den Fokus, das den meisten Internetnutzern gar nicht bewusst ist: das Recht, keiner rein automatisierten Entscheidung unterworfen zu werden, die echte Konsequenzen mit sich bringt.

Was Uber tat: Algorithmische Sperrungen ohne menschliche Prüfung

Im Zentrum dieses Falls steht Ubers System zur Deaktivierung von Fahrern. Laut Aufsichtsbehörden konnten Fahrer gesperrt werden, was faktisch den Verlust ihres Einkommens bedeutete, und zwar vollständig auf der Grundlage automatisierter Bewertungen ihrer Aktivitäten, Betrugssignale, Bewertungen oder anderer Datenpunkte, ohne dass je eine Person eingeschritten wäre, um zu bestätigen, dass die Entscheidung fair oder auch nur korrekt war. Für einen Gig-Worker ist eine Sperrung keine Kleinigkeit. Sie kann den sofortigen Verlust der Lebensgrundlage bedeuten, oft mit wenig Klarheit darüber, warum es passiert ist oder wie man dagegen vorgehen kann.

Dies ist keine Geschichte über einen einzelnen fehlerhaften Algorithmus, der einen Fehler macht. Es geht um eine strukturelle Entscheidung: ein System aufzubauen, in dem Maschinen folgenreiche Entscheidungen treffen und Menschen optional sind. Dieser Unterschied ist im europäischen Datenschutzrecht von enormer Bedeutung, und genau deshalb erreichte die Geldbuße Hunderte Millionen Euro und nicht nur ein Warnschreiben. Leser, die den vollständigen regulatorischen Hintergrund erfahren möchten, einschließlich der Berechnung der Strafe und der Feststellungen der niederländischen Behörde, können die ursprüngliche DSGVO-Geldbuße der niederländischen Aufsichtsbehörde gegen Uber für weitere Details zu diesem Fall einsehen.

Wie Artikel 22 DSGVO vor automatisierten Entscheidungen schützt

Die rechtliche Grundlage für diese Geldbuße liegt in Artikel 22 der DSGVO, einer Bestimmung, die Einzelpersonen das Recht einräumt, keiner Entscheidung unterworfen zu werden, die ausschließlich auf automatisierter Verarbeitung beruht, wenn diese Entscheidung rechtliche Wirkungen entfaltet oder sie in ähnlich erheblicher Weise beeinträchtigt. Den Zugang zur primären Einkommensquelle zu verlieren, erfüllt diese Kriterien eindeutig.

Die Regel verbietet Automatisierung nicht grundsätzlich. Unternehmen können Algorithmen einsetzen, um Probleme zu kennzeichnen, Risiken zu bewerten oder Fälle zu priorisieren. Was die DSGVO verlangt, ist, dass bei Entscheidungen mit schwerwiegenden Folgen ein Mensch sinnvoll eingebunden sein muss, jemand mit der Befugnis und den Informationen, die Maschine tatsächlich zu überstimmen, nicht nur ihre Ausgabe abzusegnen. Aufsichtsbehörden behandeln zunehmend die bloße Bestätigung durch eine Person als unzureichend, wenn diese Person nie eine echte Chance hatte, das Ergebnis zu untersuchen oder zu korrigieren. Ubers Fall zeigt, dass genau diese Lücke, zwischen einem Menschen im Prozess auf dem Papier und einem in der Praxis, Unternehmen in Schwierigkeiten bringt.

Über Gig-Work hinaus: Shadowbanning, Kontosperrungen und Löschungsanträge

Auch wenn diese Geldbuße ein Ride-Sharing-Unternehmen betrifft, reicht das zugrunde liegende Problem weit über Gig-Work hinaus. Soziale Medienplattformen nutzen automatisierte Systeme, um Konten zu shadowbannen oder Inhalte zu entfernen. Banken und Zahlungsdienstleister setzen Algorithmen ein, um Konten bei Betrugsverdacht einzufrieren. Streaming-Dienste und Marktplätze sperren Nutzer automatisch bei gemeldetem Fehlverhalten. Selbst Löschungs- und Auskunftsersuchen, zentrale DSGVO-Rechte, werden oft von automatisierten Systemen bearbeitet, die ein legitimes Ersuchen stillschweigend ablehnen können, ohne menschliche Prüfung.

In jedem dieser Szenarien besteht dieselbe Spannung: Komfort und Skalierung für das Unternehmen versus ordnungsgemäßes Verfahren und Transparenz für den Einzelnen. Die meisten Nutzer fragen sich nie, ob ein Mensch die Entscheidung geprüft hat, die sie betrifft, vor allem weil Plattformen dies selten offenlegen. Ubers Geldbuße signalisiert, dass Aufsichtsbehörden diese Undurchsichtigkeit zunehmend als Compliance-Risiko betrachten, nicht nur als Ärgernis im Kundenservice.

Was das für Sie bedeutet

Wenn Sie jemals von einer App oder Plattform ohne klare Erklärung gesperrt, verbannt oder abgelehnt wurden, ist die Wahrscheinlichkeit hoch, dass ein Algorithmus diese Entscheidung mit minimaler oder keiner menschlichen Aufsicht getroffen hat. Nach der DSGVO haben Sie, wenn Sie in der EU sind oder Ihre Daten von einem dort tätigen Unternehmen verarbeitet werden, grundsätzlich das Recht, eine Erklärung für automatisierte Entscheidungen zu verlangen, die Sie erheblich beeinträchtigen, die Entscheidung anzufechten und eine sinnvolle menschliche Prüfung zu beantragen. Unternehmen in diesem Bereich sind gesetzlich verpflichtet, dieses Sicherheitsventil einzubauen, auch wenn es nicht offensichtlich beworben wird.

Dieser Fall zeigt auch den praktischen Wert, vorsichtig damit zu sein, wie viel Kontrolle Sie Plattformen überlassen, die stark auf automatisierte Durchsetzung setzen. Ihre DSGVO-Rechte bei automatisierten Entscheidungen zu verstehen, ist nicht nur ein abstraktes juristisches Konzept, sondern ein Werkzeug, das Sie tatsächlich nutzen können, wenn eine App Sie aussperrt oder ein Algorithmus Ihr Konto kennzeichnet.

Wichtige Erkenntnisse

Wenn Sie selbst von einer automatisierten Sperrung, einem Verbot oder einer Ablehnung betroffen sind, lohnt es sich, aktiv zu werden, statt anzunehmen, die Entscheidung sei endgültig. Fordern Sie eine schriftliche Erklärung darüber an, wie die Entscheidung getroffen wurde und ob ein Mensch sie geprüft hat. Berufen Sie sich ausdrücklich auf Ihre DSGVO-Rechte, wenn das Unternehmen EU-Recht unterliegt, und reichen Sie bei der zuständigen Datenschutzbehörde Beschwerde ein, wenn Sie keine zufriedenstellende Antwort erhalten. Bewahren Sie Aufzeichnungen Ihrer Kommunikation mit der Plattform auf, denn ein dokumentiertes Muster automatisierter, ungeprüfter Entscheidungen ist genau die Art von Beweisen, die zu Ubers Geldbuße von 825 Millionen Euro geführt hat. Da immer mehr vom Alltag durch Algorithmen gefiltert wird, ist das Wissen um diese Rechte und ihre Nutzung einer der klarsten Wege, sich zu wehren, wenn die Maschine falschliegt.