Eine Rekordstrafe für algorithmische Kündigungen
Die niederländische Datenschutzbehörde (AP) hat beschlossen, Uber mit einer Geldstrafe von 825 Millionen Euro, also rund 966 Millionen Dollar, zu belegen, wie aus einem von Reuters eingesehenen Dokument hervorgeht. Die Strafe resultiert aus Ubers Praxis, Fahrerkonten durch automatisierte Systeme zu deaktivieren – ein Vorgang, der nach Ansicht der Regulierungsbehörde gegen europäische Datenschutzbestimmungen verstieß. Der auf internen Unterlagen basierende Reuters-Bericht markiert eine der größten bekannten Geldstrafen, die im Rahmen der Datenschutz-Grundverordnung (DSGVO) der Europäischen Union verhängt wurden, und rückt eine DSGVO-Strafe für automatisierte Entscheidungen in beispiellosem Ausmaß in den Fokus.
Im Zentrum des Falls steht eine vertraute Beschwerde von Beschäftigten der Gig Economy: Fahrer, deren Konten mit wenig Erklärung gesperrt oder beendet wurden, offenbar ausgelöst durch einen Algorithmus statt durch einen menschlichen Prüfer. Wenn der Lebensunterhalt eines Menschen von einer App abhängt, fühlt sich eine automatische Deaktivierung weniger wie eine Geschäftsentscheidung an und eher wie das Ausgelöschtwerden durch ein System, das niemand in Frage stellen kann.
Wie Artikel 22 der DSGVO automatisierte Entscheidungen einschränkt
Die DSGVO enthält spezifische Schutzmaßnahmen gegen Entscheidungen, die „ausschließlich auf automatisierter Verarbeitung“ beruhen, wenn diese Entscheidungen rechtliche Wirkungen entfalten oder eine Person in ähnlich erheblicher Weise beeinträchtigen. Der Verlust des Zugangs zu einer Plattform, die das eigene Einkommen sichert, ist eindeutig als erheblich einzustufen. In diesem Rahmen benötigen Unternehmen in der Regel eine Rechtsgrundlage, um sich auf vollständig automatisierte Entscheidungen zu stützen, und sie müssen betroffenen Personen eine Möglichkeit bieten, eine menschliche Überprüfung zu erhalten, ihren Standpunkt darzulegen und das Ergebnis anzufechten.
Diese Regel existiert, weil automatisierte Systeme undurchsichtig sein können. Ein Fahrer, der von einem Algorithmus deaktiviert wird, hat oft keinen klaren Weg zu verstehen, warum es passiert ist, welche Daten es ausgelöst haben oder wie er Einspruch einlegen kann. Regulierungsbehörden behandeln diese Undurchsichtigkeit zunehmend als Problem an sich – nicht nur als Nebeneffekt effizienter Geschäftsabläufe. Die Entscheidung der niederländischen AP gegen Uber legt nahe, dass die finanziellen Konsequenzen schwerwiegend sein können, wenn ein Unternehmen folgenreiche Entscheidungen über Konten oder Einkommen von Menschen automatisiert, ohne angemessene Transparenz und menschliche Aufsicht zu gewährleisten.
Warum dies über Ride-Hailing hinaus relevant ist
Es ist verlockend, dies als eine Geschichte zu lesen, die spezifisch für Gig-Arbeit ist, aber das zugrunde liegende Problem reicht weit über Ride-Hailing-Apps hinaus. Jede Plattform, die automatisierte Systeme für Entscheidungen über Nutzer einsetzt – sei es das Markieren von Konten wegen Betrugs, die Ablehnung von Kreditanträgen, die Anpassung von Versicherungsprämien oder das Filtern von Bewerbern – steht vor derselben grundlegenden Anforderung: Personen, die von diesen Entscheidungen betroffen sind, haben Rechte, einschließlich des Rechts zu erfahren, dass eine Entscheidung automatisiert war, und des Rechts, sie anzufechten.
Die Höhe dieser Strafe sendet ein Signal an Unternehmen weit außerhalb des Transportsektors. Da immer mehr Dienste auf Algorithmen setzen, um alles von der Kontosicherheit bis zur Kundenberechtigung zu verwalten, zeigen sich Regulierungsbehörden bereit, durchzusetzen, dass Automatisierung keine Rechenschaftspflicht aufhebt. Wenn überhaupt, erhöht sie die Messlatte, denn ein Black-Box-System, das sich nicht erklären kann, ist schwerer zu verteidigen als ein menschlicher Entscheider, der zumindest seine Beweggründe formulieren kann.
Was das für Sie bedeutet
Wenn Ihnen jemals ein App-Konto gesperrt, ein Kreditantrag abgelehnt oder ein Dienst mit einer vagen automatisierten Benachrichtigung eingeschränkt wurde, erinnert dieser Fall daran, dass Sie möglicherweise mehr Rechtsmittel haben, als die Oberfläche vermuten lässt. Nach der DSGVO können Personen in der EU (und oft auch diejenigen, deren Daten von Unternehmen mit Sitz in der EU oder mit Dienstleistungen für die EU verarbeitet werden) erfragen, ob eine sie betreffende Entscheidung automatisiert war, eine menschliche Überprüfung beantragen und das Ergebnis anfechten. Auch außerhalb der EU führt der Druck durch Urteile wie dieses tendenziell dazu, dass Unternehmen weltweit klarere Richtlinien und bessere Einspruchsverfahren einführen, da der Unterhalt getrennter Systeme für verschiedene Regionen oft kostspieliger ist als die Anhebung der Standards überall.
Dies ist auch ein guter Moment, um über den breiteren Fußabdruck Ihrer persönlichen Daten nachzudenken. Jede App, die Ihr Verhalten profiliert – ob zur Genehmigung einer Fahrt, zur Kreditvergabe oder zur Personalisierung von Werbung – trifft Entscheidungen auf der Grundlage von Daten, die Sie bereitgestellt haben, oft ohne vollständige Transparenz darüber, wie diese Daten gewichtet werden.
Erkenntnisse für Leser
Wenn Sie auf Gig-Plattformen, Finanz-Apps oder andere Dienste angewiesen sind, die automatisierte Kontoentscheidungen verwenden, sollten Sie einige konkrete Schritte in Betracht ziehen. Überprüfen Sie die Datenschutzrichtlinien und Nutzungsbedingungen der Apps, die Sie regelmäßig nutzen, um festzustellen, ob diese automatisierte Entscheidungsfindung offenlegen. Wenn Sie jemals von einem Algorithmus deaktiviert, abgelehnt oder markiert werden, bitten Sie das Unternehmen direkt um eine menschliche Überprüfung, da die DSGVO und ähnliche Gesetze in anderen Rechtsordnungen diese Option zunehmend vorschreiben. Und bleiben Sie wachsam, wie viele persönliche Daten Sie Apps überlassen, die folgenreiche Entscheidungen treffen, denn eine rekordverdächtige DSGVO-Strafe für automatisierte Entscheidungen wie diese zeigt, dass Regulierungsbehörden genau hinschauen – auch wenn einzelne Nutzer oft nicht das vollständige Bild erhalten.
