Nederlandse Toezichthouder Legt Uber Boete van $966 Miljoen Op vanwege AVG

Een Recordboete voor Algoritmische Ontslagen

De Nederlandse Autoriteit Persoonsgegevens (AP) heeft besloten om Uber een boete van €825 miljoen op te leggen, ongeveer $966 miljoen, volgens een door Reuters ingezien document. De boete is het gevolg van Ubers praktijk van het deactiveren van accounts van chauffeurs via geautomatiseerde systemen, een proces waarvan toezichthouders zeggen dat het in strijd is met Europese regels voor gegevensbescherming. Het Reuters-rapport, gebaseerd op interne documentatie, markeert een van de grootste bekende boetes die zijn opgelegd onder de Algemene Verordening Gegevensbescherming (AVG) van de Europese Unie en zet een schijnwerper op een boete voor geautomatiseerde besluitvorming onder de AVG van ongekende omvang.

In het centrum van de zaak staat een bekende klacht van werknemers in de kluseconomie: chauffeurs wier accounts werden geschorst of beëindigd met weinig uitleg, schijnbaar veroorzaakt door een algoritme in plaats van een menselijke beoordelaar. Wanneer iemands levensonderhoud afhangt van een app, kan een geautomatiseerde deactivering aanvoelen minder als een zakelijke beslissing en meer als gewist worden door een systeem dat niemand ter discussie kan stellen.

Hoe Artikel 22 van de AVG Geautomatiseerde Besluiten Beperkt

De AVG bevat specifieke beschermingen tegen besluiten die "uitsluitend op geautomatiseerde verwerking" zijn gebaseerd, wanneer die besluiten rechtsgevolgen hebben of iemand op vergelijkbare wijze significant raken. Toegang verliezen tot een platform dat uw inkomen verschaft, kwalificeert duidelijk als significant. Binnen dit kader moeten bedrijven over het algemeen een rechtsgrondslag hebben om te vertrouwen op volledig geautomatiseerde besluitvorming, en zij moeten betrokken personen een manier bieden om menselijke beoordeling te verkrijgen, hun standpunt kenbaar te maken en de uitkomst aan te vechten.

De regel bestaat omdat geautomatiseerde systemen ondoorzichtig kunnen zijn. Een chauffeur die door een algoritme wordt gedeactiveerd, heeft vaak geen duidelijke weg om te begrijpen waarom het is gebeurd, welke gegevens het hebben veroorzaakt, of hoe hij in beroep kan gaan. Toezichthouders behandelen die ondoorzichtigheid steeds vaker als een probleem op zich, niet slechts als een bijeffect van efficiënte bedrijfsvoering. De beslissing van de Nederlandse AP tegen Uber suggereert dat wanneer een bedrijf beslissingen met hoge inzet over accounts of inkomsten van mensen automatiseert zonder adequate transparantie en menselijk toezicht, de financiële gevolgen ernstig kunnen zijn.

Waarom Dit Verder Reikt Dan Alleen Rittendiensten

Het is verleidelijk om dit te lezen als een verhaal dat specifiek is voor kluswerk, maar het onderliggende probleem reikt veel verder dan rittendiensten-apps. Elk platform dat geautomatiseerde systemen gebruikt om beslissingen over gebruikers te nemen, of het nu gaat om het markeren van accounts voor fraude, het afwijzen van leningaanvragen, het aanpassen van verzekeringspremies of het filteren van sollicitanten, staat voor dezelfde basisvereiste: mensen die door die beslissingen worden geraakt hebben rechten, waaronder het recht om te weten dat een beslissing geautomatiseerd was en het recht om die aan te vechten.

De omvang van deze boete zendt een signaal naar bedrijven ver buiten de transportsector. Nu steeds meer diensten leunen op algoritmen om alles te beheren, van accountbeveiliging tot klantgeschiktheid, lijken toezichthouders bereid om het idee te handhaven dat automatisering verantwoordelijkheid niet wegneemt. Als er al iets is, verhoogt het de lat, omdat een black-box-systeem dat zichzelf niet kan uitleggen moeilijker te verdedigen is dan een menselijke beslisser die op zijn minst zijn redenering kan verwoorden.

Wat Dit Voor U Betekent

Als u ooit een app-account heeft laten schorsen, een leningaanvraag afgewezen heeft gezien, of een dienst beperkt heeft gezien met een vage automatische melding, is deze zaak een herinnering dat u mogelijk meer rechtsmiddelen heeft dan de interface suggereert. Onder de AVG kunnen individuen in de EU (en vaak degenen wier gegevens worden verwerkt door in de EU gevestigde of voor de EU werkende bedrijven) vragen of een beslissing die hen raakt geautomatiseerd was, menselijke beoordeling aanvragen, en de uitkomst aanvechten. Zelfs buiten de EU zorgt de druk die door uitspraken zoals deze wordt gecreëerd er doorgaans voor dat bedrijven wereldwijd naar duidelijkere beleidslijnen en betere beroepsprocedures neigen, omdat het handhaven van afzonderlijke systemen voor verschillende regio's vaak duurder is dan het verhogen van normen overal.

Dit is ook een goed moment om na te denken over de bredere voetafdruk van uw persoonlijke gegevens. Elke app die uw gedrag profileert, of het nu gaat om het goedkeuren van een rit, het verlenen van krediet of het personaliseren van een advertentie, neemt beslissingen op basis van gegevens die u heeft verstrekt, vaak zonder volledig zicht op hoe die gegevens worden gewogen.

Inzichten Voor Lezers

Als u afhankelijk bent van klusplatforms, financiële apps of andere diensten die geautomatiseerde accountbeslissingen gebruiken, overweeg dan een paar concrete stappen. Bekijk het privacybeleid en de servicevoorwaarden van apps die u regelmatig gebruikt om te zien of zij geautomatiseerde besluitvorming vermelden. Als u ooit wordt gedeactiveerd, afgewezen of gemarkeerd door een algoritme, vraag het bedrijf dan rechtstreeks om een menselijke beoordeling, aangezien de AVG en soortgelijke wetten in andere rechtsgebieden deze optie steeds vaker vereisen. En blijf alert op hoeveel persoonlijke gegevens u overdraagt aan apps die beslissingen met gevolgen nemen, omdat een recordbrekende boete voor geautomatiseerde besluitvorming onder de AVG zoals deze laat zien dat toezichthouders er nauwlettend op letten, zelfs als individuele gebruikers vaak niet het volledige beeld krijgen.