Uber krijgt te maken met een van de grootste privacyboetes die ooit in Europa zijn opgelegd. De Nederlandse Autoriteit Persoonsgegevens heeft het taxibedrijf een boete van €825 miljoen opgelegd, ongeveer $966 miljoen, vanwege het gebruik van geautomatiseerde systemen om chauffeursaccounts op te schorten. De boete is de op een na grootste boete die ooit is opgelegd onder de Algemene Verordening Gegevensbescherming (AVG), wat benadrukt hoe serieus Europese toezichthouders algoritmische besluitvorming nemen die invloed heeft op het levensonderhoud van mensen.

Wat de Nederlandse toezichthouder aantrof

Volgens de Nederlandse Autoriteit Persoonsgegevens maakte Uber gebruik van geautomatiseerde software om chauffeursaccounts te markeren en op te schorten. Dit proces ontnam chauffeurs de mogelijkheid om op het platform te werken, soms zonder adequate menselijke beoordeling of een duidelijke mogelijkheid om de beslissing aan te vechten. AVG-handhavingsmaatregelen van deze omvang zijn zeldzaam, en de hoogte van deze boete geeft aan dat toezichthouders geautomatiseerde accountdeactivaties zien als een ernstig gegevensbeschermingsprobleem, niet slechts als een geschil over klantenservice. Zoals uitgebreid beschreven in eerdere berichtgeving over de Uber GDPR-banboete, is de boete een direct gevolg van de manier waarop de algoritmes van het bedrijf persoonsgegevens verwerkten om ingrijpende beslissingen over chauffeurs te nemen, zonder voldoende transparantie of toezicht.

Deze zaak benadrukt een terugkerende spanning in de platformeconomie: bedrijven vertrouwen steeds vaker op geautomatiseerde systemen om grote personeelsbestanden op schaal te beheren, maar dezelfde systemen kunnen levensveranderende beslissingen nemen, zoals het afsluiten van iemands inkomen, met weinig inzicht in hoe of waarom een beslissing is genomen.

Waarom geautomatiseerde opschortingen AVG-toezicht oproepen

De AVG geeft individuen specifieke rechten als het gaat om geautomatiseerde besluitvorming. Op grond van de verordening hebben mensen over het algemeen het recht om niet te worden onderworpen aan een beslissing die uitsluitend op geautomatiseerde verwerking is gebaseerd, wanneer die beslissing rechtsgevolgen heeft of hen op vergelijkbare wijze aanzienlijk treft. Het opschorten van een chauffeursaccount, en daarmee de mogelijkheid om inkomen te verdienen, valt duidelijk in die categorie.

Toezichthouders hebben zich consequent verzet tegen bedrijven die black-box-algoritmes gebruiken om dit soort beslissingen te nemen zonder betrokkenen een zinvolle mogelijkheid te bieden voor menselijke beoordeling of een uitleg van de beslissing. Deze boete tegen Uber past in dat bredere patroon van AVG-handhaving die zich richt op geautomatiseerde systemen zonder transparantie, in plaats van het bestraffen van datalekken of hacking-incidenten.

Voor een bedrijf dat actief is in tientallen Europese markten is een boete van deze omvang, de op een na grootste AVG-boete ooit, een duidelijk signaal dat gegevensbeschermingsautoriteiten bereid zijn om zware financiële consequenties op te leggen wanneer geautomatiseerde processen de rechten van individuen schenden.

Wat dit voor u betekent

Als u rijdt voor een platform in de deeleconomie, werkt met een dienst die geautomatiseerd accountbeheer gebruikt, of gewoon apps gebruikt die algoritmische beslissingen over u nemen, is deze zaak een herinnering dat u rechten heeft onder de privacywetgeving als het gaat om geautomatiseerde besluitvorming. In de EU omvat dit het recht om menselijke tussenkomst te vragen, uw standpunt kenbaar te maken en een beslissing die uitsluitend door een algoritme is genomen aan te vechten.

Zelfs als u geen chauffeur of gig-werker bent, is de uitspraak belangrijk omdat deze bevestigt hoe serieus toezichthouders gegevensbescherming nemen in relatie tot geautomatiseerde systemen in het algemeen, niet alleen datalekken of hacking. Bedrijven die algoritmes gebruiken om accounts, lidmaatschappen of diensten te beheren, lopen nu een reëel financieel risico als die systemen functioneren zonder adequate transparantie of menselijk toezicht.

Voor dagelijkse gebruikers is dit ook een goed moment om te bekijken hoeveel controle u heeft over uw eigen gegevens en accountstatus op platforms die u regelmatig gebruikt. Inzicht in het beroepsproces van een bedrijf, en of een mens geautomatiseerde beslissingen beoordeelt, kan u helpen om in een soortgelijk geschil terecht te komen.

Belangrijkste punten

De Uber-boete is een mijlpaal voor AVG-handhaving en biedt een aantal praktische lessen voor lezers:

  • Ken uw rechten: onder de AVG kunt u menselijke beoordeling vragen van elke geautomatiseerde beslissing die u aanzienlijk treft.
  • Als een platform uw account opschort of beperkt, vraag dan specifiek of de beslissing geautomatiseerd was en verzoek om een uitleg.
  • Bewaar documentatie van uw accountactiviteit en eventuele communicatie met een platform voor het geval u een geautomatiseerde beslissing moet aanvechten.
  • Let op verdere ontwikkelingen, aangezien deze boete andere toezichthouders in Europa kan aanzetten om vergelijkbare geautomatiseerde systemen van andere bedrijven onder de loep te nemen.

Terwijl toezichthouders de grenzen van de AVG blijven testen tegen krachtige geautomatiseerde systemen, zullen zaken als deze waarschijnlijk bepalen hoe platforms hun algoritmes ontwerpen en hoeveel transparantie zij verschuldigd zijn aan de mensen die door hen worden beïnvloed.