Une amende record pour des licenciements algorithmiques
L'Autorité néerlandaise de protection des données (AP) a décidé d'infliger à Uber une amende de 825 millions d'euros, soit environ 966 millions de dollars, selon un document examiné par Reuters. La sanction découle de la pratique d'Uber consistant à désactiver les comptes des conducteurs via des systèmes automatisés, un processus que les régulateurs estiment contraire aux règles européennes de protection des données. Le rapport de Reuters, basé sur des documents internes, constitue l'une des plus importantes amendes connues infligées en vertu du Règlement général sur la protection des données (RGPD) de l'Union européenne et met en lumière une amende d'une ampleur sans précédent liée à la prise de décision automatisée au titre du RGPD.
Au centre de cette affaire se trouve une plainte bien connue des travailleurs de l'économie des plateformes : des conducteurs dont les comptes ont été suspendus ou résiliés avec peu d'explications, apparemment déclenchés par un algorithme plutôt que par un examinateur humain. Lorsque le revenu d'une personne dépend d'une application, une désactivation automatisée peut sembler moins une décision commerciale qu'une suppression par un système que personne ne peut contester.
Comment l'article 22 du RGPD restreint les décisions automatisées
Le RGPD comprend des protections spécifiques contre les décisions prises « uniquement sur la base d'un traitement automatisé » lorsque ces décisions produisent des effets juridiques ou des impacts tout aussi significatifs sur une personne. Perdre l'accès à une plateforme qui procure ses revenus entre clairement dans cette catégorie. Dans ce cadre, les entreprises doivent généralement disposer d'une base légale pour recourir à une prise de décision entièrement automatisée, et elles doivent offrir aux personnes concernées un moyen d'obtenir un examen humain, d'exprimer leur point de vue et de contester le résultat.
Cette règle existe parce que les systèmes automatisés peuvent être opaques. Un conducteur désactivé par un algorithme n'a souvent aucun moyen clair de comprendre pourquoi cela s'est produit, quelles données l'ont déclenché ou comment faire appel. Les régulateurs traitent de plus en plus cette opacité comme un problème en soi, et non simplement comme un effet secondaire d'une gestion commerciale efficace. La décision de l'AP néerlandaise contre Uber suggère que lorsqu'une entreprise automatise des décisions à forts enjeux concernant les comptes ou les revenus des personnes sans transparence adéquate ni supervision humaine, les conséquences financières peuvent être sévères.
Pourquoi cela importe au-delà des services de VTC
Il est tentant de voir cette affaire comme spécifique au travail de plateforme, mais le problème sous-jacent s'étend bien au-delà des applications de transport. Toute plateforme qui utilise des systèmes automatisés pour prendre des décisions concernant ses utilisateurs, que ce soit pour signaler des comptes frauduleux, refuser des demandes de prêt, ajuster des primes d'assurance ou filtrer des candidats à un emploi, est confrontée à la même exigence fondamentale : les personnes affectées par ces décisions ont des droits, notamment celui de savoir qu'une décision a été automatisée et celui de la contester.
L'ampleur de cette amende envoie un signal aux entreprises bien au-delà du secteur des transports. Alors que de plus en plus de services s'appuient sur des algorithmes pour gérer tout, de la sécurité des comptes à l'éligibilité des clients, les régulateurs semblent disposés à faire respecter l'idée que l'automatisation ne supprime pas la responsabilité. Bien au contraire, elle relève le niveau, car un système en boîte noire qui ne peut pas s'expliquer est plus difficile à défendre qu'un décideur humain qui peut au moins articuler son raisonnement.
Ce que cela signifie pour vous
Si vous avez déjà eu un compte d'application suspendu, une demande de prêt refusée ou un service restreint avec une notification automatisée vague, cette affaire rappelle que vous avez peut-être plus de recours que ce que l'interface suggère. En vertu du RGPD, les personnes dans l'UE (et souvent celles dont les données sont traitées par des entreprises établies dans l'UE ou servant l'UE) peuvent demander si une décision les concernant a été automatisée, demander un examen humain et contester le résultat. Même en dehors de l'UE, la pression créée par des décisions comme celle-ci tend à pousser les entreprises vers des politiques plus claires et de meilleurs processus d'appel à l'échelle mondiale, car maintenir des systèmes distincts pour différentes régions coûte souvent plus cher que d'élever les normes partout.
C'est aussi un bon moment pour réfléchir à l'empreinte plus large de vos données personnelles. Chaque application qui profile votre comportement, que ce soit pour approuver un trajet, accorder un crédit ou personnaliser une publicité, prend des décisions basées sur des données que vous avez fournies, souvent sans visibilité complète sur la façon dont ces données sont pondérées.
Points à retenir pour les lecteurs
Si vous dépendez de plateformes de travail à la demande, d'applications financières ou de tout service utilisant des décisions automatisées concernant votre compte, envisagez quelques mesures concrètes. Examinez les politiques de confidentialité et les conditions d'utilisation des applications que vous utilisez régulièrement pour voir si elles divulguent la prise de décision automatisée. Si vous êtes un jour désactivé, refusé ou signalé par un algorithme, demandez directement à l'entreprise un examen humain, car le RGPD et des lois similaires dans d'autres juridictions exigent de plus en plus cette option. Et restez attentif à la quantité de données personnelles que vous transmettez aux applications qui prennent des décisions importantes, car une amende record pour prise de décision automatisée au titre du RGPD comme celle-ci montre que les régulateurs prêtent une attention particulière, même si les utilisateurs individuels ne disposent pas toujours de l'image complète.
