Uber deve affrontare una multa da 825 milioni di euro ai sensi del GDPR legata a una pratica che probabilmente suona familiare a chiunque sia mai stato bloccato fuori da un account senza spiegazioni: la sospensione automatica degli autisti basata su decisioni algoritmiche, senza che un essere umano abbia mai esaminato il caso. La sanzione è una delle più elevate multe per violazione della privacy degli ultimi tempi e mette sotto i riflettori un diritto che la maggior parte degli utenti di Internet non sa di avere: il diritto a non essere soggetti a decisioni puramente automatizzate che comportano conseguenze reali.

Cosa ha fatto Uber: sospensioni algoritmiche senza revisione umana

Al centro di questo caso c'è il sistema di Uber per la disattivazione degli autisti. Secondo le autorità di regolamentazione, gli autisti potevano essere sospesi e, di fatto, perdere il proprio reddito, esclusivamente sulla base di valutazioni automatizzate della loro attività, segnali di frode, valutazioni o altri dati, senza che una persona intervenisse mai per confermare che la decisione fosse giusta o addirittura accurata. Per un lavoratore della gig economy, una sospensione non è un piccolo inconveniente. Può significare una perdita immediata del mezzo di sostentamento, spesso con poca chiarezza sul motivo per cui è accaduto o su come fare ricorso.

Questa non è una storia su un singolo algoritmo fuori controllo che commette un errore. Si tratta di una scelta strutturale: costruire un sistema in cui le macchine prendono decisioni consequenziali e gli esseri umani sono facoltativi. Questa distinzione conta enormemente ai sensi della legge europea sulla privacy, ed è il motivo per cui la multa ha raggiunto centinaia di milioni di euro piuttosto che una lettera di avvertimento. I lettori che vogliono il quadro normativo completo, incluso come è stata calcolata la sanzione e cosa ha rilevato l'autorità olandese, possono consultare la multa originale del GDPR inflitta dal regolatore olandese a Uber per maggiori dettagli sul caso.

Come l'Articolo 22 del GDPR protegge dalle decisioni automatizzate

La base giuridica di questa multa risiede nell'Articolo 22 del GDPR, una disposizione che conferisce agli individui il diritto a non essere soggetti a una decisione basata esclusivamente sul trattamento automatizzato quando tale decisione produce effetti giuridici o incide in modo analogo significativamente sulla persona. Perdere l'accesso alla propria fonte primaria di reddito rientra chiaramente in questa casistica.

La norma non vieta del tutto l'automazione. Le aziende possono utilizzare algoritmi per segnalare problemi, valutare il rischio o smistare i casi. Ciò che il GDPR richiede è che quando una decisione ha conseguenze gravi, un essere umano deve essere coinvolto in modo sostanziale: qualcuno con l'autorità e le informazioni per poter realmente sovrascrivere la macchina, non solo apporre una firma di routine al suo output. Le autorità di regolamentazione hanno sempre più spesso considerato insufficiente il fatto che "una persona abbia cliccato su approva" se quella persona non ha mai avuto una reale possibilità di indagare o invertire il risultato. Il caso di Uber suggerisce che quel divario, tra avere un essere umano nel circuito sulla carta e averlo nella pratica, è esattamente il punto in cui le aziende finiscono nei guai.

Oltre il lavoro nella gig economy: shadowbanning, ban degli account e richieste di cancellazione dei dati

Sebbene questa multa coinvolga un'azienda di ride-sharing, il problema di fondo si estende ben oltre il lavoro nella gig economy. Le piattaforme di social media utilizzano sistemi automatizzati per applicare lo shadowban agli account o rimuovere contenuti. Banche e processori di pagamento utilizzano algoritmi per congelare account per sospetta frode. Servizi di streaming e marketplace bannano automaticamente gli utenti per comportamenti segnalati. Persino le richieste di cancellazione e accesso ai dati, diritti fondamentali del GDPR, vengono spesso gestite da sistemi automatizzati che possono rifiutare silenziosamente una richiesta legittima senza alcuna revisione umana.

In ciascuno di questi scenari si applica la stessa tensione: convenienza e scala per l'azienda, contro giusto processo e trasparenza per l'individuo. La maggior parte degli utenti non pensa mai a chiedere se un essere umano abbia esaminato la decisione che li ha colpiti, soprattutto perché le piattaforme raramente lo rivelano. La multa a Uber segnala che le autorità di regolamentazione stanno iniziando a trattare questa opacità come un rischio di conformità, non solo come un fastidio per il servizio clienti.

Cosa significa questo per te

Se sei mai stato sospeso, bannato o ti è stata rifiutata una richiesta da un'app o una piattaforma senza una spiegazione chiara, ci sono buone probabilità che un algoritmo abbia preso quella decisione con una supervisione umana minima o nulla. Ai sensi del GDPR, se ti trovi nell'UE o se i tuoi dati vengono trattati da un'azienda che opera lì, hai generalmente il diritto di chiedere una spiegazione delle decisioni automatizzate che ti incidono in modo significativo, di contestare la decisione e di richiedere una revisione umana sostanziale. Le aziende che operano in questo settore sono legalmente obbligate a incorporare questa valvola di sicurezza, anche se non è pubblicizzata apertamente.

Questo caso solleva anche il valore pratico di essere cauti su quanto controllo si affida a piattaforme che dipendono fortemente dall'applicazione automatizzata delle regole. Comprendere i propri diritti GDPR sulle decisioni automatizzate non è solo un concetto giuridico astratto, è uno strumento che puoi effettivamente invocare quando un'app ti blocca l'accesso o un algoritmo segnala il tuo account.

Punti chiave

Se ti trovi a ricevere una sospensione, un ban o un rifiuto automatizzato, vale la pena agire piuttosto che presumere che la decisione sia definitiva. Richiedi una spiegazione scritta di come è stata presa la decisione e se un essere umano l'ha esaminata. Cita esplicitamente i tuoi diritti GDPR se l'azienda è soggetta al diritto dell'UE e presenta un reclamo all'autorità di protezione dei dati competente se non ricevi una risposta soddisfacente. Conserva i registri delle tue comunicazioni con la piattaforma, poiché un modello documentato di decisioni automatizzate e non riesaminate è esattamente il tipo di prova che ha portato alla multa da 825 milioni di euro a Uber. Poiché gran parte della vita quotidiana viene filtrata attraverso gli algoritmi, conoscere questi diritti e usarli è uno dei modi più chiari per reagire quando la macchina sbaglia.