Uber se suočava s jednom od najvećih kazni za privatnost ikada izrečenih u Europi. Nizozemsko povjerenstvo za zaštitu osobnih podataka (Autoriteit Persoonsgegevens) kaznilo je tvrtku za prijevoz putnika s 825 milijuna eura, otprilike 966 milijuna dolara, zbog korištenja automatiziranih sustava za suspendiranje vozačkih računa. Kazna je rangirana kao druga najveća ikada izrečena u skladu s Općom uredbom o zaštiti podataka (GDPR), što naglašava koliko ozbiljno europski regulatori tretiraju algoritamsko odlučivanje koje utječe na egzistenciju ljudi.

Što je nizozemski regulator utvrdio

Prema nizozemskom povjerenstvu za zaštitu osobnih podataka, Uber se oslanjao na automatizirani softver za označavanje i suspendiranje vozačkih računa, proces koji je vozače lišavao mogućnosti rada na platformi, ponekad bez odgovarajućeg ljudskog pregleda ili jasnog puta za osporavanje odluke. Provedbene mjere GDPR-a ove su razmjere rijetke, a veličina ove kazne signalizira da regulatori automatizirane deaktivacije računa smatraju ozbiljnim pitanjem zaštite podataka, a ne samo sporom oko korisničke službe. Kao što je detaljno opisano u ranijem izvješću o kazni Uberu zbog GDPR zabrana, kazna izravno proizlazi iz načina na koji su algoritmi tvrtke obrađivali osobne podatke kako bi donosili važne odluke o vozačima bez dovoljne transparentnosti ili nadzora.

Ovaj slučaj naglašava ponavljajuću napetost u ekonomiji platformi: tvrtke se sve više oslanjaju na automatizirane sustave za upravljanje velikom radnom snagom, ali ti isti sustavi mogu donositi odluke koje mijenjaju živote, poput prekida nečijeg prihoda, uz vrlo malu vidljivost o tome kako ili zašto je odluka donesena.

Zašto automatizirane suspenzije potiču GDPR nadzor

GDPR pojedincima daje posebna prava kada je riječ o automatiziranom odlučivanju. Prema ovoj uredbi, ljudi općenito imaju pravo ne biti podvrgnuti odluci koja se temelji isključivo na automatiziranoj obradi kada ta odluka proizvodi pravne učinke ili slično značajne posljedice za njih. Suspendiranje vozačkog računa, a time i njegove mogućnosti zarađivanja, jasno spada u tu kategoriju.

Regulatori su dosljedno odbijali tvrtke koje koriste algoritme "crne kutije" za donošenje takvih odluka bez pružanja pogođenim pojedincima smislene mogućnosti ljudskog pregleda ili objašnjenja odluke. Ova kazna protiv Ubera uklapa se u taj širi obrazac GDPR provedbe usmjerene na automatizirane sustave koji nemaju transparentnost, a ne na kažnjavanje povreda podataka ili hakiranja.

Za tvrtku koja posluje na desecima europskih tržišta, kazna ove veličine, druga najveća GDPR kazna u povijesti, jasan je signal da su tijela za zaštitu podataka spremna izreći ozbiljne financijske posljedice kada se utvrdi da automatizirani procesi krše prava pojedinaca.

Što to znači za vas

Ako vozite za platformu ekonomije honorarnih poslova, surađujete s bilo kojom uslugom koja koristi automatizirano upravljanje računima ili jednostavno koristite aplikacije koje donose algoritamske odluke o vama, ovaj slučaj podsjetnik je da imate prava prema zakonima o privatnosti kada je riječ o automatiziranom odlučivanju. U EU-u to uključuje pravo na zahtjev za ljudskom intervencijom, izražavanje vlastitog stajališta i osporavanje odluke donesene isključivo algoritmom.

Čak i ako niste vozač ili honorarni radnik, presuda je važna jer potvrđuje koliko ozbiljno regulatori tretiraju zaštitu podataka u vezi s automatiziranim sustavima općenito, a ne samo povrede ili hakiranja. Tvrtke koje se oslanjaju na algoritme za upravljanje računima, članstvima ili uslugama sada se suočavaju sa stvarnim financijskim rizikom ako ti sustavi rade bez odgovarajuće transparentnosti ili ljudskog nadzora.

Za obične korisnike ovo je također dobar trenutak da preispitaju koliko kontrole imate nad vlastitim podacima i statusom računa na platformama koje redovito koristite. Razumijevanje procesa žalbe tvrtke te toga pregledava li čovjek automatizirane odluke može vam pomoći da izbjegnete sličan spor.

Ključne poruke

Kazna Uberu prekretnica je za provedbu GDPR-a i nudi nekoliko praktičnih lekcija za čitatelje:

  • Znajte svoja prava: prema GDPR-u možete zatražiti ljudski pregled svake automatizirane odluke koja značajno utječe na vas.
  • Ako platforma suspendira ili ograniči vaš račun, izričito pitajte je li odluka bila automatizirana i zatražite objašnjenje.
  • Čuvajte zapise o aktivnostima na računu i svim komunikacijama s platformom u slučaju da trebate osporiti automatiziranu odluku.
  • Pratite daljnji razvoj događaja jer bi ova kazna mogla potaknuti druge regulatore diljem Europe na ispitivanje sličnih automatiziranih sustava koje koriste druge tvrtke.

Dok regulatori nastavljaju ispitivati granice GDPR-a u odnosu na moćne automatizirane sustave, ovakvi slučajevi vjerojatno će oblikovati način na koji platforme dizajniraju svoje algoritme i koliko transparentnosti duguju ljudima na koje oni utječu.