Uber kohtaa yhden Euroopan suurimmista yksityisyydensuojaan liittyvistä seuraamuksista. Alankomaiden tietosuojaviranomainen (Autoriteit Persoonsgegevens) on määrännyt kyytipalveluyritykselle 825 miljoonan euron, noin 966 miljoonan dollarin, sakon automaattisten järjestelmien käytöstä kuljettajien tilien jäädyttämiseen. Rangaistus on toiseksi suurin koskaan yleisen tietosuoja-asetuksen (GDPR) nojalla määrätty sakko, mikä korostaa, kuinka vakavasti eurooppalaiset sääntelyviranomaiset suhtautuvat algoritmipohjaiseen päätöksentekoon, joka vaikuttaa ihmisten toimeentuloon.
Mitä Alankomaiden sääntelyviranomainen havaitsi
Alankomaiden tietosuojaviranomaisen mukaan Uber käytti automaattista ohjelmistoa kuljettajien tilien merkitsemiseen ja jäädyttämiseen. Tämä prosessi poisti kuljettajilta mahdollisuuden työskennellä alustalla, joskus ilman riittävää ihmisen suorittamaa tarkistusta tai selkeää tapaa riitauttaa päätös. Näin mittavat GDPR-täytäntöönpanotoimet ovat harvinaisia, ja sakon suuruus osoittaa, että sääntelyviranomaiset pitävät automaattisia tilien jäädytyksiä vakavana tietosuojaongelmana, ei pelkkänä asiakaspalvelukiistana. Kuten Uberin GDPR-kieltosakkoa koskevassa aiemmassa uutisoinnissa kerrotaan yksityiskohtaisesti, seuraamus johtuu suoraan siitä, miten yrityksen algoritmit käsittelivät henkilötietoja tehdäkseen kuljettajiin vaikuttavia merkittäviä päätöksiä ilman riittävää läpinäkyvyyttä tai valvontaa.
Tapaus tuo esiin toistuvan jännitteen alustataloudessa: yritykset luottavat yhä enemmän automaattisiin järjestelmiin suurten työvoimien hallinnoinnissa, mutta samat järjestelmät voivat tehdä elämää mullistavia päätöksiä, kuten katkaista jonkun tulot, ilman että päätöksen tekotapa tai syy on juurikaan näkyvillä.
Miksi automaattiset jäädytykset herättävät GDPR-valvontaa
GDPR antaa yksilöille erityisiä oikeuksia automaattiseen päätöksentekoon liittyen. Asetuksen mukaan ihmisillä on yleensä oikeus olla joutumatta sellaisen päätöksen kohteeksi, joka perustuu yksinomaan automaattiseen käsittelyyn, jos päätöksellä on oikeudellisia vaikutuksia tai muita vastaavia merkittäviä seurauksia heille. Kuljettajan tilin jäädyttäminen ja siten hänen mahdollisuutensa ansaita tuloja kuuluu selvästi tähän luokkaan.
Sääntelyviranomaiset ovat johdonmukaisesti vastustaneet yrityksiä, jotka käyttävät mustan laatikon algoritmeja tällaisiin päätöksiin antamatta asianosaisille merkityksellistä mahdollisuutta ihmisen suorittamaan tarkasteluun tai selitystä päätöksestä. Tämä Uberille määrätty sakko sopii laajempaan GDPR-täytäntöönpanon malliin, joka kohdistuu läpinäkyvyyttä vailla oleviin automaattisiin järjestelmiin, sen sijaan että rangaistaisiin tietomurroista tai hakkerointitapauksista.
Yritykselle, joka toimii kymmenissä Euroopan markkinoissa, näin suuri sakko – toiseksi suurin GDPR-seuraamus koskaan – on selkeä signaali siitä, että tietosuojaviranomaiset ovat valmiita määräämään ankaria taloudellisia seuraamuksia, kun automaattisten prosessien todetaan loukkaavan yksilöiden oikeuksia.
Mitä tämä tarkoittaa sinulle
Jos ajat keikkatalouden alustalla, työskentelet jonkin automaattista tilinhallintaa käyttävän palvelun parissa tai käytät vain sovelluksia, jotka tekevät algoritmipohjaisia päätöksiä sinusta, tämä tapaus muistuttaa, että sinulla on yksityisyydensuojaan liittyviä oikeuksia automaattisen päätöksenteon yhteydessä. EU:ssa tähän sisältyy oikeus pyytää ihmisen väliintuloa, ilmaista oma näkemyksesi ja riitauttaa yksinomaan algoritmin tekemä päätös.
Vaikka et olisi kuljettaja tai keikkatyöntekijä, päätöksellä on merkitystä, koska se vahvistaa, kuinka vakavasti sääntelyviranomaiset suhtautuvat tietosuojaan laajasti automatisoitujen järjestelmien yhteydessä, ei pelkästään tietomurtojen tai hakkeroinnin osalta. Yritykset, jotka luottavat algoritmeihin tilien, jäsenyyksien tai palveluiden hallinnoinnissa, kohtaavat nyt todellisen taloudellisen riskin, jos järjestelmät toimivat ilman riittävää läpinäkyvyyttä tai ihmisen valvontaa.
Tavallisille käyttäjille tämä on myös hyvä hetki tarkistaa, kuinka paljon hallintaa sinulla on omista tiedoistasi ja tilisi tilasta säännöllisesti käyttämilläsi alustoilla. Yrityksen valitusmenettelyn ymmärtäminen ja sen selvittäminen, tarkistaako ihminen automaattiset päätökset, voi auttaa välttämään joutumisen vastaavaan kiistaan.
Keskeiset opetukset
Uberin sakko on merkkipaalu GDPR-täytäntöönpanossa, ja se tarjoaa muutamia käytännön opetuksia lukijoille:
- Tunne oikeutesi: GDPR:n nojalla voit pyytää ihmisen suorittamaa tarkistusta mihin tahansa automaattiseen päätökseen, joka vaikuttaa sinuun merkittävästi.
- Jos alusta jäädyttää tai rajoittaa tiliäsi, kysy erikseen, oliko päätös automaattinen, ja pyydä selitystä.
- Säilytä kirjaa tilisi toiminnasta ja kaikesta viestinnästä alustan kanssa siltä varalta, että joudut riitauttamaan automaattisen päätöksen.
- Seuraa jatkokehitystä, sillä tämä sakko voi saada muut eurooppalaiset sääntelyviranomaiset tarkastelemaan vastaavia muiden yritysten käyttämiä automaattisia järjestelmiä.
Sääntelyviranomaisten testatessa edelleen GDPR:n rajoja tehokkaita automaattijärjestelmiä vastaan tämänkaltaiset tapaukset todennäköisesti muovaavat sitä, miten alustat suunnittelevat algoritmejaan ja kuinka paljon läpinäkyvyyttä ne ovat velkaa niistä kärsiville ihmisille.
