Ennätyksellinen sakko algoritmisista irtisanomisista
Alankomaiden tietosuojaviranomainen (AP) on päättänyt määrätä Uberille 825 miljoonan euron sakon, joka on noin 966 miljoonaa dollaria, Reutersin tarkastaman asiakirjan mukaan. Sakko johtuu Uberin käytännöstä poistaa kuljettajien tilit käytöstä automatisoitujen järjestelmien kautta, minkä viranomaiset sanovat rikkoneen Euroopan tietosuojasääntöjä. Reutersin raportti, joka perustuu sisäisiin asiakirjoihin, on yksi suurimmista tunnetuista sakoista, jotka on määrätty EU:n yleisen tietosuoja-asetuksen (GDPR) nojalla, ja se nostaa valokeilaan ennennäkemättömän suuren GDPR:n automatisoidusta päätöksenteosta määrätyn sakon.
Tapauksen ytimessä on keikkatalouden työntekijöiltä tuttu valitus: kuljettajat, joiden tilit on jäädytetty tai lopetettu ilman suurempia selityksiä, mikä vaikuttaa algoritmin laukaisemalta pikemminkin kuin ihmisarvioijan tekemältä. Kun ihmisen toimeentulo riippuu sovelluksesta, automatisoitu tilin poisto voi tuntua vähemmän liiketoimintapäätökseltä ja enemmän siltä, että järjestelmä, jota kukaan ei voi kyseenalaistaa, pyyhkii hänet pois.
Miten GDPR:n 22. artikla rajoittaa automatisoituja päätöksiä
GDPR sisältää erityisiä suojatoimia päätöksiä vastaan, jotka perustuvat "pelkästään automatisoituun käsittelyyn", kun näillä päätöksillä on oikeudellisia vaikutuksia tai vastaavanlaisia merkittäviä vaikutuksia henkilöön. Pääsyn menettäminen alustalle, joka tarjoaa tulonlähteen, täyttää selvästi merkittävyyden kriteerin. Tämän kehyksen mukaan yritysten on yleensä oltava laillinen peruste täysin automatisoidun päätöksenteon käytölle, ja niiden on annettava asianosaisille mahdollisuus saada asia ihmisen arvioitavaksi, ilmaista näkökantansa ja riitauttaa lopputulos.
Sääntö on olemassa, koska automatisoidut järjestelmät voivat olla läpinäkymättömiä. Algoritmin poistamalla kuljettajalla ei usein ole selvää tietä ymmärtää, miksi näin tapahtui, mikä data sen laukaisi tai miten siitä voi valittaa. Viranomaiset ovat yhä useammin alkaneet kohdella tätä läpinäkymättömyyttä ongelmana sinänsä, ei vain tehokkaan liiketoiminnan sivutuotteena. Alankomaiden AP:n päätös Uberia vastaan viittaa siihen, että kun yritys automatisoi korkean panoksen päätöksiä ihmisten tileistä tai tuloista ilman riittävää läpinäkyvyyttä ja inhimillistä valvontaa, taloudelliset seuraukset voivat olla vakavat.
Miksi tämä on tärkeää muullekin kuin kyytipalveluille
Tämän voi olla houkuttelevaa lukea keikkatyöhön liittyvänä tarinana, mutta taustalla oleva ongelma ulottuu paljon kyytisovelluksia pidemmälle. Mikä tahansa alusta, joka käyttää automatisoituja järjestelmiä käyttäjiä koskeviin päätöksiin – olipa kyseessä tilien merkitseminen petosepäilyksi, lainahakemusten hylkääminen, vakuutusmaksujen säätäminen tai työnhakijoiden suodattaminen – kohtaa saman perusvaatimuksen: ihmisillä, joita nämä päätökset koskevat, on oikeuksia, mukaan lukien oikeus tietää, että päätös oli automatisoitu, ja oikeus riitauttaa se.
Sakon suuruus lähettää signaalin yrityksille myös kuljetusalan ulkopuolelle. Kun yhä useammat palvelut nojaavat algoritmeihin hoitaakseen kaikkea tilien turvallisuudesta asiakkaiden kelpoisuuteen, viranomaiset vaikuttavat valmiilta panemaan täytäntöön sen periaatteen, että automaatio ei poista vastuuvelvollisuutta. Päinvastoin, se nostaa rimaa, koska musta laatikko -järjestelmää, joka ei pysty selittämään itseään, on vaikeampi puolustaa kuin ihmispäättäjää, joka voi ainakin perustella päätöksensä.
Mitä tämä tarkoittaa sinulle
Jos sinulta on koskaan jäädytetty sovellustili, hylätty lainahakemus tai rajoitettu palvelua epämääräisellä automatisoidulla ilmoituksella, tämä tapaus muistuttaa, että sinulla voi olla enemmän mahdollisuuksia toimia kuin käyttöliittymä antaa ymmärtää. GDPR:n nojalla EU:n henkilöt (ja usein myös ne, joiden dataa EU:ssa toimivat tai EU:lle palveluita tarjoavat yritykset käsittelevät) voivat kysyä, oliko heitä koskeva päätös automatisoitu, pyytää asian ihmisen arvioitavaksi ja riitauttaa lopputuloksen. Myös EU:n ulkopuolella tällaisten päätösten luoma paine työntää yrityksiä kohti selkeämpiä käytäntöjä ja parempia valitusprosesseja maailmanlaajuisesti, koska erillisten järjestelmien ylläpito eri alueille on usein kalliimpaa kuin standardien nostaminen kaikkialla.
Tämä on myös hyvä hetki miettiä henkilötietojesi laajempaa jalanjälkeä. Jokainen sovellus, joka profiloi käyttäytymistäsi – hyväksyäkseen kyydin, myöntääkseen luottoa tai kohdistaakseen mainoksen – tekee päätöksiä antamasi datan perusteella, usein ilman täyttä näkyvyyttä siihen, miten dataa painotetaan.
Lukijan oivallukset
Jos käytät keikka-alustoja, finanssisovelluksia tai muita palveluita, jotka käyttävät automatisoituja tilipäätöksiä, harkitse muutamia konkreettisia toimia. Käy läpi säännöllisesti käyttämiesi sovellusten tietosuojakäytännöt ja käyttöehdot nähdäksesi, paljastavatko ne automatisoidun päätöksenteon. Jos sinut joskus poistetaan käytöstä, hylätään tai merkitään algoritmin toimesta, pyydä yritykseltä suoraan asian käsittelyä ihmisen toimesta, koska GDPR ja vastaavat lait muilla lainkäyttöalueilla edellyttävät tätä vaihtoehtoa yhä useammin. Ja pysy valppaana sen suhteen, kuinka paljon henkilötietoja annat sovelluksille, jotka tekevät merkittäviä päätöksiä, koska tämän kaltainen ennätyssuuri GDPR:n automatisoitua päätöksentekoa koskeva sakko osoittaa, että viranomaiset seuraavat tarkasti, vaikka yksittäisille käyttäjille ei usein anneta täyttä kuvaa.
