Az Uber 825 millió eurós GDPR-bírsággal néz szembe egy olyan gyakorlat miatt, amely valószínűleg ismerősen hangzik mindazok számára, akiket már zártak ki fiókjukból magyarázat nélkül: a sofőrök automatikus felfüggesztése algoritmikus döntések alapján, anélkül, hogy bármely ember valaha is felülvizsgálta volna az esetet. A bírság a legnagyobb adatvédelmi bírságok egyike a közelmúltban, és rávilágít egy olyan jogra, amelyről a legtöbb internethasználó nem is tudja, hogy létezik: a jogra, hogy ne vonatkozzanak rá tisztán automatizált, valós következményekkel járó döntések.

Mit tett az Uber: algoritmikus felfüggesztések emberi felülvizsgálat nélkül

Az ügy középpontjában az Uber sofőrök felfüggesztésére szolgáló rendszere áll. A szabályozó hatóságok szerint a sofőrök felfüggesztésre kerülhettek – és ezáltal gyakorlatilag elveszíthették jövedelmüket – kizárólag a tevékenységükről, csalási jelekről, értékelésekről vagy más adatpontokról készült automatikus értékelések alapján, anélkül, hogy bármely személy közbelépett volna annak megerősítésére, hogy a döntés tisztességes vagy akár pontos volt. Egy gig-gazdaságbeli munkavállaló számára a felfüggesztés nem csupán apró kellemetlenség. Azonnali megélhetés-vesztést jelenthet, gyakran kevés felvilágosítással arról, hogy miért történt, vagy hogyan lehet ellene fellebbezni.

Ez nem egyetlen elszabadult algoritmus hibájáról szóló történet. Ez egy strukturális döntésről szól: olyan rendszer kiépítéséről, ahol a gépek hoznak jelentős következményekkel járó döntéseket, és az emberek csupán opcionálisak. Ez a különbségtétel rendkívül fontos az európai adatvédelmi jog szerint, és ezért érte el a bírság a több százmillió eurót, nem pedig egy figyelmeztető levelet. Azok az olvasók, akik a teljes szabályozási hátteret szeretnék megismerni, beleértve a bírság kiszámításának módját és a holland hatóság megállapításait, a holland szabályozó Uberrel szembeni eredeti GDPR-bírságáról szóló cikkünkben találhatnak részletesebb információt az ügyről.

Hogyan védi a GDPR 22. cikke az automatizált döntésekkel szemben

A bírság jogi alapja a GDPR 22. cikkében található, amely rendelkezés jogot biztosít az egyéneknek arra, hogy ne vonatkozzon rájuk olyan döntés, amely kizárólag automatizált feldolgozáson alapul, ha az a döntés joghatással jár, vagy őket hasonlóan jelentős mértékben érinti. Az elsődleges jövedelemforráshoz való hozzáférés elvesztése egyértelműen ebbe a kategóriába tartozik.

A szabály nem tiltja teljesen az automatizálást. A vállalatok használhatnak algoritmusokat problémák jelzésére, kockázatértékelésre vagy ügyek szűrésére. Amit a GDPR megkövetel, az az, hogy amikor egy döntésnek súlyos következményei vannak, egy embernek érdemben részt kell vennie – valakinek, akinek joga és információja van ahhoz, hogy ténylegesen felülbírálja a gépet, nem csupán ráüt a bélyegzővel a kimenetelre. A szabályozó hatóságok egyre inkább úgy tekintenek a „egy személy rákattintott az elfogadásra” gyakorlatra, mint elégtelenre, ha az illetőnek soha nem volt valódi lehetősége kivizsgálni vagy visszafordítani az eredményt. Az Uber esete azt sugallja, hogy ez a rés – a papíron meglévő ember a folyamatban és a gyakorlatban meglévő ember között – pontosan az a pont, ahol a vállalatok bajba kerülnek.

A gig-munka határain túl: shadowbanning, fiókletiltások és adattörlési kérelmek

Bár ez a bírság egy telekocsis vállalatot érint, a mögöttes probléma jóval túlmutat a gig-munkán. A közösségi média platformok automatizált rendszereket használnak fiókok shadowbanningjére vagy tartalmak eltávolítására. A bankok és fizetési feldolgozók algoritmusokat használnak fiókok zárolására feltételezett csalás miatt. A streaming-szolgáltatások és piacterek automatikusan tiltják a felhasználókat megjelölt viselkedés miatt. Még az adattörlési és hozzáférési kérelmeket is – amelyek a GDPR alapvető jogai – gyakran automatizált rendszerek dolgozzák fel, amelyek csendben elutasíthatnak egy jogos kérelmet emberi felülvizsgálat nélkül.

Mindegyik forgatókönyvben ugyanaz a feszültség jelentkezik: a vállalat számára a kényelem és a skálázhatóság, szemben az egyén számára a megfelelő eljárás és az átláthatóság. A legtöbb felhasználó soha nem gondol arra, hogy megkérdezze, vajon egy ember felülvizsgálta-e az őt érintő döntést, nagyrészt azért, mert a platformok ritkán hozzák ezt nyilvánosságra. Az Uber bírsága azt jelzi, hogy a szabályozó hatóságok ezt az átláthatatlanságot már megfelelési kockázatként kezdik kezelni, nem csupán ügyfélszolgálati kellemetlenségként.

Mit jelent ez Önnek

Ha valaha is felfüggesztettek, kitiltottak vagy elutasítottak egy kérést egy alkalmazás vagy platform által világos magyarázat nélkül, jó esély van rá, hogy egy algoritmus hozta meg azt a döntést minimális vagy nulla emberi felügyelettel. A GDPR értelmében, ha Ön az EU-ban tartózkodik, vagy adatait egy ott működő vállalat dolgozza fel, általában joga van magyarázatot kérni az Önt jelentősen érintő automatizált döntésekről, megtámadni a döntést, és érdemi emberi felülvizsgálatot kérni. Az ezen a területen működő vállalatok jogilag kötelesek beépíteni ezt a biztonsági szelepet, még akkor is, ha ezt nem hirdetik feltűnően.

Ez az eset felhívja a figyelmet arra a gyakorlati értékre is, hogy óvatosak legyünk azzal kapcsolatban, mekkora kontrollt adunk át azoknak a platformoknak, amelyek nagymértékben támaszkodnak automatikus érvényesítésre. Az automatizált döntéshozatalra vonatkozó GDPR-jogok megértése nem csupán elvont jogi fogalom – ez egy eszköz, amelyet ténylegesen elő lehet hívni, amikor egy alkalmazás kizárja Önt, vagy egy algoritmus megjelöli a fiókját.

Főbb tanulságok

Ha Ön egy automatizált felfüggesztés, tiltás vagy elutasítás fogadó oldalán találja magát, érdemes lépéseket tenni, nem pedig azt feltételezni, hogy a döntés végleges. Kérjen írásbeli magyarázatot arról, hogyan született a döntés, és hogy egy ember felülvizsgálta-e. Hivatkozzon kifejezetten GDPR-jogaira, ha a vállalat az uniós jog hatálya alá tartozik, és nyújtson be panaszt az illetékes adatvédelmi hatóságnál, ha nem kap kielégítő választ. Őrizze meg a platformmal folytatott kommunikációjának feljegyzéseit, mivel az automatizált, felül nem vizsgált döntések dokumentált mintája pontosan az a fajta bizonyíték, amely az Uber 825 millió eurós bírságához vezetett. Ahogy a mindennapi élet egyre nagyobb része szűrődik át algoritmusokon, ezen jogok ismerete és használata az egyik legvilágosabb módja annak, hogy visszaszóljunk, amikor a gép téved.