Rekordméretű Bírság az Algoritmikus Elbocsátásokért

A Holland Adatvédelmi Hatóság (AP) úgy döntött, hogy 825 millió eurós, nagyjából 966 millió dolláros bírságot szab ki az Ubergre a Reuters által áttekintett dokumentum szerint. A büntetés az Uber azon gyakorlatából ered, amelynek során a sofőrök fiókjait automatizált rendszerekkel deaktiválják – ez a folyamat a szabályozók szerint ütközött az európai adatvédelmi szabályokkal. A Reuters belső dokumentumokon alapuló jelentése az Európai Unió Általános Adatvédelmi Rendelete (GDPR) alapján kiszabott egyik legnagyobb ismert bírság, és példátlan mértékű reflektorfénybe helyezi a GDPR szerinti automatizált döntéshozatalért kiszabott bírságot.

Az ügy középpontjában a gig-gaszdaság dolgozóinak jól ismert panasza áll: sofőrök, akiknek a fiókját felfüggesztették vagy megszüntették kevés magyarázattal, és úgy tűnt, hogy azt inkább egy algoritmus váltotta ki, mint egy emberi felülvizsgáló. Amikor valaki megélhetése egy alkalmazástól függ, az automatizált deaktiválás kevésbé tűnik üzleti döntésnek, mint inkább annak, mintha egy olyan rendszer törölné el, amelyet senki sem kérdőjelezhet meg.

Hogyan Korlátozza a GDPR 22. Cikke az Automatizált Döntéseket

A GDPR konkrét védelmet nyújt a „kizárólag automatizált feldolgozáson" alapuló döntésekkel szemben, amikor ezek a döntések jogi hatást gyakorolnak, vagy hasonlóan jelentős módon érintenek egy személyt. Ha valaki elveszíti a hozzáférését egy olyan platformhoz, amely a jövedelmét biztosítja, az egyértelműen jelentős hatásnak minősül. E keretrendszer szerint a vállalatoknak általában jogszerű jogalapra van szükségük ahhoz, hogy teljesen automatizált döntéshozatalra támaszkodjanak, és biztosítaniuk kell az érintettek számára az emberi felülvizsgálat lehetőségét, valamint lehetőséget kell adniuk nekik álláspontjuk kifejezésére és az eredmény megtámadására.

A szabály azért létezik, mert az automatizált rendszerek átláthatatlanok lehetnek. Egy algoritmus által deaktivált sofőrnek gyakran nincs egyértelmű útja annak megértésére, hogy miért történt, milyen adat váltotta ki, vagy hogyan lehet fellebbezni. A szabályozók egyre inkább magát az átláthatatlanságot tekintik problémának, nem csupán a hatékony üzleti műveletek mellékhatásának. A Holland AP Uber elleni döntése arra utal, hogy amikor egy vállalat magas téttel járó döntéseket automatizál az emberek fiókjaival vagy jövedelmével kapcsolatban, megfelelő átláthatóság és emberi felügyelet nélkül, a pénzügyi következmények súlyosak lehetnek.

Miért Fontos Ez a Személyszállításon Túl

Csábító azt gondolni, hogy ez a történet kifejezetten a gig-munkáról szól, de a mögöttes probléma messze túlmutat a személyszállító alkalmazásokon. Bármely platform, amely automatizált rendszereket használ a felhasználókkal kapcsolatos döntésekhez – legyen szó fiókok csalás miatti megjelöléséről, hitelkérelmek elutasításáról, biztosítási díjak módosításáról vagy állásjelöltek szűréséről – ugyanazokkal az alapvető követelményekkel szembesül: a döntések által érintett embereknek jogai vannak, beleértve azt is, hogy tudják, hogy a döntés automatizált volt, és hogy megtámadhassák azt.

A bírság mértéke jelzést küld a közlekedési ágazaton jóval kívül eső vállalatoknak is. Ahogy egyre több szolgáltatás támaszkodik algoritmusokra mindenre a fiókbiztonságtól az ügyfelek jogosultságáig, a szabályozók készeknek tűnnek arra, hogy érvényesítsék azt az elvet, hogy az automatizáció nem szünteti meg az elszámoltathatóságot. Ha valami, akkor még magasabbra teszi a lécet, mert egy fekete doboz rendszer, amely nem tudja megmagyarázni önmagát, nehezebben védhető, mint egy emberi döntéshozó, aki legalább meg tudja fogalmazni az érveit.

Mit Jelent Ez Önnek

Ha valaha is felfüggesztették egy alkalmazás fiókját, elutasítottak egy hitelkérelmet, vagy korlátoztak egy szolgáltatást homályos automatizált értesítéssel, ez az eset emlékeztető arra, hogy több jogorvoslati lehetősége lehet, mint amit a felület sugall. A GDPR értelmében az EU-ban élő magánszemélyek (és gyakran azok, akiknek adatait EU-székhelyű vagy EU-nak szolgáltatást nyújtó vállalatok dolgozzák fel) kérdezhetik, hogy egy őket érintő döntés automatizált volt-e, kérhetnek emberi felülvizsgálatot, és megtámadhatják az eredményt. Az EU-n kívül is az ilyen döntések által keltett nyomás általában arra készteti a vállalatokat, hogy világosabb politikákat és jobb fellebbezési folyamatokat alakítsanak ki világszerte, mivel a különböző régiókra fenntartott külön rendszerek fenntartása gyakran költségesebb, mint a szabványok mindenhol történő emelése.

Ez egy jó alkalom arra is, hogy elgondolkodjon személyes adatai szélesebb körű nyomáról. Minden alkalmazás, amely profilozza a viselkedését – akár egy út jóváhagyásához, hitelnyújtáshoz vagy hirdetés személyre szabásához – az Ön által megadott adatok alapján hoz döntéseket, gyakran anélkül, hogy teljes rálátása lenne arra, hogyan súlyozzák ezeket az adatokat.

Tanulságok az Olvasók Számára

Ha gig-platformokra, pénzügyi alkalmazásokra vagy bármely olyan szolgáltatásra támaszkodik, amely automatizált fiókdöntéseket használ, fontoljon meg néhány konkrét lépést. Tekintse át a rendszeresen használt alkalmazások adatvédelmi szabályzatait és szolgáltatási feltételeit, hogy lássa, felfedik-e az automatizált döntéshozatalt. Ha valaha is deaktiválják, elutasítják vagy megjelölik egy algoritmus által, kérjen közvetlenül a vállalattól emberi felülvizsgálatot, mivel a GDPR és a hasonló törvények más joghatóságokban egyre inkább megkövetelik ezt a lehetőséget. És maradjon éber, hogy mennyi személyes adatot ad át olyan alkalmazásoknak, amelyek következményes döntéseket hoznak, mert egy ilyen rekordméretű GDPR szerinti automatizált döntéshozatali bírság megmutatja, hogy a szabályozók nagyon odafigyelnek, még akkor is, ha az egyes felhasználók gyakran nem kapnak teljes képet.