Рекордна глоба за алгоритмични уволнения
Нидерландският орган за защита на данните (AP) е решил да глоби Uber с 825 милиона евро, приблизително 966 милиона долара, според документ, прегледан от Reuters. Санкцията произтича от практиката на Uber да деактивира акаунтите на шофьорите чрез автоматизирани системи, процес, който според регулаторите нарушава европейските правила за защита на данните. Докладът на Reuters, базиран на вътрешна документация, отбелязва една от най-големите известни глоби, наложени съгласно Общия регламент за защита на данните (GDPR) на Европейския съюз, и поставя акцент върху глоба за автоматизирано вземане на решения по GDPR с безпрецедентен мащаб.
В центъра на делото е познат проблем за работниците в икономиката на временните договори: шофьори, чиито акаунти са били спрени или прекратени с малко обяснение, очевидно задействани от алгоритъм, а не от човешки преглед. Когато поминъкът на човек зависи от приложение, автоматизираното деактивиране може да се почувства по-скоро като изтриване от система, която никой не може да оспори, отколкото като бизнес решение.
Как член 22 от GDPR ограничава автоматизираните решения
GDPR включва конкретни защити срещу решения, взети „единствено чрез автоматизирана обработка", когато тези решения водят до правни последици или подобни значителни въздействия върху дадено лице. Загубата на достъп до платформа, която осигурява дохода ви, очевидно се квалифицира като значителна. В тази рамка компаниите обикновено се нуждаят от законосъобразно основание, за да разчитат на напълно автоматизирано вземане на решения, и трябва да дадат на засегнатите лица начин да получат човешки преглед, да изразят своята гледна точка и да оспорят резултата.
Правилото съществува, защото автоматизираните системи могат да бъдат непрозрачни. Шофьор, деактивиран от алгоритъм, често няма ясен път да разбере защо се е случило, какви данни са го задействали или как да обжалва. Регулаторите все по-често третират тази непрозрачност като проблем сам по себе си, а не просто като страничен ефект от ефективни бизнес операции. Решението на нидерландския AP срещу Uber предполага, че когато компания автоматизира решения с високи залози относно акаунтите или доходите на хората без адекватна прозрачност и човешки надзор, финансовите последици могат да бъдат тежки.
Защо това има значение отвъд услугите за превоз
Изкушаващо е да се чете това като история, специфична за временната работа, но основният проблем се простира далеч отвъд приложенията за превоз. Всяка платформа, която използва автоматизирани системи за вземане на решения относно потребителите, независимо дали става въпрос за маркиране на акаунти за измама, отказ на заявления за кредит, коригиране на застрахователни премии или филтриране на кандидати за работа, е изправена пред същото основно изискване: хората, засегнати от тези решения, имат права, включително правото да знаят, че решението е автоматизирано, и правото да го оспорят.
Мащабът на тази глоба изпраща сигнал до компании далеч извън транспортния сектор. Тъй като все повече услуги разчитат на алгоритми за управление на всичко — от сигурността на акаунтите до допустимостта на клиентите, регулаторите изглежда са готови да наложат идеята, че автоматизацията не премахва отговорността. Ако нещо, тя повишава летвата, защото система със затворен код, която не може да се обясни, е по-трудна за защита от човешко решение, което поне може да артикулира своите мотиви.
Какво означава това за вас
Ако някога сте имали спрян акаунт в приложение, отхвърлено заявление за кредит или ограничена услуга с неясно автоматизирано известие, това дело е напомняне, че може да имате повече средства за защита, отколкото интерфейсът подсказва. Съгласно GDPR лицата в ЕС (и често тези, чиито данни се обработват от компании, базирани в ЕС или обслужващи ЕС) могат да попитат дали решение, което ги засяга, е автоматизирано, да поискат човешки преглед и да оспорят резултата. Дори извън ЕС, натискът, създаден от подобни решения, обикновено тласка компаниите към по-ясни политики и по-добри процеси за обжалване в световен мащаб, тъй като поддържането на отделни системи за различни региони често е по-скъпо от повишаването на стандартите навсякъде.
Това също е добър момент да помислите за по-широкия отпечатък на вашите лични данни. Всяко приложение, което профилира поведението ви, независимо дали за одобряване на превоз, отпускане на кредит или персонализиране на реклама, взема решения въз основа на данни, които сте предоставили, често без пълна видимост за това как тези данни се претеглят.
Изводи за читателите
Ако разчитате на платформи за временна работа, финансови приложения или всякакви услуги, които използват автоматизирани решения за акаунти, помислете за няколко конкретни стъпки. Прегледайте политиките за поверителност и условията за ползване на приложенията, които използвате редовно, за да видите дали разкриват автоматизирано вземане на решения. Ако някога бъдете деактивирани, отхвърлени или маркирани от алгоритъм, поискайте директно от компанията човешки преглед, тъй като GDPR и подобни закони в други юрисдикции все повече изискват тази опция. И останете бдителни относно това колко лични данни предоставяте на приложения, които вземат важни решения, защото рекордна глоба за автоматизирано вземане на решения по GDPR като тази показва, че регулаторите обръщат сериозно внимание, дори когато отделните потребители често не получават пълната картина.
