Uber столкнулся с одним из крупнейших штрафов за нарушение приватности, когда-либо вынесенных в Европе. Нидерландский орган по защите данных (Autoriteit Persoonsgegevens) оштрафовал компанию по вызову такси на €825 миллионов, что составляет примерно $966 миллионов, за использование автоматизированных систем для приостановки аккаунтов водителей. Этот штраф занимает второе место среди крупнейших взысканий, когда-либо наложенных в соответствии с Общим регламентом по защите данных (GDPR), что подчеркивает, насколько серьезно европейские регуляторы относятся к алгоритмическому принятию решений, затрагивающему средства к существованию людей.

Что обнаружил нидерландский регулятор

Согласно заявлению нидерландского DPA, Uber полагался на автоматизированное программное обеспечение для пометки и приостановки аккаунтов водителей — процесс, который лишал водителей возможности работать на платформе, иногда без надлежащей проверки человеком или четкого пути для обжалования решения. Меры правоприменения GDPR такого масштаба редки, и размер этого штрафа сигнализирует о том, что регуляторы рассматривают автоматическую деактивацию аккаунтов как серьезную проблему защиты данных, а не просто как спор по обслуживанию клиентов. Как подробно описано в более раннем материале о штрафе Uber за баны в соответствии с GDPR, штраф напрямую связан с тем, как алгоритмы компании обрабатывали персональные данные для принятия важных решений о водителях без достаточной прозрачности и надзора.

Это дело подчеркивает повторяющееся напряжение в экономике платформ: компании все чаще полагаются на автоматизированные системы для управления большими группами работников в масштабе, но те же системы могут принимать решения, меняющие жизнь, например, отрезая человеку доход, с минимальной видимостью того, как или почему было принято решение.

Почему автоматическая приостановка аккаунтов вызывает внимание GDPR

GDPR предоставляет индивидам конкретные права в отношении автоматизированного принятия решений. Согласно регламенту, люди в целом имеют право не подвергаться решению, основанному исключительно на автоматизированной обработке, если такое решение влечет юридические последствия или аналогичные значимые последствия для них. Приостановка аккаунта водителя, а значит, и его возможности зарабатывать доход, явно подпадает под эту категорию.

Регуляторы последовательно выступают против компаний, использующих алгоритмы «черного ящика» для принятия таких решений без предоставления затронутым лицам значимой возможности для пересмотра человеком или объяснения решения. Этот штраф против Uber вписывается в более широкую картину правоприменения GDPR, нацеленного на автоматизированные системы без прозрачности, а не на наказание за утечки данных или инциденты взлома.

Для компании, работающей на десятках европейских рынков, штраф такого масштаба — второй по величине за всю историю GDPR — является четким сигналом того, что органы по защите данных готовы налагать серьезные финансовые санкции, когда автоматизированные процессы нарушают права индивидов.

Что это значит для вас

Если вы работаете водителем на платформе гиг-экономики, пользуетесь любыми сервисами с автоматизированным управлением аккаунтами или просто используете приложения, принимающие алгоритмические решения о вас, это дело напоминает, что у вас есть права в соответствии с законодательством о приватности в отношении автоматизированного принятия решений. В ЕС это включает право запрашивать вмешательство человека, выражать свою точку зрения и оспаривать решение, принятое исключительно алгоритмом.

Даже если вы не водитель и не работник гиг-экономики, это решение важно, потому что оно усиливает серьезность отношения регуляторов к защите данных в связи с автоматизированными системами в целом, а не только к утечкам или взломам. Компании, которые используют алгоритмы для управления аккаунтами, членством или услугами, теперь сталкиваются с реальным финансовым риском, если эти системы работают без достаточной прозрачности или контроля со стороны человека.

Для обычных пользователей это также хороший повод пересмотреть, насколько вы контролируете свои собственные данные и статус аккаунта на платформах, которыми регулярно пользуетесь. Понимание процесса обжалования в компании и того, проверяет ли человек автоматизированные решения, может помочь вам избежать аналогичного спора.

Ключевые выводы

Штраф Uber — знаковый момент для правоприменения GDPR, и он дает несколько практических уроков для читателей:

  • Знайте свои права: согласно GDPR, вы можете запросить пересмотр человеком любого автоматизированного решения, которое значительно вас затрагивает.
  • Если платформа приостанавливает или ограничивает ваш аккаунт, конкретно спросите, было ли решение автоматизированным, и запросите объяснение.
  • Ведите записи активности вашего аккаунта и любых сообщений с платформой на случай необходимости оспорить автоматизированное решение.
  • Следите за дальнейшими событиями, так как этот штраф может побудить других регуляторов в Европе проверять аналогичные автоматизированные системы, используемые другими компаниями.

Поскольку регуляторы продолжают проверять границы GDPR в отношении мощных автоматизированных систем, подобные дела, вероятно, будут формировать то, как платформы проектируют свои алгоритмы и какой уровень прозрачности они обязаны предоставлять людям, которых эти алгоритмы затрагивают.