ウーバーは、欧州でこれまでに発行された中で最大級のプライバシー制裁金に直面している。オランダのデータ保護当局（Autoriteit Persoonsgegevens）は、配車大手に対し、自動化システムを用いてドライバーアカウントを停止したことをめぐり、825百万ユーロ（約9億6600万ドル）の制裁金を科した。この制裁金は、一般データ保護規則（GDPR）に基づき科された制裁金としては史上2番目の規模となり、人々の生計に影響を与えるアルゴリズムによる意思決定を欧州の規制当局がどれほど重視しているかを浮き彫りにしている。

オランダ規制当局が認定した内容

オランダのデータ保護当局によると、ウーバーは自動化ソフトウェアを使用してドライバーアカウントをフラグ付けし停止していた。このプロセスにより、ドライバーはプラットフォームで働く能力を奪われることがあり、場合によっては適切な人的審査や決定に異議を申し立てる明確な手段がないまま行われていた。この規模のGDPR執行措置は稀であり、この制裁金の大きさは、規制当局が自動化されたアカウント停止を単なるカスタマーサービスの紛争ではなく、重大なデータ保護問題と見なしていることを示している。ウーバーへのGDPR禁止制裁金に関する以前の報道で詳述されているように、この制裁金は、同社のアルゴリズムが個人データを処理してドライバーに関する重大な決定を下す際に、十分な透明性や監視がなかったことから直接的に生じている。

このケースは、プラットフォーム経済における繰り返し発生する緊張関係を浮き彫りにしている。企業は大規模な労働力を管理するために自動化システムへの依存を強めているが、その一方で、これらのシステムは、誰かの収入を断つといった人生を変えるような決定を、その決定がどのように、なぜ下されたのかについてほとんど可視化しないまま行うことができる。

なぜ自動化された停止がGDPRの審査対象となるのか

GDPRは、自動化された意思決定に関して個人に特定の権利を与えている。この規則の下では、個人は一般に、法的効果または同様に重大な結果を生じる決定が、自動化処理のみに基づいて行われる対象とならない権利を有する。ドライバーのアカウントを停止し、それによって収入を得る能力を奪うことは、明らかにこのカテゴリーに該当する。

規制当局は、影響を受ける個人に有意義な人的審査の機会や決定の説明を与えずに、ブラックボックスアルゴリズムを使用してこの種の判断を行う企業に対して一貫して異議を唱えてきた。ウーバーに対する今回の制裁金は、透明性を欠いた自動化システムを標的とするGDPR執行の広範なパターンに当てはまるものであり、データ漏えいやハッキング事件を罰するものではない。

欧州の数十の市場で事業を展開する企業にとって、記録上2番目に大きいGDPR制裁金となるこの規模の罰金は、自動化されたプロセスが個人の権利を侵害していると判明した場合、データ保護当局が厳しい金銭的制裁を課す用意があるという明確なシグナルである。

これがあなたにとって意味すること

ギグエコノミープラットフォームでドライバーをしている方、自動化されたアカウント管理を使用するサービスを利用している方、または単にあなたについてアルゴリズムによる決定を行うアプリを使用している方にとって、このケースは、自動化された意思決定に関してプライバシー法の下で権利があることを思い出させるものです。EUでは、これには人による介入を要求する権利、自分の見解を表明する権利、アルゴリズムのみによって下された決定に異議を申し立てる権利が含まれます。

たとえあなたがドライバーやギグワーカーでなくても、この判決は重要です。なぜなら、規制当局がデータ保護を、単なる漏えいやハッキングだけでなく、広く自動化システムに関連する事項として真剣に扱っていることを強化するからです。アルゴリズムに依存してアカウント、メンバーシップ、サービスを管理する企業は、それらのシステムが適切な透明性や人による監視なしに運用されている場合、現在では現実の金銭的リスクに直面しています。

一般ユーザーにとっても、これは、日常的に使用するプラットフォーム上で、自分のデータとアカウントの状態に対してどれだけの管理権限を持っているかを確認する良い機会です。企業の異議申し立てプロセスや、自動化された決定を人が審査するかどうかを理解することで、同様の紛争に巻き込まれるのを防ぐことができます。

重要なポイント

ウーバーへの制裁金はGDPR執行にとって画期的な出来事であり、読者にいくつかの実践的な教訓を提供しています。

  • 自分の権利を知る：GDPRの下では、あなたに重大な影響を与える自動化された決定について、人による審査を要求することができます。
  • プラットフォームがあなたのアカウントを停止または制限した場合、その決定が自動化されたものかどうかを具体的に尋ね、説明を要求してください。
  • 自動化された決定に異議を申し立てる必要がある場合に備えて、アカウント活動とプラットフォームとの通信の記録を保管してください。
  • 今後の展開に注目してください。今回の制裁金は、欧州の他の規制当局が他社が使用する同様の自動化システムを精査するきっかけになる可能性があります。

規制当局が強力な自動化システムに対してGDPRの限界を試し続ける中、このようなケースは、プラットフォームがアルゴリズムを設計する方法と、その影響を受ける人々に対して負う透明性の程度を形成する可能性が高いです。