Uberは、同社史上最大級のGDPR制裁金の一つを科せられました。オランダのデータ保護当局は、運転手アカウントの停止に自動化システムを使用したことがEU一般データ保護規則（GDPR）違反に当たるとして、同社に約8億2500万ユーロ（約9億6600万ドル）の罰金を科しました。このUberへのGDPR罰金は、同社に対する執行措置の増え続けるリストに加わり、EU規制当局が人々の生計に影響を与える自動化された意思決定をいかに重要視しているかを浮き彫りにしています。

何が起きたのか：Uberへの約10億ドルのGDPR罰金

この事件の報道によると、オランダのデータ保護当局は、Uberが適切な透明性や人間による監督なしに、自動化ソフトウェアを使用して運転手のアカウントを停止または無効化したことを認定しました。運転手たちは、明確で説明可能な人間による審査ではなく、主にアルゴリズムによって下された決定に基づいて、アカウントへのアクセスを失い、それとともに収入を得る手段を失ったと報告されています。UberがGDPRに抵触したのはこれが初めてではありません。同社はこれまでにもデータ慣行をめぐって監視の対象となっており、別の事件では、いわゆる「ロボ解雇」紛争におけるアルゴリズムの透明性に関する裁判所命令に従わなかったとして、58万4000ユーロの罰金を命じられています。このような度重なる違反の経緯が、今回の罰金額の大きさに影響したようです。

なぜ自動化された意思決定がGDPRの争点なのか

GDPRには、自動化された意思決定、特に仕事や収入へのアクセス喪失など、個人に重大な結果をもたらす決定に関する特定の保護規定があります。この規則の下では、企業は一般に、自動化された決定に関わる論理について有意義な情報を提供し、人間による介入を可能にし、影響を受ける個人が不公平または不正確だと考える結果に異議を唱える手段を与える必要があります。規制当局は、アルゴリズムがどのように、なぜ決定に至ったのかがほとんど見えないまま、影響度の高い判断が下されるケースにますます注目しています。Uberのケースはこのパターンに完全に当てはまります。大規模な自動化システムを使用するプラットフォーム、アカウントが停止された理由について明確な回答を得られない運転手、そして同社のプロセスがGDPRが求める透明性と公平性の基準を満たしていないと結論付けた規制当局——という構図です。

この執行措置は、より広範なシグナルも発しています。ギグエコノミープラットフォームやその他の大規模デジタルサービスが、ユーザー、労働者、顧客を管理するために自動化システムへの依存度を高める中、EU規制当局はアルゴリズムによる意思決定を法的グレーゾーンとして扱わない姿勢を示しています。人々の生計に影響を与える自動化システムを構築する企業は、罰金を受けた後で後付けするのではなく、当初から透明性と人間による監督を組み込むことが期待されています。

あなたへの影響

Uberや、自動化されたアカウント管理に依存するあらゆるプラットフォームを利用している場合、このケースは、あなたが運転手であれ、顧客であれ、あるいはEUで事業を展開するデジタルサービスを利用する単なるユーザーであれ、GDPRに基づくあなたの権利を思い出させる有用な事例です。あなたには、企業があなたについてどのようなデータを保有し、そのデータがあなたに影響を与える自動化された決定にどのように使用されているかを尋ねる権利があります。アルゴリズムのみによって行われた決定、特にアカウント停止やサービスへのアクセス制限など重大な影響を伴う決定について、人間による再審査を要求する権利もあります。また、企業がデータの使用方法について透明性を欠いている、または不公平な自動化決定を行ったと考える場合、各国のデータ保護当局に苦情を申し立てる権利もあります。

10億ドル近くに達するUberへのGDPR罰金の規模は、規制当局が象徴的な罰金ではなく、企業の行動を変えるのに十分な規模の制裁を課す用意があることも示しています。一般ユーザーにとって、これはプラットフォームが今後、より明確な異議申し立てプロセスとより透明性の高いデータ慣行を構築するインセンティブが強まることを意味します。

実践的なポイント

ギグエコノミープラットフォームや自動化されたアカウント決定を使用するサービスに依存している場合、アカウントステータスの変更に関する通知など、受け取ったコミュニケーションの記録を保存しておきましょう。これらは苦情や再審査の請求が必要になった場合に役立ちます。EUにお住まいの場合は、説明を受ける権利や自動化決定の人間による再審査を受ける権利を含む、GDPRに基づく自身の権利を把握しておきましょう。そして、このような執行措置がどのように展開するかに注目してください。Uberのケースの結果は、他のプラットフォームが将来のアカウント管理や紛争処理プロセスをどのように設計するかに影響を与える可能性があるからです。

規制当局が主要なデジタルプラットフォーム全体で自動化された意思決定の監視を続ける中、Uberのケースのような事例は、透明性と説明責任が付加的なオプションではないという明確なシグナルとなっています。それらはEU法の下での基本的な期待事項であり、今回のUberへのGDPR罰金の記録的な規模は、基準を満たさない企業にとってそれがいかに高くつくかを示しています。