우버가 유럽에서 부과된 개인정보 보호 관련 벌금 중 가장 큰 규모 중 하나를 맞이했습니다. 네덜란드 개인정보보호청(Autoriteit Persoonsgegevens)이 차량 호출 기업에 약 9억 6,600만 달러에 해당하는 8억 2,500만 유로의 벌금을 자동화 시스템을 통한 드라이버 계정 정지와 관련해 부과했습니다. 이 벌금은 GDPR(일반개인정보보호법)에 따라 부과된 벌금 중 두 번째로 큰 규모로, 유럽 규제 당국이 사람들의 생계에 영향을 미치는 알고리즘 기반 의사결정을 얼마나 심각하게 여기고 있는지를 보여줍니다.

네덜란드 규제 당국이 발견한 것

네덜란드 개인정보보호청에 따르면, 우버는 자동화 소프트웨어를 사용하여 드라이버 계정을 식별하고 정지시켰으며, 이 과정에서 드라이버들은 플랫폼에서 일할 수 있는 능력을 잃게 되었고, 때로는 적절한 인간의 검토나 결정에 이의를 제기할 수 있는 명확한 경로 없이 그렇게 되었습니다. 이 정도 규모의 GDPR 집행 조치는 드물며, 이 벌금의 규모는 규제 당국이 자동화된 계정 비활성화를 단순한 고객 서비스 분쟁이 아닌 심각한 데이터 보호 문제로 보고 있음을 시사합니다. 우버 GDPR 금지 벌금에 대한 이전 보도에서 자세히 설명했듯이, 이 벌금은 회사의 알고리즘이 충분한 투명성이나 감독 없이 운전자에 대한 중요한 결정을 내리기 위해 개인 데이터를 처리한 방식에서 직접적으로 비롯되었습니다.

이 사건은 플랫폼 경제에서 반복적으로 나타나는 긴장 관계를 부각합니다. 기업들은 대규모 인력을 관리하기 위해 점점 더 자동화된 시스템에 의존하지만, 이러한 시스템은 누군가의 수입을 차단하는 것과 같은 삶을 바꾸는 결정을, 결정이 어떻게 또는 왜 내려졌는지에 대한 가시성이 거의 없는 상태에서 내릴 수 있습니다.

자동화된 정지가 GDPR의 조사를 촉발하는 이유

GDPR은 자동화된 의사결정과 관련하여 개인에게 특정 권리를 부여합니다. 이 규정에 따라, 개인은 일반적으로 법적 효력이나 이와 유사하게 중요한 결과를 초래하는 결정이 전적으로 자동화된 처리에만 근거하여 내려지지 않을 권리가 있습니다. 드라이버의 계정을 정지시키고, 따라서 수입을 얻을 수 있는 능력을 박탈하는 것은 명백히 이 범주에 해당합니다.

규제 당국은 영향을 받는 개인에게 의미 있는 인간 검토 기회나 결정에 대한 설명을 제공하지 않고 블랙박스 알고리즘을 사용하여 이런 종류의 결정을 내리는 기업들을 지속적으로 견제해 왔습니다. 우버에 대한 이번 벌금은 데이터 유출이나 해킹 사건을 처벌하는 것이 아니라 투명성이 부족한 자동화된 시스템을 대상으로 하는 GDPR 집행의 광범위한 패턴에 부합합니다.

수십 개의 유럽 시장에서 운영되는 기업에게 이 정도 규모의 벌금, 즉 기록상 두 번째로 큰 GDPR 벌금은 데이터 보호 당국이 자동화된 프로세스가 개인의 권리를 침해하는 것으로 판명될 경우 막대한 재정적 제재를 부과할 의향이 있음을 보여주는 분명한 신호입니다.

이것이 당신에게 의미하는 바

기가 이코노미 플랫폼에서 운전하거나, 자동화된 계정 관리를 사용하는 서비스와 일하거나, 단순히 알고리즘이 당신에 대해 결정을 내리는 앱을 사용한다면, 이 사건은 자동화된 의사결정과 관련하여 개인정보 보호법에 따른 권리가 있음을 상기시켜 줍니다. EU에서는 인간의 개입을 요청하고, 자신의 관점을 표현하며, 순전히 알고리즘에 의해서만 내려진 결정에 이의를 제기할 수 있는 권리가 포함됩니다.

운전자나 기가 워커가 아니더라도, 이 판결은 규제 당국이 단순히 유출이나 해킹이 아닌 자동화된 시스템 전반과 관련된 데이터 보호를 얼마나 심각하게 취급하고 있는지를 강화하기 때문에 중요합니다. 알고리즘에 의존하여 계정, 멤버십 또는 서비스를 관리하는 기업들은 이러한 시스템이 적절한 투명성이나 인간의 감독 없이 운영될 경우 이제 실질적인 재정적 위험에 직면하게 되었습니다.

일반 사용자에게도 정기적으로 사용하는 플랫폼에서 자신의 데이터와 계정 상태에 대해 얼마나 많은 통제권을 가지고 있는지 검토하기 좋은 시기입니다. 회사의 이의 제기 절차와 자동화된 결정을 사람이 검토하는지 여부를 이해하면 비슷한 분쟁에 휘말리는 것을 피하는 데 도움이 될 수 있습니다.

주요 시사점

우버 벌금은 GDPR 집행에 있어 획기적인 순간이며, 독자들에게 몇 가지 실질적인 교훈을 제공합니다:

  • 자신의 권리를 알라: GDPR에 따라, 당신에게 중대한 영향을 미치는 자동화된 결정에 대해 인간의 재검토를 요청할 수 있습니다.
  • 플랫폼이 계정을 정지하거나 제한하는 경우, 해당 결정이 자동화되었는지 구체적으로 질문하고 설명을 요청하세요.
  • 자동화된 결정에 이의를 제기해야 할 경우를 대비해 계정 활동 기록과 플랫폼과의 모든 커뮤니케이션을 보관하세요.
  • 추가 발전 상황을 주시하세요. 이 벌금은 유럽 전역의 다른 규제 당국이 다른 기업들이 사용하는 유사한 자동화 시스템을 조사하도록 촉발할 수 있습니다.

규제 당국이 강력한 자동화 시스템을 상대로 GDPR의 한계를 계속 시험함에 따라, 이와 같은 사건은 플랫폼이 알고리즘을 설계하는 방식과 그 영향을 받는 사람들에게 제공해야 하는 투명성의 수준을 형성할 가능성이 높습니다.