ยูเบอร์ถูกปรับครั้งใหญ่ที่สุดครั้งหนึ่งในประวัติศาสตร์ของบริษัท ride-hailing ยักษ์ใหญ่แห่งนี้ หน่วยงานคุ้มครองข้อมูลของเนเธอร์แลนด์ปรับบริษัทประมาณ 825 ล้านยูโร หรือเกือบ 966 ล้านดอลลาร์สหรัฐ สำหรับการละเมิดกฎหมายคุ้มครองข้อมูลทั่วไปของสหภาพยุโรป (GDPR) ผ่านการใช้ระบบอัตโนมัติในการระงับบัญชีคนขับ ค่าปรับ GDPR ของยูเบอร์ครั้งนี้เพิ่มเข้าไปในรายการมาตรการบังคับใช้ที่เพิ่มขึ้นต่อบริษัท และชี้ให้เห็นว่าหน่วยงานกำกับดูแลของ EU ให้ความสำคัญกับการตัดสินใจแบบอัตโนมัติที่ส่งผลต่อการดำรงชีพของผู้คนอย่างจริงจังเพียงใด

เกิดอะไรขึ้น: ค่าปรับ GDPR เกือบพันล้านดอลลาร์ของยูเบอร์

ตามรายงานข่าวของคดีนี้ หน่วยงานคุ้มครองข้อมูลของเนเธอร์แลนด์พบว่ายูเบอร์ใช้ซอฟต์แวร์อัตโนมัติเพื่อระงับหรือปิดใช้งานบัญชีคนขับโดยไม่มีความโปร่งใสหรือการกำกับดูแลโดยมนุษย์อย่างเพียงพอ คนขับสูญเสียการเข้าถึงบัญชีของตน และด้วยเหตุนี้จึงสูญเสียความสามารถในการหารายได้ จากการตัดสินใจที่ส่วนใหญ่ขับเคลื่อนโดยอัลกอริทึมแทนที่จะเป็นการตรวจสอบโดยมนุษย์ที่ชัดเจนและอธิบายได้ นี่ไม่ใช่ครั้งแรกที่ยูเบอร์ละเมิด GDPR บริษัทเคยถูกตรวจสอบเรื่องแนวปฏิบัติด้านข้อมูลมาก่อน รวมถึงคดีแยกต่างหากที่ถูกสั่งให้จ่ายค่าปรับ 584,000 ยูโร จากการไม่ปฏิบัติตามคำสั่งศาลที่เกี่ยวข้องกับความโปร่งใสของอัลกอริทึมในข้อพิพาทที่เรียกว่า 'การไล่ออกโดยหุ่นยนต์' ประวัติการละเมิดซ้ำๆ นี้ดูเหมือนจะเป็นปัจจัยที่ทำให้ค่าปรับครั้งล่าสุดมีขนาดใหญ่ขนาดนี้

ทำไมการตัดสินใจแบบอัตโนมัติจึงเป็นประเด็นสำคัญของ GDPR

GDPR มีบทบัญญัติคุ้มครองเฉพาะเกี่ยวกับการตัดสินใจแบบอัตโนมัติ โดยเฉพาะเมื่อการตัดสินใจเหล่านั้นส่งผลกระทบสำคัญต่อบุคคล เช่น การสูญเสียการเข้าถึงงานหรือรายได้ ภายใต้กฎหมายนี้ บริษัทต่างๆ โดยทั่วไปต้องให้ข้อมูลที่มีความหมายเกี่ยวกับตรรกะที่เกี่ยวข้องกับการตัดสินใจแบบอัตโนมัติ เปิดโอกาสให้มีการแทรกแซงโดยมนุษย์ และให้ช่องทางแก่ผู้ได้รับผลกระทบในการโต้แย้งผลลัพธ์ที่他们认为ไม่เป็นธรรมหรือไม่ถูกต้อง หน่วยงานกำกับดูแลให้ความสำคัญมากขึ้นกับกรณีที่อัลกอริทึมตัดสินใจเรื่องที่มีความเสี่ยงสูงโดยมีความโปร่งใสน้อยมากว่าเกิดอะไรขึ้นหรือทำไมจึงตัดสินใจเช่นนั้น คดีของยูเบอร์เข้าข่ายรูปแบบนี้โดยตรง: แพลตฟอร์มที่ใช้ระบบอัตโนมัติในวงกว้าง คนขับไม่ได้รับคำตอบที่ชัดเจนว่าทำไมบัญชีของตนจึงถูกระงับ และหน่วยงานกำกับดูแลสรุปว่ากระบวนการของบริษัทไม่เป็นไปตามมาตรฐานความโปร่งใสและความเป็นธรรมที่ GDPR กำหนด

การบังคับใช้ครั้งนี้ยังส่งสัญญาณในวงกว้างมากขึ้นด้วย ในขณะที่แพลตฟอร์มเศรษฐกิจกิกและบริการดิจิทัลขนาดใหญ่อื่นๆ พึ่งพาระบบอัตโนมัติมากขึ้นในการจัดการผู้ใช้ คนงาน และลูกค้า หน่วยงานกำกับดูแลของ EU แสดงให้เห็นว่าพวกเขาจะไม่ปฏิบัติต่อการตัดสินใจแบบอัลกอริทึมเป็นพื้นที่สีเทาทางกฎหมาย บริษัทที่สร้างระบบอัตโนมัติที่ส่งผลต่อการดำรงชีพของผู้คนจริงๆ คาดว่าจะต้องสร้างความโปร่งใสและการกำกับดูแลโดยมนุษย์ตั้งแต่เริ่มต้น ไม่ใช่เพิ่มทีหลังเมื่อถูกปรับ

สิ่งนี้หมายถึงอะไรสำหรับคุณ

หากคุณใช้ยูเบอร์หรือแพลตฟอร์มใดๆ ที่พึ่งพาการจัดการบัญชีแบบอัตโนมัติ คดีนี้เป็นเครื่องเตือนใจที่มีประโยชน์ถึงสิทธิที่คุณมีภายใต้ GDPR ไม่ว่าคุณจะเป็นคนขับ ลูกค้า หรือเพียงผู้ใช้บริการดิจิทัลที่ดำเนินงานใน EU คุณมีสิทธิ์ที่จะถามบริษัทว่าพวกเขาถือข้อมูลใดเกี่ยวกับคุณ และข้อมูลนั้นถูกใช้ในการตัดสินใจแบบอัตโนมัติใดๆ ที่ส่งผลต่อคุณอย่างไร คุณมีสิทธิ์ขอให้มีการตรวจสอบโดยมนุษย์สำหรับการตัดสินใจที่ทำโดยอัลกอริทึมเพียงอย่างเดียว โดยเฉพาะเมื่อการตัดสินใจนั้นมีผลกระทบสำคัญ เช่น การระงับบัญชีของคุณหรือการจำกัดการเข้าถึงบริการของคุณ คุณยังมีสิทธิ์ยื่นเรื่องร้องเรียนต่อหน่วยงานคุ้มครองข้อมูลแห่งชาติของคุณ หากคุณเชื่อว่าบริษัทไม่มีความโปร่งใสเกี่ยวกับการใช้ข้อมูลของคุณหรือทำการตัดสินใจแบบอัตโนมัติที่ไม่เป็นธรรม

ขนาดของค่าปรับ GDPR ของยูเบอร์ที่ใกล้ถึงพันล้านดอลลาร์ ยังตอกย้ำว่าหน่วยงานกำกับดูแลเต็มใจที่จะกำหนดบทลงโทษที่ใหญ่พอที่จะเปลี่ยนพฤติกรรมขององค์กร ไม่ใช่แค่ค่าปรับเชิงสัญลักษณ์ สำหรับผู้ใช้ทั่วไป สิ่งนี้แปลว่าแพลตฟอร์มต่างๆ จะมีแรงจูงใจมากขึ้นในการสร้างกระบวนการอุทธรณ์ที่ชัดเจนขึ้นและแนวปฏิบัติด้านข้อมูลที่โปร่งใสมากขึ้นในอนาคต

ข้อปฏิบัติที่นำไปใช้ได้จริง

หากคุณพึ่งพาแพลตฟอร์มเศรษฐกิจกิกหรือบริการใดๆ ที่ใช้การตัดสินใจบัญชีแบบอัตโนมัติ ให้เก็บบันทึกการสื่อสารทั้งหมดที่คุณได้รับเกี่ยวกับการเปลี่ยนแปลงสถานะบัญชี เนื่องจากสิ่งเหล่านี้มีประโยชน์หากคุณต้องยื่นเรื่องร้องเรียนหรือขอให้ตรวจสอบ ทำความคุ้นเคยกับสิทธิของคุณภายใต้ GDPR หากคุณอยู่ใน EU รวมถึงสิทธิ์ในการได้รับคำอธิบายและสิทธิ์ในการตรวจสอบโดยมนุษย์สำหรับการตัดสินใจแบบอัตโนมัติ และจับตาดูว่าการบังคับใช้เช่นนี้จะพัฒนาไปอย่างไร เนื่องจากผลลัพธ์ของคดียูเบอร์อาจมีอิทธิพลต่อการที่แพลตฟอร์มอื่นๆ ออกแบบกระบวนการจัดการบัญชีและกระบวนการโต้แย้งในอนาคต

ในขณะที่หน่วยงานกำกับดูแลยังคงตรวจสอบการตัดสินใจแบบอัตโนมัติบนแพลตฟอร์มดิจิทัลขนาดใหญ่ คดีเช่นยูเบอร์เป็นสัญญาณชัดเจนว่าความโปร่งใสและความรับผิดชอบไม่ใช่สิ่งเสริมเพิ่มเติม สิ่งเหล่านี้เป็นความคาดหวังพื้นฐานภายใต้กฎหมายของ EU และขนาดที่ทำสถิติของค่าปรับ GDPR ของยูเบอร์ครั้งนี้แสดงให้เห็นว่าบริษัทที่บกพร่องจะต้องเสียค่าใช้จ่ายมากเพียงใด