อูเบอร์กำลังเผชิญกับบทลงโทษด้านความเป็นส่วนตัวที่ใหญ่ที่สุดครั้งหนึ่งในยุโรป หน่วยงานคุ้มครองข้อมูลส่วนบุคคลของเนเธอร์แลนด์ (Autoriteit Persoonsgegevens) ได้ปรับบริษัทเรียกแท็กซี่รายนี้เป็นเงิน 825 ล้านยูโร หรือประมาณ 966 ล้านดอลลาร์สหรัฐ จากการใช้ระบบอัตโนมัติเพื่อระงับบัญชีคนขับ บทลงโทษนี้จัดเป็นค่าปรับที่ใหญ่เป็นอันดับสองเท่าที่เคยบังคับใช้ภายใต้กฎหมายคุ้มครองข้อมูลส่วนบุคคลทั่วไป (GDPR) ซึ่งตอกย้ำว่าหน่วยงานกำกับดูแลของยุโรปให้ความสำคัญอย่างจริงจังกับการตัดสินใจแบบอัลกอริทึมที่ส่งผลกระทบต่ออาชีพการงานของผู้คน

สิ่งที่หน่วยงานกำกับดูแลของเนเธอร์แลนด์พบ

ตามรายงานของหน่วยงาน DPA ของเนเธอร์แลนด์ อูเบอร์อาศัยซอฟต์แวร์อัตโนมัติในการตรวจสอบและระงับบัญชีคนขับ ซึ่งกระบวนการดังกล่าวตัดสิทธิ์คนขับในการทำงานบนแพลตฟอร์ม บางครั้งโดยไม่มีการตรวจสอบโดยมนุษย์อย่างเพียงพอหรือเส้นทางที่ชัดเจนในการโต้แย้งการตัดสินใจ การบังคับใช้ GDPR ในระดับนี้เกิดขึ้นได้ยาก และขนาดของค่าปรับนี้ส่งสัญญาณว่าหน่วยงานกำกับดูแลมองว่าการยกเลิกบัญชีแบบอัตโนมัติเป็นปัญหาด้านการคุ้มครองข้อมูลที่ร้ายแรง ไม่ใช่เพียงข้อพิพาทด้านบริการลูกค้า ดังที่ระบุไว้ในรายงานก่อนหน้าเกี่ยวกับค่าปรับการแบนตาม GDPR ของอูเบอร์ บทลงโทษนี้เกิดโดยตรงจากวิธีที่อัลกอริทึมของบริษัทประมวลผลข้อมูลส่วนบุคคลเพื่อตัดสินใจที่มีผลกระทบสำคัญต่อคนขับ โดยขาดความโปร่งใสและการกำกับดูแลที่เพียงพอ

คดีนี้ชี้ให้เห็นถึงความตึงเครียดที่เกิดขึ้นซ้ำแล้วซ้ำเล่าในเศรษฐกิจแพลตฟอร์ม: บริษัทต่างๆ พึ่งพาระบบอัตโนมัติมากขึ้นเพื่อจัดการแรงงานจำนวนมากในวงกว้าง แต่ระบบเดียวกันนี้กลับสามารถตัดสินใจที่เปลี่ยนแปลงชีวิตได้ เช่น การตัดรายได้ของใครบางคน โดยแทบไม่มีความชัดเจนว่าระบบตัดสินใจอย่างไรหรือเพราะเหตุใด

เหตุใดการระงับบัญชีอัตโนมัติจึงเข้าข่ายการตรวจสอบของ GDPR

GDPR ให้สิทธิเฉพาะบุคคลเมื่อเกี่ยวข้องกับการตัดสินใจแบบอัตโนมัติ ภายใต้กฎหมายนี้ โดยทั่วไปผู้คนมีสิทธิที่จะไม่ถูก subject ต่อการตัดสินใจที่อิงจากการประมวลผลอัตโนมัติเพียงอย่างเดียว เมื่อการตัดสินใจนั้นก่อให้เกิดผลทางกฎหมายหรือผลกระทบที่มีนัยสำคัญคล้ายคลึงกันต่อพวกเขา การระงับบัญชีคนขับ ซึ่งหมายถึงการตัดความสามารถในการหารายได้ของพวกเขา จัดอยู่ในหมวดหมู่นี้อย่างชัดเจน

หน่วยงานกำกับดูแลได้โต้แย้งบริษัทที่ใช้อัลกอริทึมแบบกล่องดำเพื่อตัดสินใจในลักษณะนี้อย่างต่อเนื่อง โดยไม่ให้โอกาสที่มีความหมายแก่ผู้ได้รับผลกระทบในการให้มนุษย์ตรวจสอบหรือได้รับคำอธิบายเกี่ยวกับการตัดสินใจ ค่าปรับต่ออูเบอร์ครั้งนี้สอดคล้องกับรูปแบบกว้างๆ ของการบังคับใช้ GDPR ที่มุ่งเป้าไปที่ระบบอัตโนมัติที่ขาดความโปร่งใส มากกว่าการลงโทษเหตุการณ์ละเมิดข้อมูลหรือการโจมตีทางไซเบอร์

สำหรับบริษัทที่ดำเนินงานในตลาดยุโรปหลายสิบประเทศ ค่าปรับขนาดนี้ ซึ่งเป็นบทลงโทษ GDPR ที่ใหญ่เป็นอันดับสองเท่าที่เคยบันทึกไว้ เป็นสัญญาณชัดเจนว่าหน่วยงานคุ้มครองข้อมูลพร้อมที่จะกำหนดผลทางการเงินที่รุนแรงเมื่อพบว่ากระบวนการอัตโนมัติละเมิดสิทธิของบุคคล

สิ่งนี้หมายความอย่างไรสำหรับคุณ

หากคุณขับรถให้กับแพลตฟอร์มเศรษฐกิจกิ๊ก ทำงานกับบริการใดๆ ที่ใช้การจัดการบัญชีแบบอัตโนมัติ หรือเพียงแค่ใช้แอปที่ตัดสินใจเกี่ยวกับคุณด้วยอัลกอริทึม คดีนี้เป็นเครื่องเตือนใจว่าคุณมีสิทธิภายใต้กฎหมายความเป็นส่วนตัวเมื่อเกี่ยวข้องกับการตัดสินใจแบบอัตโนมัติ ในสหภาพยุโรป สิทธินั้นรวมถึงการขอให้มีมนุษย์เข้ามาแทรกแซง การแสดงความคิดเห็นของคุณ และการโต้แย้งการตัดสินใจที่ทำโดยอัลกอริทึมเพียงอย่างเดียว

แม้ว่าคุณจะไม่ใช่คนขับหรือคนทำงานกิ๊ก คำตัดสินนี้ก็มีความสำคัญเพราะมันตอกย้ำว่าหน่วยงานกำกับดูแลให้ความสำคัญกับการคุ้มครองข้อมูลที่เกี่ยวข้องกับระบบอัตโนมัติในวงกว้างอย่างจริงจังเพียงใด ไม่ใช่แค่การละเมิดข้อมูลหรือการโจมตีทางไซเบอร์ บริษัทที่พึ่งพาอัลกอริทึมในการจัดการบัญชี สมาชิกภาพ หรือบริการต่างๆ กำลังเผชิญกับความเสี่ยงทางการเงินอย่างแท้จริง หากระบบเหล่านั้นดำเนินการโดยขาดความโปร่งใสหรือการกำกับดูแลโดยมนุษย์อย่างเพียงพอ

สำหรับผู้ใช้ทั่วไป นี่เป็นช่วงเวลาที่ดีในการทบทวนว่าคุณควบคุมข้อมูลของคุณเองและสถานะบัญชีบนแพลตฟอร์มที่คุณใช้เป็นประจำได้มากเพียงใด การทำความเข้าใจกระบวนการอุทธรณ์ของบริษัท และว่ามนุษย์เป็นผู้ตรวจสอบการตัดสินใจแบบอัตโนมัติหรือไม่ สามารถช่วยให้คุณหลีกเลี่ยงการติดอยู่ในข้อพิพาทลักษณะเดียวกันได้

ข้อคิดสำคัญ

ค่าปรับอูเบอร์ครั้งนี้เป็นช่วงเวลาสำคัญสำหรับการบังคับใช้ GDPR และมันให้บทเรียนเชิงปฏิบัติสองสามประการแก่ผู้อ่าน:

  • รู้สิทธิของคุณ: ภายใต้ GDPR คุณสามารถขอให้มนุษย์ตรวจสอบการตัดสินใจแบบอัตโนมัติใดๆ ที่ส่งผลกระทบต่อคุณอย่างมีนัยสำคัญได้
  • หากแพลตฟอร์มระงับหรือจำกัดบัญชีของคุณ ให้ถามเจาะจงว่าการตัดสินใจนั้นเป็นแบบอัตโนมัติหรือไม่ และขอคำอธิบาย
  • เก็บบันทึกกิจกรรมบัญชีของคุณและการสื่อสารใดๆ กับแพลตฟอร์มไว้ ในกรณีที่คุณจำเป็นต้องโต้แย้งการตัดสินใจแบบอัตโนมัติ
  • จับตาดูความคืบหน้าเพิ่มเติม เนื่องจากค่าปรับนี้อาจกระตุ้นให้หน่วยงานกำกับดูแลอื่นๆ ในยุโรปตรวจสอบระบบอัตโนมัติที่คล้ายคลึงกันซึ่งใช้โดยบริษัทอื่น

ในขณะที่หน่วยงานกำกับดูแลยังคงทดสอบขีดจำกัดของ GDPR ต่อระบบอัตโนมัติที่ทรงพลัง คดีเช่นนี้มีแนวโน้มที่จะกำหนดรูปแบบการออกแบบอัลกอริทึมของแพลตฟอร์ม และระดับความโปร่งใสที่พวกเขาต้องให้กับผู้ที่ได้รับผลกระทบจากอัลกอริทึมเหล่านั้น