อูเบอร์กำลังเผชิญค่าปรับ GDPR มูลค่า 825 ล้านยูโร ซึ่งเชื่อมโยงกับการปฏิบัติที่ฟังดูคุ้นเคยสำหรับใครก็ตามที่เคยถูก lock out จากบัญชีโดยไม่ได้รับคำอธิบาย นั่นคือการระงับสิทธิ์คนขับโดยอัตโนมัติโดยอิงจากการตัดสินใจของอัลกอริทึม โดยที่ไม่มีมนุษย์คนใดตรวจสอบคดีเลย ค่าปรับนี้ถือเป็นหนึ่งในค่าปรับความเป็นส่วนตัวที่ใหญ่ที่สุดในความทรงจำเมื่อไม่นานมานี้ และทำให้เกิดแสงสว่างไปที่สิทธิที่ผู้ใช้อินเทอร์เน็ตส่วนใหญ่ไม่รู้ว่าตนมี นั่นคือสิทธิที่จะไม่ถูกการตัดสินใจแบบอัตโนมัติล้วนๆ ที่ส่งผลกระทบอย่างมีนัยสำคัญจริงๆ

สิ่งที่อูเบอร์ทำ: การระงับสิทธิ์แบบอัลกอริทึมโดยไม่มีการตรวจสอบจากมนุษย์

ศูนย์กลางของคดีนี้คือระบบการระงับสิทธิ์ (deactivation) คนขับของอูเบอร์ ตามที่หน่วยงานกำกับดูแลระบุ คนขับอาจถูกระงับสิทธิ์ และในทางปฏิบัติสูญเสียรายได้ โดยอิงจากการประเมินกิจกรรม สัญญาณการทุจริต คะแนน หรือข้อมูลอื่นๆ แบบอัตโนมัติทั้งหมด โดยที่ไม่มีบุคคลใดเข้ามายืนยันว่าการตัดสินใจนั้นยุติธรรมหรือแม่นยำ สำหรับคนทำงานกิ๊ก (gig worker) การถูกระงับสิทธิ์ไม่ใช่เรื่องไม่สะดวกเล็กน้อย มันอาจหมายถึงการสูญเสียอาชีพในทันที มักจะมีความชัดเจนน้อยมากเกี่ยวกับสาเหตุที่เกิดขึ้นหรือวิธีอุทธรณ์

นี่ไม่ใช่เรื่องราวเกี่ยวกับอัลกอริทึมตัวเดียวที่ผิดพลาด แต่เป็นเรื่องของการเลือกเชิงโครงสร้าง: การสร้างระบบที่เครื่องจักรตัดสินใจเรื่องสำคัญและมนุษย์เป็นเพียงทางเลือก ความแตกต่างนี้มีความสำคัญอย่างยิ่งภายใต้กฎหมายความเป็นส่วนตัวของยุโรป และนี่คือเหตุผลที่ค่าปรับสูงถึงหลายร้อยล้านยูโรแทนที่จะเป็นเพียงจดหมายเตือน ผู้อ่านที่ต้องการรายละเอียดเบื้องหลังด้านกฎระเบียบทั้งหมด รวมถึงวิธีคำนวณค่าปรับและสิ่งที่หน่วยงานของเนเธอร์แลนด์พบ สามารถอ่าน ค่าปรับ GDPR ดั้งเดิมของหน่วยงานกำกับดูแลเนเธอร์แลนด์ต่ออูเบอร์ เพื่อดูรายละเอียดเพิ่มเติมเกี่ยวกับคดีนี้

บทบัญญัติข้อ 22 ของ GDPR ปกป้องการตัดสินใจแบบอัตโนมัติอย่างไร

พื้นฐานทางกฎหมายสำหรับค่าปรับนี้อยู่ในข้อ 22 ของ GDPR ซึ่งเป็นบทบัญญัติที่ให้สิทธิบุคคลที่จะไม่ถูกการตัดสินใจที่อิงจากการประมวลผลอัตโนมัติเพียงอย่างเดียว เมื่อการตัดสินใจนั้นก่อให้เกิดผลทางกฎหมายหรือส่งผลกระทบอย่างมีนัยสำคัญในลักษณะเดียวกัน การสูญเสียการเข้าถึงแหล่งรายได้หลักของคุณเข้าข่ายชัดเจน

กฎนี้ไม่ได้ห้ามระบบอัตโนมัติโดยสิ้นเชิง บริษัทสามารถใช้อัลกอริทึมเพื่อระบุปัญหา ให้คะแนนความเสี่ยง หรือคัดแยกคดีได้ สิ่งที่ GDPR กำหนดคือเมื่อการตัดสินใจมีผลกระทบร้ายแรง มนุษย์ต้องมีส่วนร่วมอย่างมีความหมาย นั่นคือบุคคลที่มีอำนาจและข้อมูลที่จะ override เครื่องจักรได้จริง ไม่ใช่แค่ลงนามรับรองผลลัพธ์ หน่วยงานกำกับดูแลเริ่มมองว่า "การที่บุคคลคลิกอนุมัติ" นั้นไม่เพียงพอ หากบุคคลนั้นไม่เคยมีโอกาสจริงๆ ที่จะตรวจสอบหรือพลิกผลลัพธ์ คดีของอูเบอร์ชี้ให้เห็นว่าช่องว่างระหว่างการมีมนุษย์อยู่ในระบบบนกระดาษกับการมีจริงในทางปฏิบัติ คือจุดที่บริษัทต่างๆ มักประสบปัญหา

เกินกว่าการทำงานกิ๊ก: Shadowbanning การแบนบัญชี และคำขอให้ลบข้อมูล

แม้ค่าปรับนี้เกี่ยวข้องกับบริษัทเรียกแท็กซี่ แต่ปัญหาพื้นฐานขยายไปไกลเกินกว่าการทำงานกิ๊ก แพลตฟอร์มโซเชียลมีเดียใช้ระบบอัตโนมัติเพื่อ shadowban บัญชีหรือลบเนื้อหา ธนาคารและผู้ให้บริการชำระเงินใช้อัลกอริทึมเพื่ออายัดบัญชีเมื่อสงสัยว่ามีการฉ้อโกง บริการสตรีมมิ่งและตลาดซื้อขายออนไลน์แบนผู้ใช้โดยอัตโนมัติเมื่อมีพฤติกรรมที่ถูก flagged แม้แต่คำขอให้ลบข้อมูลและเข้าถึงข้อมูล ซึ่งเป็นสิทธิหลักของ GDPR มักถูกประมวลผลโดยระบบอัตโนมัติที่อาจปฏิเสธคำขอที่ถูกต้องโดยเงียบๆ โดยไม่มีการตรวจสอบจากมนุษย์

ในแต่ละสถานการณ์เหล่านี้ เกิดความตึงเครียดเดียวกัน: ความสะดวกสบายและขนาดสำหรับบริษัท กับกระบวนการที่ยุติธรรมและความโปร่งใสสำหรับบุคคล ผู้ใช้ส่วนใหญ่ไม่เคยคิดที่จะถามว่ามนุษย์ตรวจสอบการตัดสินใจที่ส่งผลกระทบต่อพวกเขาหรือไม่ สาเหตุหลักเพราะแพลตฟอร์มไม่ค่อยเปิดเผยเรื่องนี้ ค่าปรับของอูเบอร์ส่งสัญญาณว่าหน่วยงานกำกับดูแลเริ่มมองว่าความไม่โปร่งใสนั้นเป็นความเสี่ยงด้านการปฏิบัติตามกฎระเบียบ ไม่ใช่แค่ปัญหาความไม่พอใจของลูกค้า

สิ่งนี้มีความหมายต่อคุณอย่างไร

หากคุณเคยถูกระงับสิทธิ์ ถูกแบน หรือถูกปฏิเสธคำขอโดยแอปหรือแพลตฟอร์มโดยไม่มีคำอธิบายที่ชัดเจน มีโอกาสสูงที่อัลกอริทึมเป็นคนตัดสินใจโดยมีการดูแลจากมนุษย์น้อยมากหรือไม่มีเลย ภายใต้ GDPR หากคุณอยู่ในสหภาพยุโรปหรือข้อมูลของคุณถูกประมวลผลโดยบริษัทที่ดำเนินงานที่นั่น โดยทั่วไปคุณมีสิทธิ์ขอคำอธิบายเกี่ยวกับการตัดสินใจแบบอัตโนมัติที่ส่งผลกระทบอย่างมีนัยสำคัญต่อคุณ สิทธิ์ในการโต้แย้งการตัดสินใจ และสิทธิ์ในการขอให้มีการตรวจสอบจากมนุษย์อย่างมีความหมาย บริษัทที่ดำเนินงานในพื้นที่นี้มีข้อกำหนดทางกฎหมายให้สร้างวาล์วนิรภัยนั้น แม้จะไม่ได้โฆษณาอย่างชัดเจนก็ตาม

คดีนี้ยังยกประเด็นคุณค่าในทางปฏิบัติของการระมัดระวังเกี่ยวกับปริมาณการควบคุมที่คุณมอบให้กับแพลตฟอร์มที่พึ่งพาการบังคับใช้แบบอัตโนมัติเป็นอย่างมาก การเข้าใจสิทธิ์เรื่องการตัดสินใจแบบอัตโนมัติภายใต้ GDPR ไม่ใช่แค่แนวคิดทางกฎหมายที่เป็นนามธรรม แต่มันคือเครื่องมือที่คุณสามารถใช้ได้จริงเมื่อแอป lock คุณออกหรืออัลกอริทึม flagged บัญชีของคุณ

ข้อสรุปสำคัญ

หากคุณพบว่าตัวเองตกเป็นฝ่ายรับการระงับสิทธิ์ การแบน หรือการปฏิเสธแบบอัตโนมัติ ควรลงมือดำเนินการมากกว่าที่จะคิดว่าการตัดสินใจนั้นเป็นที่สิ้นสุด ขอคำอธิบายเป็นลายลักษณ์อักษรว่าการตัดสินใจเกิดขึ้นอย่างไรและมีมนุษย์ตรวจสอบหรือไม่ อ้างสิทธิ์ GDPR ของคุณอย่างชัดเจนหากบริษัทอยู่ภายใต้กฎหมายของสหภาพยุโรป และยื่นเรื่องร้องเรียนต่อหน่วยงานคุ้มครองข้อมูลที่เกี่ยวข้องหากคุณไม่ได้รับคำตอบที่น่าพอใจ เก็บบันทึกการติดต่อสื่อสารกับแพลตฟอร์มไว้ เพราะรูปแบบเอกสารของการตัดสินใจแบบอัตโนมัติที่ไม่มีการตรวจสอบ คือหลักฐานประเภทเดียวกับที่นำไปสู่ค่าปรับ 825 ล้านยูโรของอูเบอร์ เมื่อชีวิตประจำวันถูกกรองผ่านอัลกอริทึมมากขึ้น การรู้สิทธิ์เหล่านี้และการใช้สิทธิ์เหล่านั้น คือหนึ่งในวิธีที่ชัดเจนที่สุดในการโต้กลับเมื่อเครื่องจักรทำผิดพลาด