ค่าปรับประวัติศาสตร์สำหรับการเลิกจ้างด้วยอัลกอริทึม

หน่วยงานคุ้มครองข้อมูลแห่งเนเธอร์แลนด์ (AP) มีคำสั่งปรับอูเบอร์เป็นจำนวน 825 ล้านยูโร หรือประมาณ 966 ล้านดอลลาร์สหรัฐ ตามเอกสารที่รอยเตอร์ตรวจสอบ บทลงโทษดังกล่าวเกิดจากการที่อูเบอร์ใช้ระบบอัตโนมัติในการปิดใช้งานบัญชีของคนขับ ซึ่งเป็นกระบวนการที่หน่วยงานกำกับดูแลระบุว่าขัดต่อกฎระเบียบการคุ้มครองข้อมูลของยุโรป รายงานของรอยเตอร์ซึ่งอ้างอิงจากเอกสารภายใน ถือเป็นหนึ่งในค่าปรับที่มากที่สุดเท่าที่เคยมีการบังคับใช้ภายใต้กฎระเบียบทั่วไปว่าด้วยการคุ้มครองข้อมูล (GDPR) ของสหภาพยุโรป และทำให้ค่าปรับด้านการตัดสินใจแบบอัตโนมัติภายใต้ GDPR ที่ไม่เคยมีมาก่อนนี้ตกเป็นที่จับตามอง

หัวใจของคดีนี้คือข้อร้องเรียนที่คุ้นเคยจากแรงงานในระบบเศรษฐกิจแบบกิก (gig economy): คนขับที่พบว่าบัญชีของตนถูกระงับหรือยกเลิกโดยไม่มีคำอธิบายที่ชัดเจน ซึ่งดูเหมือนว่าจะถูกกระตุ้นโดยอัลกอริทึมมากกว่าผู้ตรวจสอบที่เป็นมนุษย์ เมื่ออาชีพของบุคคลต้องพึ่งพาแอปพลิเคชัน การปิดใช้งานแบบอัตโนมัติอาจให้ความรู้สึกไม่ต่างจากการถูกกำจัดออกไปโดยระบบที่ไม่มีใครสามารถตั้งคำถามได้

มาตรา 22 ของ GDPR จำกัดการตัดสินใจแบบอัตโนมัติอย่างไร

GDPR มีบทบัญญัติคุ้มครองเฉพาะต่อการตัดสินใจที่กระทำ "โดยอาศัยกระบวนการประมวลผลอัตโนมัติเพียงลำพัง" เมื่อการตัดสินใจนั้นก่อให้เกิดผลทางกฎหมายหรือผลกระทบสำคัญที่คล้ายคลึงกันต่อบุคคล การสูญเสียการเข้าถึงแพลตฟอร์มที่ให้รายได้ของคนๆ หนึ่งเข้าข่ายเป็นผลกระทบที่สำคัญอย่างชัดเจน ภายใต้กรอบนี้ โดยทั่วไปบริษัทต่างๆ จำเป็นต้องมีฐานทางกฎหมายในการพึ่งพาการตัดสินใจแบบอัตโนมัติเต็มรูปแบบ และต้องเปิดช่องทางให้ผู้ได้รับผลกระทบสามารถขอให้มีการทบทวนโดยมนุษย์ แสดงมุมมองของตน และโต้แย้งผลลัพธ์ได้

กฎนี้มีอยู่เพราะระบบอัตโนมัติอาจไม่มีความโปร่งใส คนขับที่ถูกปิดใช้งานโดยอัลกอริทึมมักไม่มีเส้นทางที่ชัดเจนในการทำความเข้าใจว่าเหตุใดจึงเกิดขึ้น ข้อมูลใดที่กระตุ้นให้เกิดเหตุการณ์นั้น หรือจะอุทธรณ์อย่างไร หน่วยงานกำกับดูแลเริ่มมองว่าความไม่โปร่งใสดังกล่าวเป็นปัญหาในตัวเอง ไม่ใช่เพียงผลข้างเคียงของการดำเนินธุรกิจที่มีประสิทธิภาพ คำตัดสินของ AP ดัตช์ต่ออูเบอร์บ่งชี้ว่า เมื่อบริษัททำให้การตัดสินใจที่มีความเสี่ยงสูงเกี่ยวกับบัญชีหรือรายได้ของผู้คนเป็นระบบอัตโนมัติโดยไม่มีความโปร่งใสและการกำกับดูแลโดยมนุษย์อย่างเพียงพอ ผลทางการเงินอาจรุนแรงได้

เหตุใดเรื่องนี้จึงสำคัญเกินกว่าธุรกิจไรด์แฮลลิ่ง

อาจเป็นเรื่องง่ายที่จะมองว่านี่เป็นเรื่องเฉพาะของงานแบบกิก แต่ปัญหาพื้นฐานนั้นขยายขอบเขตไปไกลเกินกว่าแอปเรียกแท็กซี่ แพลตฟอร์มใดก็ตามที่ใช้ระบบอัตโนมัติในการตัดสินใจเกี่ยวกับผู้ใช้ ไม่ว่าจะเป็นการติดธงบัญชีที่ต้องสงสัยว่าฉ้อโกง การปฏิเสธคำขอลินเชื่อ การปรับเบี้ยประกัน หรือการคัดกรองผู้สมัครงาน ต้องเผชิญกับข้อกำหนดพื้นฐานเดียวกัน: ผู้ที่ได้รับผลกระทบจากการตัดสินใจเหล่านั้นมีสิทธิ รวมถึงสิทธิที่จะทราบว่าการตัดสินใจนั้นเป็นแบบอัตโนมัติ และสิทธิที่จะโต้แย้งการตัดสินใจนั้น

ขนาดของค่าปรับนี้ส่งสัญญาณไปยังบริษัทต่างๆ ที่อยู่นอกภาคการขนส่งโดยสิ้นเชิง เมื่อบริการต่างๆ จำนวนมากขึ้นพึ่งพาอัลกอริทึมในการจัดการทุกอย่างตั้งแต่ความปลอดภัยของบัญชีไปจนถึงคุณสมบัติของลูกค้า หน่วยงานกำกับดูแลดูเหมือนจะพร้อมที่จะบังคับใช้แนวคิดที่ว่าการทำให้เป็นอัตโนมัติไม่ได้ลบล้างความรับผิดชอบ หากจะพูดให้ชัดเจน มันกลับยกมาตรฐานให้สูงขึ้น เพราะระบบกล่องดำที่ไม่สามารถอธิบายตัวเองได้นั้นปกป้องได้ยากกว่าผู้ตัดสินใจที่เป็นมนุษย์ซึ่งอย่างน้อยก็สามารถอธิบายเหตุผลของตนได้

เรื่องนี้หมายความว่าอย่างไรสำหรับคุณ

หากคุณเคยโดนระงับบัญชีแอป ปฏิเสธคำขอลินเชื่อ หรือถูกจำกัดบริการพร้อมกับประกาศอัตโนมัติที่คลุมเครือ คดีนี้คือเครื่องเตือนใจว่าคุณอาจมีทางออกมากกว่าที่อินเทอร์เฟซแสดงให้เห็น ภายใต้ GDPR บุคคลในสหภาพยุโรป (และมักรวมถึงผู้ที่ข้อมูลถูกประมวลผลโดยบริษัทที่ตั้งอยู่ในหรือให้บริการแก่สหภาพยุโรป) สามารถสอบถามได้ว่าการตัดสินใจที่ส่งผลต่อพวกเขาเป็นแบบอัตโนมัติหรือไม่ ขอให้มีการทบทวนโดยมนุษย์ และโต้แย้งผลลัพธ์ได้ แม้นอกสหภาพยุโรป แรงกดดันที่เกิดจากคำตัดสินเช่นนี้มักจะผลักดันให้บริษัทต่างๆ ปรับใช้นโยบายที่ชัดเจนขึ้นและกระบวนการอุทธรณ์ที่ดีขึ้นในระดับโลก เนื่องจากการแยกระบบสำหรับแต่ละภูมิภาคมักมีต้นทุนสูงกว่าการยกระดับมาตรฐานทุกแห่งพร้อมกัน

นี่เป็นช่วงเวลาที่ดีเช่นกันที่จะคำนึงถึงร่องรอยของข้อมูลส่วนบุคคลของคุณในวงกว้าง แอปทุกตัวที่จัดทำโปรไฟล์พฤติกรรมของคุณ ไม่ว่าจะเพื่ออนุมัติการโดยสาร ขยายวงเงินสินเชื่อ หรือปรับแต่งโฆษณา ล้วนทำการตัดสินใจโดยอิงจากข้อมูลที่คุณให้ไว้ โดยมักไม่มีความชัดเจนว่าข้อมูลเหล่านั้นถูกนำไปใช้ถ่วงน้ำหนักอย่างไร

ข้อควรจำสำหรับผู้อ่าน

หากคุณพึ่งพาแพลตฟอร์มกิก แอปการเงิน หรือบริการใดๆ ที่ใช้การตัดสินใจแบบอัตโนมัติเกี่ยวกับบัญชี ลองพิจารณาดำเนินการบางอย่างอย่างเป็นรูปธรรม ทบทวนนโยบายความเป็นส่วนตัวและข้อกำหนดในการให้บริการของแอปที่คุณใช้เป็นประจำเพื่อดูว่ามีการเปิดเผยเรื่องการตัดสินใจแบบอัตโนมัติหรือไม่ หากคุณเคยถูกปิดใช้งาน ถูกปฏิเสธ หรือถูกติดธงโดยอัลกอริทึม ให้ขอให้บริษัททบทวนโดยมนุษย์โดยตรง เนื่องจาก GDPR และกฎหมายที่คล้ายคลึงกันในเขตอำนาจศาลอื่นๆ เริ่มกำหนดให้ต้องมีทางเลือกนี้มากขึ้น และจงตื่นตัวกับปริมาณข้อมูลส่วนบุคคลที่คุณมอบให้กับแอปที่ทำการตัดสินใจที่มีผลกระทบสำคัญ เพราะค่าปรับด้านการตัดสินใจแบบอัตโนมัติภายใต้ GDPR ที่สร้างสถิติเช่นนี้แสดงให้เห็นว่าหน่วยงานกำกับดูแลกำลังให้ความสนใจอย่างใกล้ชิด แม้ว่าผู้ใช้แต่ละคนมักไม่ได้รับข้อมูลครบถ้วนก็ตาม