การจับกุมที่ผิดพลาดซึ่งสร้างขึ้นจากคำเดาของเครื่องจักร
คุณยายวัยเกษียณในเทนเนสซีกำลังฟ้องเรียกค่าเสียหาย 10 ล้านดอลลาร์ หลังจากที่เธอกล่าวว่าการจับคู่ใบหน้าด้วยระบบจดจำใบหน้าด้วย AI ที่ถูกกล่าวอ้างว่าเกิดขึ้นนั้นทำให้เธอถูกกล่าวหาอย่างผิด ๆ ว่าก่ออาชญากรรมโจรกรรมธนาคารในรัฐนอร์ทดาโคตา และถูกควบคุมตัวเป็นเวลาหกเดือน คดีนี้ซึ่งรายงานครั้งแรกโดย ABC News ก่อให้เกิดคำถามสำคัญว่ departmองค์กรตำรวจควรให้ความไว้วางใจต่อเครื่องมือระบุตัวตนอัตโนมัติมากเพียงใด เมื่อผลที่ตามมาจากความผิดพลาดอาจหมายถึงการต้องอยู่ในคุกหลายเดือนสำหรับผู้บริสุทธิ์
ตามรายงาน หญิงคนดังกล่าวถูกเชื่อมโยงกับอาชญากรรมฉ้อโกงธนาคารที่เธอกล่าวว่าเธอไม่ได้ก่อ หลังจากซอฟต์แวร์จดจำใบหน้าเชื่อมโยงภาพของเธอกับภาพจากกล้องวงจรปิด เธอใช้เวลาหกเดือนในการควบคุมตัวก่อนที่คดีจะล้มลง และตอนนี้เธอกำลังดำเนินการฟ้องร้องเรียกค่าเสียหาย 10 ล้านดอลลาร์จากความทุกข์ทรมานนี้
ความผิดพลาดของระบบจดจำใบหน้าเกิดขึ้นได้อย่างไร
ระบบจดจำใบหน้าทำงานโดยการเปรียบเทียบภาพถ่ายหรือเฟรมวิดีโอกับฐานข้อมูลภาพ และสร้างคะแนนความน่าจะเป็นสำหรับการจับคู่ คะแนนนั้นเป็นการประมาณการทางสถิติ ไม่ใช่ความแน่นอน เมื่อนักสืบหรืออัยการปฏิบัติต่อผลลัพธ์ของอัลกอริทึมเป็นหลักฐานที่แน่ชัด แทนที่จะเป็นเพียงเบาะแสหนึ่งในหลาย ๆ อย่าง ความเสี่ยงของการกล่าวหาที่ผิดก็เพิ่มขึ้นอย่างรวดเร็ว
ระบบเหล่านี้มีช่องว่างความแม่นยำที่ocumentedไว้ ขึ้นอยู่กับคุณภาพของภาพ แสง มุมกล้อง และองค์ประกอบทางประชากรของข้อมูลฝึกที่ใช้สร้างระบบ ภาพนิ่งจากกล้องวงจรปิดที่แตก ๆ ภาพด้านข้างบางส่วน หรือสีหน้าที่ผิดปกติ ล้วนสามารถผลักดันอัลกอริทึมไปสู่ผลบวกลวงได้ เมื่อการจับคู่ที่บกพร่องนั้นกลายเป็นรากฐานของหมายจับ ภาระในการพิสูจน์ความบริสุทธิ์ก็ตกอยู่กับผู้ที่ถูกกล่าวหาอย่างผิด ๆ ซึ่งมักมาพร้อมกับผลที่เปลี่ยนแปลงชีวิต เช่นการควบคุมตัวหกเดือนตามที่อธิบายในคดีนี้
ความ stakes ด้านความเป็นส่วนตัวและสิทธิพลเมือง
คดีนี้เป็นส่วนหนึ่งของรูปแบบความกังวลที่กว้างขึ้นเกี่ยวกับวิธีการที่หน่วยงานบังคับใช้กฎหมายนำระบบจดจำใบหน้ามาใช้โดยไม่มีมาตรฐานระดับชาติที่สม่ำเสมอ การกำกับดูแล หรือข้อกำหนดด้านความโปร่งใส ต่างจากการจับคู่ลายนิ้วมือหรือ DNA ซึ่งโดยทั่วไปผ่านการตรวจสอบทางนิติวิทยาศาสตร์อย่างเข้มงวดก่อนที่จะถูกใช้ในศาล ผลลัพธ์จากการจดจำใบหน้าสามารถสร้างได้ทันทีและนำไปใช้โดยมีการตรวจสอบที่น้อยกว่ามากในภาคสนาม
ปัญหาพื้นฐานคือเรื่องของข้อมูลและการยินยอม คนส่วนใหญ่ที่ใบหน้าของพวกเขาปรากฏในระบบจับคู่เหล่านี้ไม่เคยตกลงให้ภาพของพวกเขาถูกใช้ในลักษณะนี้ ภาพที่ดึงมาจากฐานข้อมูลใบขับขี่ สื่อสังคม หรือกล้องวงจรปิดสาธารณะ ล้วนสามารถป้อนเข้าสู่เครื่องมือจดจำได้โดยที่บุคคลนั้นไม่รู้ เมื่ออัลกอริทึมทำงานผิดพลาด ผู้ที่ได้รับความเสียหายมักไม่รู้ด้วยซ้ำว่าข้อมูลชีวมิติของพวกเขาเป็นส่วนหนึ่งของกระบวนการ จนกระทั่งพวกเขากำลังเผชิญกับข้อหาอาญญากรรมแล้ว
การขาดความโปร่งใสนั้นสะท้อนถึงการถกเถียงที่เกิดขึ้นในด้านอื่น ๆ ของนโยบายดิจิทัล ซึ่งคำถามหลักคือใครควบคุมการไหลของข้อมูลส่วนบุคคลและภายใต้กฎเกณฑ์ใด เช่นเดียวกับการอภิปรายเกี่ยวกับ ความเป็นกลางของเครือข่าย ที่มุ่งเน้นการรับรองการปฏิบัติอย่างเป็นธรรมและเท่าเทียมต่อข้อมูลที่เคลื่อนที่ผ่านเครือข่าย การอภิปรายเกี่ยวกับการจดจำใบหน้ามุ่งเน้นการรับรองการปฏิบัติอย่างเป็นธรรมและมีความรับผิดชอบต่อข้อมูลชีวมิติส่วนบุคคลที่เคลื่อนที่ผ่านระบบบังคับใช้กฎหมาย
สิ่งนี้หมายความว่าอะไรสำหรับคุณ
คนส่วนใหญ่จะไม่ต้องเผชิญกับการจับกุมที่ผิดพลาดซึ่ง связанกับการจดจำใบหน้า แต่คดีนี้เป็นเครื่องเตือนใจว่าข้อมูลชีวมิติที่เก็บรวบรวมเพื่อจุดประสงค์หนึ่งอาจถูกนำไปใช้ในลักษณะที่บุคคลไม่เคยคาดคิดหรือยินยอม ใบหน้าของคุณ ซึ่งต่างจากรหัสผ่าน ไม่สามารถเปลี่ยนแปลงได้หากถูกนำไปใช้ในทางที่ผิดหรือจับคู่ผิดโดยระบบที่บกพร่อง
หากคุณอาศัยหรือทำงานในพื้นที่ที่องค์กรตำรวจใช้เทคโนโลยีจดจำใบหน้า การทำความเข้าใจว่านโยบายท้องถิ่นใด (ถ้ามี) กำกับการใช้งานนั้นเป็นสิ่งที่ควรทำ บางเขตอำนาจกำหนดให้มีการตรวจสอบโดยมนุษย์ก่อนที่การจับคู่จากอัลกอริทึมจะนำไปสู่การจับกุม ขณะที่บางแห่งไม่มี การรู้ว่ามีมาตรการป้องกันเหล่านั้นในชุมชนของคุณหรือไม่สามารถช่วยให้คุณเรียกร้องการคุ้มครองที่แข็งแกร่งขึ้นได้หากขาดหายไป
สำหรับบุคคลที่กังวลเกี่ยวกับรอยเท้าข้อมูลชีวมิติของตนเอง การทบทวนการตั้งค่าความเป็นส่วนตัวบนแพลตฟอร์มสื่อสังคม การทำความเข้าใจว่าฐานข้อมูลรัฐบาลใดเก็บภาพของคุณ และการติดตามข้อมูลเกี่ยวกับกฎหมายท้องถิ่นและระดับรัฐเกี่ยวกับการจดจำใบหน้า ถือเป็นขั้นตอนที่ปฏิบัติได้ กลุ่ม advocacy และสมาชิกสภานิติบัญญัติในหลายรัฐได้ผลักดันข้อจำกัดหรือการห้ามใช้เทคโนโลยีนี้โดยตำรวจแล้ว และแรงกดดันจากสาธารณชนก็เป็นปัจจัยขับเคลื่อนการเปลี่ยนแปลงนโยบายเหล่านั้นมาโดยตลอด
ภาพรวมที่ใหญ่ขึ้น
คดีฟ้องร้อง 10 ล้านดอลลาร์นี้มีแนวโน้มที่จะดึงความสนใจอย่างต่อเนื่องขณะที่ดำเนินไปตามระบบกฎหมาย และเพิ่มเข้าไปในชุดคดีที่-growing challenging ว่ามีการใช้เครื่องมือจดจำใบหน้าด้วย AI อย่างไรในการสืบสวนอาชญากรรม ไม่ว่าผลลัพธ์จะเป็นอย่างไร คดีนี้ตอกย้ำความจริงง่าย ๆ ว่า เทคโนโลยีที่ถูกการตลาดว่าเป็นทางลัดในการสืบสวนนั้นมีต้นทุนมนุษย์ที่แท้จริงเมื่อมันล้มเหลว และต้นทุนเหล่านั้นตกหนักที่สุดกับผู้ที่พร้อมน้อยที่สุดที่จะต่อสู้กลับ
เมื่อเครื่องมือจดจำใบหน้ากลายเป็นเรื่องธรรมดามากขึ้นในการ policing การติดตามข้อมูลเกี่ยวกับวิธีการทำงานของระบบเหล่านี้ ที่เก็บข้อมูลชีวมิติของคุณ และการคุ้มครองที่มีอยู่ในพื้นที่ของคุณ เป็นหนึ่งในวิธีที่ปฏิบัติได้จริงที่สุดในการปกป้องตัวเองจากการกลายเป็นพาดหัวข่าวเตือนภัยรายต่อไป
