การทดลองจดจำใบหน้าแบบเรียลไทม์ที่ผู้อยู่อาศัยส่วนใหญ่ไม่เคยรู้

ในสิ่งที่ถูกอธิบายว่าเป็นครั้งแรกของออสเตรเลีย ตำรวจเวสเทิร์นออสเตรเลียได้ติดตั้งกล้องจดจำใบหน้า AI แบบเรียลไทม์อย่างเงียบ ๆ ทั่วเมืองเพิร์ทและฟรีแมนเทิล เริ่มตั้งแต่เดือนมิถุนายน ภายในสัปดาห์เดียวของการทดลอง ระบบได้สแกนใบหน้าไปแล้วมากกว่า 130,000 ใบหน้า สร้างการแจ้งเตือน 33 ครั้ง และนำไปสู่การจับกุม 18 ราย ตำรวจยังกล่าวว่าเทคโนโลยีนี้ช่วยระบุตัวและเข้าพบผู้กระทำผิดทางเพศที่ขึ้นทะเบียน 21 รายในพื้นที่

ขนาดของการสแกนนั้นน่าสังเกตในตัวเอง แต่สิ่งที่ถูกตรวจสอบมากที่สุดคือวิธีที่มันเกิดขึ้น: ผู้อยู่อาศัยที่เดินผ่านถนนเหล่านั้นไม่ได้รับแจ้งว่ากำลังถูกสแกน ไม่มีแคมเปญติดป้ายประกาศ ไม่มีช่วงเวลารับฟังความคิดเห็นสาธารณะ และไม่มีกลไกการเลือกไม่เข้าร่วมที่ชัดเจน สำหรับชาวออสเตรเลียจำนวนมาก ครั้งแรกที่ได้ยินเรื่องโครงการนี้คือผ่านการรายงานข่าวหลังเหตุการณ์เกิดขึ้นแล้ว ไม่ใช่ผ่านประกาศใด ๆ จากตำรวจหรือรัฐบาลท้องถิ่น

เหตุใดการไม่แจ้งให้ทราบจึงเป็นเรื่องสำคัญ

ระบบจดจำใบหน้าทำงานโดยการบันทึกภาพของผู้คนในที่สาธารณะและเปรียบเทียบกับฐานข้อมูล ซึ่งบ่อยครั้งเป็นแบบเรียลไทม์ เมื่อกระบวนการนั้นเกิดขึ้นโดยไม่มีการแจ้งให้สาธารณชนทราบ ผู้คนจะสูญเสียความสามารถในการตัดสินใจอย่างรอบรู้ว่าควรไปที่ไหน ถูกพบเห็นกับใคร หรือการเคลื่อนไหวของพวกเขาอาจถูกบันทึกและเชื่อมโยงข้ามข้อมูลอย่างไร ผู้สนับสนุนความเป็นส่วนตัวและผู้เชี่ยวชาญด้านกฎหมายชี้ว่า สิ่งนี้บั่นทอนหลักการพื้นฐานของการกำกับดูแลการเฝ้าระวัง: โดยทั่วไปผู้คนควรรู้ว่าเมื่อใดและอย่างไรที่พวกเขากำลังถูกติดตาม โดยเฉพาะอย่างยิ่งโดยหน่วยงานรัฐ

การทดลองนี้ยังทำให้เกิดการระบุตัวตนที่ผิดพลาดอย่างน้อยหนึ่งครั้งที่ได้รับการยืนยัน ซึ่งเป็นเครื่องเตือนใจว่าแม้แต่ระบบ AI ที่ซับซ้อนก็สามารถระบุตัวบุคคลผิดได้ บางครั้งส่งผลตั้งแต่ความไม่สะดวกไปจนถึงร้ายแรง ความเสี่ยงในการระบุผิดไม่ได้กระจายตัวอย่างเท่าเทียมกันด้วย เครื่องมือจดจำใบหน้ามีประวัติที่บันทึกไว้อย่างดีว่ามีอัตราความผิดพลาดสูงกว่าสำหรับกลุ่มประชากรบางกลุ่ม ซึ่งทำให้เกิดข้อกังวลด้านความเป็นธรรมควบคู่กับด้านความเป็นส่วนตัว

ตำรวจเวสเทิร์นออสเตรเลียได้นำเสนอผลลัพธ์ในแง่ของชัยชนะด้านความปลอดภัยสาธารณะ การจับกุมที่เกิดขึ้น การระบุตัวผู้กระทำผิด และการแจ้งเตือนที่สร้างขึ้น แต่องค์กรเฝ้าระวังด้านความเป็นส่วนตัวโต้แย้งว่า การประเมินต้นทุนและผลประโยชน์ที่แท้จริงต้องอาศัยความโปร่งใสเกี่ยวกับกฎของการทดลอง: ภาพวิดีโอและข้อมูลการจับคู่ถูกเก็บรักษาไว้นานเท่าใด ใครเข้าถึงได้บ้าง มีการแบ่งปันกับหน่วยงานอื่นหรือไม่ และเกิดอะไรขึ้นกับข้อมูลชีวมิติของผู้คนหลายหมื่นคนที่ถูกสแกนแต่ไม่มีส่วนเกี่ยวข้องกับการสืบสวนใด ๆ

รูปแบบที่กว้างขึ้นของการจัดเก็บข้อมูลชีวมิติ

การทดลองนี้ไม่ได้เกิดขึ้นอย่างโดดเดี่ยว รัฐบาลและบริษัทเอกชนทั่วโลกหันมาใช้การยืนยันตัวตนด้วยชีวมิติมากขึ้นเรื่อย ๆ ไม่ว่าจะผ่านการจดจำใบหน้าเพื่องานตำรวจ การตรวจชีวมิติที่สนามบิน หรือระบบยืนยันอายุที่สแกนใบหน้าเพื่อประเมินอายุผู้ใช้ก่อนอนุญาตให้เข้าถึงเนื้อหาหรือบริการบางอย่าง แต่ละระบบเหล่านี้ตั้งคำถามหลักคล้ายกัน: ระบบใดระบบหนึ่งควรได้รับอนุญาตให้เก็บข้อมูลชีวมิติได้มากเพียงใด และควรเก็บไว้นานเท่าใด ผู้อ่านที่สนใจว่าการแลกเปลี่ยนเหล่านี้เกิดขึ้นในบริบทที่ต่างแต่เกี่ยวข้องกันอย่างไร สามารถดูได้ว่า กฎหมายยืนยันอายุทั่วโลก ได้บังคับให้เกิดการถกเถียงคล้ายกันเกี่ยวกับการสแกนชีวมิติ การเก็บรักษาข้อมูล และความยินยอมแล้วอย่างไร ซึ่งบ่อยครั้งมีการรับรู้ของสาธารณชนน้อยกว่าที่ขอบเขตของเทคโนโลยีจะชี้ให้เห็น

การทดลองของตำรวจเวสเทิร์นออสเตรเลียเป็นกรณีศึกษาที่มีประโยชน์อย่างยิ่ง เพราะมันแสดงให้เห็นว่าเกิดอะไรขึ้นเมื่อการเฝ้าระวังด้วยชีวมิติย้ายจากการถกเถียงเชิงนโยบายไปสู่การใช้งานจริง เทคโนโลยีทำงานได้ตามที่ตั้งใจไว้ในหลายกรณี แต่การไม่มีประกาศสาธารณะที่ชัดเจน ไม่มีเส้นทางการตรวจสอบอิสระ หรือตัวเลือกการเลือกไม่เข้าร่วมอย่างเป็นทางการ แสดงให้เห็นว่าความสามารถสามารถแซงหน้าการกำกับดูแลได้รวดเร็วเพียงใด

สิ่งนี้หมายความว่าอย่างไรสำหรับคุณ

หากคุณอาศัยอยู่ในหรือไปเยือนเมืองเพิร์ทหรือฟรีแมนเทิล คุณอาจถูกสแกนไปแล้วโดยไม่รู้ตัว และพลวัตเดียวกันนี้อาจแพร่กระจายไปยังเมืองอื่น ๆ เมื่อโครงการนำร่องคล้ายกันถูกพิจารณาในที่อื่น ๆ แม้แต่นอกออสเตรเลีย กรณีนี้เป็นภาพตัวอย่างว่าการทดลองจดจำใบหน้า AI ในพื้นที่สาธารณะกำลังมุ่งหน้าไปทางไหน: การเปิดใช้อย่างเงียบ ๆ โดยให้เหตุผลด้วยสถิติความปลอดภัย โดยมาตรการปกป้องความเป็นส่วนตัวมักถูกเพิ่มเข้ามาหลังจากเกิดขึ้นแล้ว แทนที่จะสร้างไว้ตั้งแต่ต้น

โดยทั่วไปแล้วคุณไม่สามารถเลือกไม่เข้าร่วมระบบจดจำใบหน้าสาธารณะแบบเรียลไทม์ได้เมื่อระบบเปิดใช้งานในพื้นที่ของคุณแล้ว ซึ่งเป็นสิ่งที่ทำให้ความโปร่งใสและการถกเถียงสาธารณะสำคัญมากก่อนที่ระบบเหล่านี้จะเปิดใช้ ไม่ใช่หลังจากนั้น

ข้อปฏิบัติที่นำไปใช้ได้

  • ตรวจสอบว่าหน่วยงานตำรวจท้องถิ่นหรือสภาเมืองของคุณได้เผยแพร่ข้อมูลเกี่ยวกับการทดลองจดจำใบหน้าใด ๆ ทั้งในปัจจุบันหรือที่วางแผนไว้หรือไม่ และมองหากระบวนการรับฟังความคิดเห็นหรือปรึกษาหารือสาธารณะ
  • สนับสนุนข้อเรียกร้องให้มีนโยบายการเก็บรักษาและลบข้อมูลที่ชัดเจน เมื่อใดก็ตามที่มีการเสนอใช้การจดจำใบหน้าหรือเครื่องมือชีวมิติอื่น ๆ ในพื้นที่สาธารณะ
  • ผลักดันให้มีการตรวจสอบอิสระด้านความแม่นยำและอคติในระบบเฝ้าระวัง AI ใด ๆ ก่อนที่จะขยายขอบเขตเกินกว่าระยะนำร่อง
  • ติดตามข้อมูลว่าข้อมูลชีวมิติที่เก็บเพื่อวัตถุประสงค์หนึ่ง เช่น งานตำรวจ อาจถูกแบ่งปันกับหน่วยงานอื่นหรือบริษัทเอกชนในภายหลังได้อย่างไร

การถกเถียงเกี่ยวกับการทดลองจดจำใบหน้า AI จะยิ่งดังขึ้นเรื่อย ๆ เมื่อเมืองต่าง ๆ ทดสอบระบบคล้ายกันมากขึ้น การติดตามข้อมูลว่าโครงการเหล่านี้ถูกนำมาใช้อย่างไร และเรียกร้องความโปร่งใสเมื่อไม่เป็นเช่นนั้น เป็นหนึ่งในวิธีที่ใช้ได้จริงที่สุดที่สาธารณชนจะส่งอิทธิพลต่อการนำเทคโนโลยีนี้ไปใช้ในอนาคต