บทความล่าสุดจาก Jazz Security อธิบายตัวอย่างการรั่วไหลของข้อมูลจาก AI ที่เกิดขึ้นจริง ตั้งแต่วิศวกรซัมซุงที่วางโค้ดลงใน ChatGPT ไปจนถึงเหตุการณ์ EchoLeak และ Salesloft Drift สำหรับแต่ละกรณี บทความครอบคลุมผู้ที่ค้นพบปัญหา สถานะปัจจุบัน และมาตรการควบคุมที่อาจช่วยมองเห็นหรือจำกัดการเปิดเผยข้อมูลได้ กรณีเหล่านี้แตกต่างกันในรายละเอียดทางเทคนิค แต่มีธีมร่วมกัน: การรั่วไหลไม่ได้เริ่มต้นจากการโจมตีที่แปลกใหม่ แต่เริ่มจากพฤติกรรม routine และการเชื่อมต่อที่ไว้วางใจได้

โพสต์นี้อ้างอิงจากบทสรุปนั้นและมุมมองเชิงบรรณาธิการที่อยู่เบื้องหลัง เนื้อหาต้นฉบับที่เรามีนั้นกระชับ所以我们ยึดตามรูปแบบกว้างๆ ที่อธิบายไว้ แทนที่จะเพิ่มรายละเอียดทางเทคนิคที่เราไม่สามารถตรวจสอบได้

เกิดอะไรขึ้นในการรั่วไหลของซัมซุง, EchoLeak และ Salesloft Drift

ทั้งสามกรณีครอบคลุมวิธีการที่แตกต่างกันสามวิธีในการเปิดเผยข้อมูลที่เกี่ยวข้องกับ AI

ซัมซุง วิศวกรวางโค้ดลงใน ChatGPT ไม่จำเป็นต้องมีแฮกเกอร์ พนักงานใช้แชทบอทสาธารณะเป็นเครื่องมือทำงาน และข้อมูลที่ละเอียดอ่อนก็หลุดออกจากการควบคุมของบริษัททันทีที่ถูกส่ง

EchoLeak เหตุการณ์นี้ถูกจัดกลุ่มร่วมกับกรณีอื่นๆ เป็นตัวอย่างของคุณลักษณะ AI ที่เปิดเผยข้อมูลผ่านวิธีการประมวลผลเนื้อหาและการเชื่อมต่อกับข้อมูลอื่น แสดงให้เห็นว่าความเสี่ยงไม่ได้จำกัดอยู่เพียงสิ่งที่บุคคลพิมพ์เท่านั้น การเข้าถึงข้อมูลของระบบ AI เองก็มีความสำคัญเช่นกัน

Salesloft Drift กรณีนี้เกี่ยวข้องกับการเชื่อมต่อ OAuth ที่เชื่อมโยงกัน OAuth ช่วยให้แอปหนึ่งเข้าถึงข้อมูลในอีกแอปหนึ่งโดยไม่ต้องแชร์รหัสผ่าน สะดวก แต่เมื่อบริการที่เชื่อมต่อถูกบุกรุก โทเค็นการเข้าถึงที่ถืออยู่สามารถกลายเป็นเส้นทางเข้าสู่ทุกบัญชีที่เชื่อมโยงไว้

บทความของ Jazz Security ยังบันทึกว่าใครเป็นผู้ค้นพบแต่ละกรณีและสถานะปัจจุบันเป็นอย่างไร สำหรับผู้อ่าน สิ่งที่ได้ประโยชน์มากกว่าคือการจับคู่แต่ละกรณีกับมาตรการควบคุม: สิ่งที่อาจช่วยให้มองเห็นกิจกรรมหรือจำกัดขอบเขตการเดินทางของข้อมูล

ตัวอย่างการรั่วไหลของข้อมูลจาก AI: การใช้งาน AI ในชีวิตประจำวันเปิดเผยข้อมูลอย่างไร

สิ่งที่โดดเด่นในตัวอย่างการรั่วไหลของข้อมูลจาก AI เหล่านี้คือจุดเริ่มต้นนั้นธรรมดาสามัญเพียงใด

การวางข้อความลงในแชทบอทให้ความรู้สึกเหมือนการใช้ช่องค้นหาหรือแอปจดบันทึก ไม่ได้รู้สึกเหมือนการส่งข้อมูลไปยังบุคคลที่สาม ช่องว่างระหว่างการรับรู้กับความเป็นจริงนี้คือจุดที่การรั่วไหลแบบซัมซุงเกิดขึ้น เมื่อข้อมูลถูกส่งไปแล้ว โดยทั่วไปคุณจะมีความเข้าใจจำกัดเกี่ยวกับสถานที่จัดเก็บหรือผู้ที่สามารถเข้าถึงได้ภายใต้ข้อกำหนดของบริการ

แอปที่เชื่อมต่อก็ทำงานในลักษณะเดียวกัน การให้สิทธิ์การเข้าถึงintegration ใช้เวลาเพียงสองสามคลิก และสิทธิ์มักคงอยู่โดยไม่ถูกแตะต้องเป็นเวลาหลายเดือนหรือหลายปี หากผู้ให้บริการเบื้องหลัง integration นั้นถูกบุกรุก การเปิดเผยจะเข้าถึงข้อมูลที่คุณอาจลืมไปแล้วว่าแชร์ไว้

ผู้ช่วย AI เพิ่มชั้นที่สาม เมื่อเครื่องมือสามารถอ่านอีเมล เอกสาร หรือข้อความของคุณเพื่อช่วยเหลือ ทุกสิ่งที่มันอ่านได้อาจตกอยู่ในความเสี่ยงหากเครื่องมือทำงานในลักษณะที่ไม่ตั้งใจ ตัวอย่าง EchoLeak แสดงให้เห็นว่าทำไมขอบเขตการเข้าถึงจึงมีความสำคัญพอๆ กับคุณภาพของ AI เอง

ผู้คนและองค์กรที่ได้รับผลกระทบสูญเสียอะไร

รายละเอียดแตกต่างกันไปตามกรณี และเราจะไม่คาดเดาตัวเลขที่บทสรุปต้นฉบับไม่ได้ให้ไว้ โดยทั่วไป การเปิดเผยแบ่งออกเป็นหลายประเภท:

  • ข้อมูลที่เป็นกรรมสิทธิ์ โค้ดต้นฉบับและเนื้อหาภายในที่ป้อนเข้าสู่แชทบอทสาธารณะไม่สามารถถือเป็นความลับได้อีกต่อไป
  • ข้อมูลทางธุรกิจและลูกค้า การบุกรุกของแอปที่เชื่อมต่อสามารถเปิดเผยบันทึกที่จัดเก็บในแพลตฟอร์มที่เชื่อมโยง ซึ่งส่งผลกระทบต่อลูกค้าและผู้ติดต่อขององค์กรที่เกี่ยวข้อง ไม่ใช่แค่องค์กรเอง
  • การควบคุมและการมองเห็น ในหลายเหตุการณ์ ความเสียหายที่ยั่งยืนไม่ใช่เพียงข้อมูลเท่านั้น แต่คือการสูญเสียภาพที่ชัดเจนว่าข้อมูลไปที่ไหน

รูปแบบนี้ยังปรากฏนอกสภาพแวดล้อมขององค์กรด้วย การรั่วไหลของข้อมูล Suno ซึ่งเปิดเผยข้อมูลส่วนบุคคลของผู้ใช้กว่า 55 ล้านคน และไม่เคยถูกเปิดเผยต่อพวกเขา แสดงให้เห็นว่าบริการ AI ที่ถือข้อมูลผู้ใช้สามารถกลายเป็นจุดเสี่ยงได้แม้ผู้ใช้ไม่ได้ทำอะไรผิดปกติ

สิ่งนี้หมายความว่าอย่างไรสำหรับคุณ

คุณไม่จำเป็นต้องทำงานในบริษัทขนาดใหญ่เพื่อให้บทเรียนเหล่านี้ใช้ได้ บุคคลทั่วไปวางเอกสารส่วนตัว คำถามทางการแพทย์ สัญญา และร่างงานลงในแชทบอททุกวัน หลายคนยังเชื่อมต่อเครื่องมือ AI และแอปอื่นๆ กับอีเมล ปฏิทิน และพื้นที่จัดเก็บข้อมูลบนคลาวด์

ประเด็นเชิงปฏิบัติคือการเปิดเผยของคุณขึ้นอยู่กับสองสิ่งที่คุณควบคุม: สิ่งที่คุณมอบให้บริการ AI และการเข้าถึงที่คุณเปิดไว้ ทั้งสองอย่างไม่จำเป็นต้องมีความเชี่ยวชาญทางเทคนิคในการจัดการ บริบทที่กว้างขึ้นเกี่ยวกับวิธีที่ AI กำลังเปลี่ยนแปลงภาพภัยคุกคามนั้นครอบคลุมอยู่ในบทความของเราเกี่ยวกับ แรนซัมแวร์ AI และโมเดลทดสอบที่มีข้อบกพร่องซึ่งรั่วไหลข้อมูล

นิสัยที่จำกัดการเปิดเผย AI ของคุณเอง

  • ปฏิบัติต่อพรอมต์แชทบอทเหมือนอีเมลถึงคนแปลกหน้า หากคุณไม่ส่งออกนอกองค์กรหรือครัวเรือนของคุณ อย่าวางลงไป
  • ลบรายละเอียดที่ระบุตัวตนก่อน แทนที่ชื่อ หมายเลขบัญชี ข้อมูลรับรอง และข้อมูลลูกค้าด้วยตัวแทนก่อนขอความช่วยเหลือ
  • ตรวจสอบนโยบายการทำงานของคุณ หากนายจ้างมีเครื่องมือ AI ที่ได้รับอนุมัติ ให้ใช้แทนบัญชีส่วนตัว หากไม่มีนโยบาย ให้ขอ
  • ตรวจสอบแอปที่เชื่อมต่อเป็นประจำ เปิดหน้าความปลอดภัยหรือสิทธิ์ของอีเมล พื้นที่จัดเก็บคลาวด์ และบัญชีที่ทำงานของคุณ แล้วลบ integration ที่คุณไม่ใช้แล้ว
  • เลือกใช้สิทธิ์ที่แคบ เมื่อแอปขอการเข้าถึงแบบกว้าง ตรวจสอบว่ามีตัวเลือกที่จำกัดกว่าหรือไม่
  • ตรวจสอบประวัติแชทและการตั้งค่าข้อมูล ดูว่าบริการ AI ของคุณเก็บรักษาอะไรไว้ และคุณสามารถเลือกไม่ใช้ข้อมูลสำหรับการฝึกหรือลบการสนทนาที่ผ่านมาได้หรือไม่
  • ใช้รหัสผ่านที่ไม่ซ้ำใครและการยืนยันตัวตนหลายปัจจัย สิ่งเหล่านี้ไม่ได้หยุดการรั่วไหลทุกครั้ง แต่จำกัดสิ่งที่บัญชีที่ถูกเปิดเผยสามารถนำไปสู่ได้

บทสรุป

ตัวอย่างการรั่วไหลของข้อมูลจาก AI จากซัมซุง EchoLeak และ Salesloft Drift ชี้ไปที่ข้อสรุปเดียวกัน: การเปิดเผยที่ใหญ่ที่สุดมักมาจากความสะดวกสบาย ไม่ใช่การโจมตีที่ซับซ้อน เริ่มต้นด้วยการตรวจสอบสิ่งที่คุณวางลงในแชทบอท จากนั้นไปผ่านแอปที่เชื่อมต่อและเพิกถอนสิ่งที่คุณไม่ต้องการ สำหรับตัวอย่างอื่นของการเปิดเผยข้อมูลจากบริการ AI อ่านเกี่ยวกับ การรั่วไหลของ Suno และสำหรับบริบทที่กว้างขึ้นเกี่ยวกับความเสี่ยงที่เกี่ยวข้องกับ AI ดูที่ บทความแรนซัมแวร์ AI ของเรา การตรวจสอบไม่กี่นาทีตอนนี้ง่ายกว่าการพยายามค้นหาภายหลังว่าข้อมูลของคุณไปที่ไหนมาก