กลุ่มแรนซัมแวร์ที่ขับเคลื่อนด้วย AI กลับมาพร้อมอาวุธใหม่

JadePuffer ภัยคุกคามที่เคยถูกบันทึกไว้ว่าเป็นผู้ดำเนินการแคมเปญแรนซัมแวร์ครั้งแรกที่ดำเนินการครบวงจรโดยโมเดลภาษาขนาดใหญ่ กลับมาพร้อมเครื่องมือใหม่ ตามรายงานของ Infosecurity Magazine แคมเปญต่อเนื่องของกลุ่มนี้ได้ใช้ตัวล็อกที่เรียกว่า ENCFORGE ซึ่งออกแบบมาเพื่อทำลายอาร์ทิแฟกต์ของโมเดล AI โดยเฉพาะ แทนที่จะเข้ารหัสไฟล์และฐานข้อมูลธรรมดา

เรื่องนี้สำคัญเพราะนับเป็นการเปลี่ยนเป้าหมาย ปฏิบัติการแรนซัมแวร์ก่อนหน้านี้ รวมถึงแคมเปญดั้งเดิมของ JadePuffer มุ่งเน้นไปที่การเข้ารหัสฐานข้อมูลฝั่งผลิตและเรียกร้องค่าไถ่เพื่อคืนข้อมูล เอกสารต้นฉบับของ Sysdig เกี่ยวกับการโจมตีของ JadePuffer อธิบายถึงโอเปอเรเตอร์แบบเอเยนต์ที่ใช้ประโยชน์จากแพลตฟอร์ม Langflow และดำเนินการบุกรุกโดยมีการควบคุมจากมนุษย์เพียงเล็กน้อย ENCFORGE ดูเหมือนจะขยายแนวทางอัตโนมัติแบบเดียวกัน แต่มีวัตถุประสงค์ใหม่ นั่นคือการลบล้างโมเดลที่ผ่านการฝึกฝน ค่าน้ำหนัก และไฟล์การตั้งค่าที่องค์กรต่าง ๆ ใช้ในการขับเคลื่อนระบบ AI

เหตุใดการพุ่งเป้าไปที่โมเดล AI จึงเปลี่ยนสมการ

แรนซัมแวร์แบบดั้งเดิมจับข้อมูลไว้เป็นตัวประกัน การทำลายอาร์ทิแฟกต์ของโมเดล AI เป็นการขู่กรรโชกอีกรูปแบบหนึ่ง โมเดลที่ผ่านการฝึกฝนมักเป็นผลจากการใช้เวลาคำนวณนานหลายเดือน ชุดข้อมูลฝึกฝนที่คัดสรรมาอย่างดี และงานปรับแต่งละเอียด ซึ่งไม่สามารถกู้คืนจากการสำรองข้อมูลตามปกติได้ หากการสำรองนั้นไม่ได้ถูกออกแบบมาเพื่อการกู้คืนโมเดลโดยเฉพาะ สำหรับบริษัทที่สร้างเครื่องมือ AI สำหรับลูกค้า ระบบอัตโนมัติภายใน หรือขั้นตอนการประมวลผลข้อมูลที่อาศัยโมเดลเหล่านี้ การสูญเสียโมเดลไปโดยสิ้นเชิงอาจสร้างความเสียหายมากกว่าการเสียฐานข้อมูลเพียงฐานเดียว เพราะการสร้างโมเดลขึ้นใหม่ตั้งแต่ต้นต้องใช้เวลาที่ธุรกิจซึ่งกำลังดำเนินงานอยู่มักไม่มี

นอกจากนี้ยังมีมิติด้านความเป็นส่วนตัวที่ควรกล่าวถึง โมเดล AI จำนวนมากที่ธุรกิจใช้ถูกฝึกฝนหรือปรับแต่งละเอียดบนชุดข้อมูลที่มีข้อมูลลูกค้า ไม่ว่าจะเป็นบันทึกข้อความสนับสนุน ข้อมูลพฤติกรรม หรือข้อมูลส่วนบุคคลที่ใช้ปรับแต่งบริการ เมื่อผู้ปฏิบัติการแรนซัมแวร์พุ่งเป้าไปที่โครงสร้างพื้นฐานที่อยู่รอบโมเดลเหล่านี้ ไม่ว่าจะด้วยการเข้ารหัสฐานข้อมูลโดยรอบหรือบัดนี้คือการทำลายตัวโมเดลเอง ข้อมูลส่วนบุคคลที่ไหลผ่านโครงสร้างพื้นฐานนั้นก็เสี่ยงต่อการถูกเปิดเผยและสูญหาย ผู้บริโภคแทบไม่มีทางรู้ว่าผู้ให้บริการรายใดกำลังใช้งานระบบ AI กับข้อมูลของพวกเขา ซึ่งทำให้การตรวจจับการโจมตีแบบนี้จากภายนอกทำได้ยาก และการเตรียมตัวในระดับบุคคลก็ยิ่งยากขึ้นไปอีก

ส่วนหนึ่งของรูปแบบการโจมตีอัตโนมัติที่กว้างขึ้น

การกลับมาของ JadePuffer พร้อมกับ ENCFORGE สอดคล้องกับแนวโน้มที่นักวิจัยด้านความปลอดภัยกำลังจับตาอย่างใกล้ชิดในปีนี้ การค้นพบโดยอิสระเกี่ยวกับ การโจมตีด้วยแรนซัมแวร์ AI อัตโนมัติเต็มรูปแบบครั้งแรก แสดงให้เห็นว่าเอเยนต์ AI สามารถสแกนหาช่องโหว่ เข้าถึงระบบ และดำเนินการขู่กรรโชกโดยไม่มีมนุษย์คอยควบคุมในแต่ละขั้นตอนแบบทันที แบบอย่างนี้สำคัญในที่นี้ เพราะชี้ว่า JadePuffer ไม่ใช่การทดลองที่ทำเพียงครั้งเดียว แต่คือผู้ปฏิบัติการที่พัฒนาชุดเครื่องมือของตนเอง จากเดิมที่เข้ารหัสฐานข้อมูล ไปจนถึงตัวล็อกที่ถูกวิศวกรรมขึ้นมาเพื่อต่อกรกับโครงสร้างพื้นฐาน AI โดยตรง เมื่อองค์กรต่าง ๆ นำแพลตฟอร์ม AI อย่าง Langflow และเครื่องมือจัดการในลักษณะเดียวกันมาใช้มากขึ้น พื้นที่โจมตีสำหรับแคมเปญแบบนี้ก็ยิ่งเพิ่มขึ้น ซึ่งเป็นประเด็นที่ถูกกล่าวถึงใน บทสรุปความปลอดภัยที่ติดตามแรนซัมแวร์และการโจมตีที่ขับเคลื่อนด้วย AI ควบคู่ไปกับภัยคุกคามเกิดใหม่อื่น ๆ

สิ่งนี้หมายความอย่างไรสำหรับคุณ

ผู้อ่านส่วนใหญ่คงไม่ได้เป็นผู้ควบคุมการปรับใช้โมเดล AI ด้วยตนเอง แต่ผลกระทบขยายวงกว้างกว่าแผนกไอทีมาก หากธุรกิจที่คุณมีปฏิสัมพันธ์ด้วย ไม่ว่าจะเป็นผู้ค้าปลีก ผู้ให้บริการด้านสุขภาพ หรือบริการทางการเงิน ใช้ระบบ AI ที่ถูกโจมตีในลักษณะนี้ ผลที่ตามมาอาจรวมถึงการให้บริการล่ม การสนับสนุนล่าช้า หรือในกรณีที่ร้ายแรงกว่านั้น คือการเปิดเผยข้อมูลที่โมเดลเหล่านั้นถูกฝึกฝนหรือใช้ในการดำเนินงาน แรนซัมแวร์ที่พุ่งเป้าไปที่โครงสร้างพื้นฐาน AI ยังคงเป็นปัญหาจากธุรกิจสู่ธุรกิจในตอนนี้ แต่ข้อมูลผู้บริโภคที่อยู่ในโครงสร้างพื้นฐานนั้นคือสิ่งที่ทำให้การโจมตีเหล่านี้มีอำนาจต่อรอง

สำหรับองค์กรที่กำลังสร้างหรือใช้งานระบบ AI นี่เป็นสัญญาณชัดเจนว่าอาร์ทิแฟกต์ของโมเดลจำเป็นต้องมีวินัยในการสำรองข้อมูล การควบคุมการเข้าถึง และการเฝ้าระวัง เช่นเดียวกับทรัพย์สินสำคัญอื่น ๆ การคิดว่าโมเดลที่ผ่านการฝึกฝนแล้วเป็นสิ่งที่ใช้แล้วทิ้งหรือหามาทดแทนได้ง่ายกลายเป็นสมมติฐานที่ไม่ปลอดภัยอีกต่อไป

ข้อเสนอแนะที่นำไปปฏิบัติได้

  • หากคุณดูแลโครงสร้างพื้นฐาน AI ตรวจสอบให้แน่ใจว่าค่าน้ำหนักโมเดลและอาร์ทิแฟกต์การฝึกฝนถูกสำรองแยกจากระบบฝั่งผลิต โดยมีสำเนาแบบออฟไลน์หรือแบบที่แก้ไขไม่ได้
  • ทบทวนสิทธิ์การเข้าถึงบนแพลตฟอร์มจัดการ AI แคมเปญแรนซัมแวร์แบบเอเยนต์เคยใช้ประโยชน์จากเครื่องมือที่เปิดเผยหรือตั้งค่าไม่ถูกต้องเพื่อยึดพื้นที่ตั้งต้น
  • ในฐานะผู้บริโภค ควรถามผู้ให้บริการว่าพวกเขาปกป้องระบบ AI ที่ประมวลผลข้อมูลของคุณอย่างไร โดยเฉพาะบริการที่จัดการข้อมูลส่วนบุคคลหรือข้อมูลทางการเงินที่ละเอียดอ่อน
  • เฝ้าระวังการหยุดชะงักของบริการหรือการแจ้งเตือนการละเมิดข้อมูลจากบริษัทที่คุณใช้บริการ แรนซัมแวร์ที่พุ่งเป้าไปที่แบ็กเอนด์ของ AI อาจทำให้การกู้คืนล่าช้ากว่าการหยุดให้บริการทั่วไป

วิวัฒนาการของ JadePuffer จากการขู่กรรโชกฐานข้อมูลไปสู่การทำลายโมเดล AI เป็นเครื่องย้ำเตือนว่าผู้ปฏิบัติการแรนซัมแวร์ปรับตัวอย่างรวดเร็วไปยังจุดที่มูลค่าและอำนาจต่อรองกระจุกตัวอยู่ เมื่อระบบ AI กลายเป็นโครงสร้างพื้นฐานหลักของธุรกิจจำนวนมากขึ้น การปกป้องระบบเหล่านั้นจะต้องกลายเป็นส่วนสำคัญในมาตรการด้านความปลอดภัยของทุกคน ไม่ใช่สิ่งที่ถูกคิดขึ้นมาทีหลัง