แฮกเกอร์รัสเซียใช้อาวุธป้องกันความปลอดภัยของ AI เป็นอาวุธต่อต้านเครื่องมือรักษาความปลอดภัย

แคมเปญมัลแวร์ที่รายงานใหม่ซึ่งเชื่อมโยงกับแฮกเกอร์รัสเซียใช้แนวทางที่ผิดปกติในการหลบเลี่ยงการตรวจจับ: การฝังคำขออาวุธนิวเคลียร์ปลอมภายในสคริปต์ VBS ที่เป็นอันตราย เป้าหมายไม่ใช่การสร้างอาวุธ แต่เป็นการสร้างความสับสนให้กับระบบ AI ที่ถูกใช้มากขึ้นในการวิเคราะห์โค้ดที่น่าสงสัย ด้วยการแทรกภาษาที่เลียนแบบคำขอข้อมูลอาวุธนิวเคลียร์ ผู้โจมตีดูเหมือนจะพยายามสะดุดกลไกป้องกันความปลอดภัยที่สร้างไว้ในโมเดล AI ทำให้ระบบเหล่านั้นปฏิเสธที่จะประมวลผลหรือวิเคราะห์ไฟล์อย่างสมบูรณ์

กลยุทธ์นี้เน้นย้ำถึงความตึงเครียดที่เพิ่มขึ้นในด้านความมั่นคงปลอดภัยทางไซเบอร์: ในขณะที่ทีมรักษาความปลอดภัยจำนวนมากขึ้นพึ่งพาเครื่องมือ AI เพื่อคัดแยกและวิเคราะห์มัลแวร์ในวงกว้าง ผู้โจมตีก็เรียนรู้ที่จะใช้ประโยชน์จากกลไกความปลอดภัยเดียวกันที่ออกแบบมาเพื่อทำให้เครื่องมือเหล่านั้นน่าเชื่อถือ

กลอุบายคำขออาวุธนิวเคลียร์ทำงานอย่างไร

กลไกป้องกันความปลอดภัยของ AI มีอยู่ด้วยเหตุผลที่ดี โมเดลภาษาขนาดใหญ่ได้รับการฝึกให้ปฏิเสธคำขอที่อาจก่อให้เกิดอันตรายในโลกจริง รวมถึงคำแนะนำโดยละเอียดที่เกี่ยวข้องกับอาวุธทำลายล้างสูง เมื่อเครื่องมือรักษาความปลอดภัยที่ใช้ AI สแกนไฟล์ โดยทั่วไปแล้วมันจะอ่านเนื้อหาทั้งหมด รวมถึงข้อความที่ฝังอยู่ เป็นส่วนหนึ่งของกระบวนการวิเคราะห์

ด้วยการวางภาษาที่เลียนแบบคำขออาวุธนิวเคลียร์ภายในสคริปต์ VBS แฮกเกอร์ดูเหมือนจะหวังให้พฤติกรรมการปฏิเสธที่สร้างไว้ในโมเดล AI ทำงาน แทนที่จะแจ้งเตือนว่าไฟล์เป็นมัลแวร์ AI อาจหยุดชะงัก ปฏิเสธที่จะวิเคราะห์ต่อ หรือให้ผลการประเมินที่ไม่สมบูรณ์หรือไม่น่าเชื่อถือ ในทางปฏิบัติ เนื้อหาที่เป็นอันตรายกลายเป็นเหยื่อล่อชนิดหนึ่ง ใช้การฝึกอบรมด้านจริยธรรมของ AI เองต่อต้านมัน

นี่ไม่ใช่จุดบกพร่องที่เกิดขึ้นกับผู้ขายหรือผลิตภัณฑ์ใดโดยเฉพาะ มันสะท้อนถึงความท้าทายที่กว้างขึ้น: กลไกป้องกันความปลอดภัยโดยทั่วไปถูกออกแบบมาเพื่อการกลั่นกรองเนื้อหาและการป้องกันอันตราย ไม่ใช่การหลบเลี่ยงเชิงปรปักษ์ในระหว่างการวิเคราะห์มัลแวร์ทางเทคนิค เมื่อเป้าหมายทั้งสองนี้ขัดแย้งกัน ผู้โจมตีก็ได้ช่องทาง

ทำไมเรื่องนี้จึงสำคัญสำหรับการวิเคราะห์ความปลอดภัยที่ขับเคลื่อนด้วย AI

ทีมรักษาความปลอดภัยได้นำเครื่องมือ AI มาใช้อย่างรวดเร็วเพื่อช่วยจัดการกับปริมาณไฟล์ที่น่าสงสัย การโจมตีแบบฟิชชิ่ง และสคริปต์ที่พวกเขาพบเจอในแต่ละวัน เครื่องมือเหล่านี้สัญญาว่าจะคัดแยกได้เร็วขึ้นและสามารถระบุรูปแบบที่นักวิเคราะห์มนุษย์อาจมองข้าม แต่เหตุการณ์นี้เป็นเครื่องเตือนใจว่าระบบ AI ที่ใช้ในกระบวนการรักษาความปลอดภัยมีพื้นผิวการโจมตีเป็นของตัวเอง ซึ่งการตรวจจับมัลแวร์แบบดั้งเดิมไม่ได้ถูกสร้างมาเพื่อคาดการณ์

หากโมเดล AI 可以被บงการให้ข้ามหรือลดความเข้มงวดในการวิเคราะห์เพียงเพราะไฟล์มีคำที่กระตุ้นบางคำ นั่นก็เป็นจุดบอดที่มีนัยสำคัญ มันยังตั้งคำถามว่าองค์กรควรพึ่งพาการวิเคราะห์ที่ขับเคลื่อนด้วย AI มากเพียงใดโดยไม่มีการกำกับดูแลจากมนุษย์ โดยเฉพาะสำหรับการตัดสินใจที่มีความเสี่ยงสูง เช่น ไฟล์ปลอดภัยที่จะเปิดหรือรันหรือไม่

กลยุทธ์แบบนี้เข้ากับรูปแบบที่กว้างขึ้นของการที่ผู้โจมตีปรับเทคนิคให้เข้ากับใครก็ตาม หรืออะไรก็ตาม ที่ทำหน้าที่ป้องกัน เช่นเดียวกับที่ผู้ปฏิบัติการแรนซัมแวร์ได้เปลี่ยนเป้าหมายการโจมตีทางสังคมไปที่ผู้จัดการวัยกลางคน แทนที่จะเป็นผู้บริหาร ผู้เขียนมัลแวร์กำลังปรับเทคนิคการหลบเลี่ยงให้เข้ากับระบบเฉพาะ รวมถึงโมเดล AI ที่ขวางระหว่างพวกเขากับเป้าหมาย

สิ่งนี้หมายความว่าอย่างไรสำหรับคุณ

สำหรับผู้ใช้ทั่วไปส่วนใหญ่ เทคนิคเฉพาะนี้มุ่งเป้าไปที่โครงสร้างพื้นฐานด้านความมั่นคงปลอดภัยขององค์กร มากกว่าอุปกรณ์ส่วนบุคคลโดยตรง คุณไม่น่าจะพบเจอกลอุบายสคริปต์ VBS เฉพาะนี้บนคอมพิวเตอร์ของคุณเองในแบบที่ส่งผลต่อการท่องเว็บหรือนิสัยอีเมลประจำวันของคุณ แต่บทเรียนพื้นฐานใช้ได้ในวงกว้าง: เครื่องมืออัตโนมัติ ไม่ว่าจะเป็นสแกนเนอร์มัลแวร์ที่ใช้ AI ตัวกรองสแปม หรือซอฟต์แวร์แอนติไวรัส ไม่ได้ไม่มีข้อผิดพลาด และผู้โจมตีกำลังวิจัยหาวิธีใช้ประโยชน์จากจุดบอดของมันอย่างจริงจัง

หากที่ทำงานของคุณใช้เครื่องมือรักษาความปลอดภัยที่ขับเคลื่อนด้วย AI นี่เป็นเวลาที่ดีที่จะถามว่าเครื่องมือเหล่านั้นได้รับการตรวจสอบความถูกต้องอย่างไร และนักวิเคราะห์มนุษย์ยังคงตรวจสอบไฟล์ที่ถูกแจ้งเตือนหรือไม่ถูกแจ้งเตือนหรือไม่ สำหรับบุคคลทั่วไป บทเรียนที่ได้คือโดยทั่วไป: อย่าสมมติว่าเพราะไฟล์ไม่ถูกแจ้งเตือนโดยสแกนเนอร์อัตโนมัติ มันจึงปลอดภัยโดยอัตโนมัติ การป้องกันหลายชั้น ความระมัดระวังต่อสคริปต์หรือไฟล์แนบที่ไม่คาดคิด และสุขอนามัยความปลอดภัยพื้นฐานยังคงสำคัญเท่าเดิม

ข้อควรปฏิบัติที่นำไปใช้ได้จริง

  • หลีกเลี่ยงการเปิดไฟล์ VBS สคริปต์ หรือเอกสารที่เปิดใช้งานมาโครที่ไม่ได้รับการร้องขอ ไม่ว่าการสแกนอัตโนมัติจะเคลียร์ไฟล์นั้นแล้วหรือไม่
  • หากคุณจัดการเครื่องมือรักษาความปลอดภัยที่ทำงาน ให้ถามว่าการวิเคราะห์มัลแวร์ที่ใช้ AI รวมถึงการตรวจสอบโดยมนุษย์สำรองสำหรับไฟล์ที่ทำให้เกิดการปฏิเสธหรือการสแกนที่ไม่สมบูรณ์หรือไม่
  • คงการตรวจจับแบบดั้งเดิม เช่น แอนติไวรัสที่ใช้ลายเซ็นและการตรวจสอบเครือข่าย ไว้ควบคู่กับเครื่องมือ AI ใหม่แทนที่จะแทนที่ทั้งหมด
  • ติดตามข้อมูลว่าผู้โจมตีปรับตัวเข้ากับการป้องกันที่ขับเคลื่อนด้วย AI อย่างไร เนื่องจากเทคนิคแบบนี้มีแนวโน้มจะพัฒนาแทนที่จะหายไป

ในขณะที่ AI ถูกฝังอยู่ในกระบวนการรักษาความปลอดภัยทางไซเบอร์มากขึ้น เหตุการณ์แบบนี้แสดงให้เห็นว่ากลไกป้องกันที่ meant เพื่อให้ระบบ AI ปลอดภัยสามารถกลายเป็นเป้าหมายได้เช่นกัน การติดตามข้อมูลเกี่ยวกับกลยุทธ์ใหม่เหล่านี้ และการรักษาการป้องกันหลายชั้นที่มีการตรวจสอบโดยมนุษย์ ยังคงเป็นวิธีที่ดีที่สุดในการนำหน้าผู้โจมตีที่คอยหาโอกาสใช้ประโยชน์จากจุดอ่อนใหม่อยู่ตลอดเวลา