กลุ่มที่สนับสนุนโดยรัฐรัสเซียเปลี่ยน Claude ให้เป็นเครื่องมือพัฒนามัลแวร์

Anthropic ได้ระงับปฏิบัติการที่สนับสนุนโดยรัฐรัสเซีย ซึ่งติดตามภายในว่า GTG-20006 ที่ใช้โมเดล Claude AI เป็นส่วนหนึ่งของกระบวนการพัฒนามัลแวร์ที่ยังดำเนินอยู่ ตามข้อมูลของ Anthropic กลุ่มนี้ไม่ได้เพียงขอให้ Claude เขียนโค้ดครั้งเดียวแล้วจากไป แต่ใช้โมเดลในวงจรต่อเนื่อง: สร้างมัลแวร์ ทดสอบกับผลิตภัณฑ์ความปลอดภัย และเมื่อมัลแวร์ถูกตรวจจับ ก็ป้อนข้อมูลการตรวจจับกลับเข้าไปใน Claude เพื่อสร้างเวอร์ชันที่สร้างใหม่ซึ่งออกแบบมาให้หลบเลี่ยงการป้องกันเดียวกันได้

รายงานที่เชื่อมโยงกับแคมเปญนี้เชื่อมโยงผู้ก่อเหตุกับ Midnight Blizzard กลุ่มภัยคุกคามที่เกี่ยวข้องกับผลประโยชน์ของรัฐรัสเซียซึ่งมีประวัติยาวนานด้านปฏิบัติการจารกรรม กิจกรรมนี้ถูกกล่าวหาว่าเล็งเป้าองค์กรในยูเครนและยุโรป ซึ่งสอดคล้องกับจุดเน้นปกติของกลุ่มในการรวบรวมข่าวกรองมากกว่าอาชญากรรมไซเบอร์ที่มุ่งผลตอบแทนทางการเงิน Anthropic กล่าวว่าได้ระบุและปิดบัญชีที่เกี่ยวข้องกับปฏิบัติการนี้เมื่อตรวจพบการใช้งานในทางที่ผิด

กระบวนการมัลแวร์ที่ใช้ AI ช่วยทำงานอย่างไร

สิ่งที่ทำให้กรณีนี้ noteworthy ไม่ใช่แฮกเกอร์ใช้แชทบอท AI แต่เป็นตัวกระบวนการทำงานเอง โดยปกติผู้เขียนมัลแวร์จะปรับโค้ดด้วยตนเองหลังจากผู้จำหน่ายแอนติไวรัสหรือเครื่องมือตรวจจับ endpoint ตั้งค่าสถานะตัวอย่าง กระบวนการนั้นใช้เวลา ทักษะ และการทำซ้ำ ด้วยการใส่ Claude เข้าไปในวงจรนั้น GTG-20006 ดูเหมือนจะย่นระยะวงจร: แทนที่นักพัฒนา manusia จะแก้โค้ดที่ถูกตั้งค่าสถานะทีละบรรทัด โมเดล AI กลายเป็นเครื่องมือที่รวดเร็วและพร้อมใช้สำหรับสร้างตัวแปรที่สามารถหลบเลี่ยงลายเซ็นการตรวจจับได้

สิ่งนี้สะท้อนรูปแบบที่กว้างขึ้นที่นักวิจัยความปลอดภัยเตือนมานาน: ผู้ช่วยเขียนโค้ด AI ทรงพลังเพราะลดอุปสรรคทางเทคนิคในการเขียนโค้ดที่ใช้งานได้อย่างรวดเร็ว และประสิทธิภาพเดียวกันนั้นใช้ได้ไม่ว่าเป้าหมายปลายทางจะเป็นแอปที่ถูกกฎหมายหรือมัลแวร์ การเปิดเผยของ Anthropic ชี้ให้เห็นว่าระบบตรวจสอบของบริษัทเองสามารถจับการใช้งานในทางที่ผิดและดำเนินการได้ ซึ่งเป็นสัญญาณที่มีความหมายว่าผู้ให้บริการ AI กำลังเฝ้าระวังพฤติกรรมประเภทนี้อย่างแข็งขัน แทนที่จะมองว่าเป็นความเสี่ยงเชิงสมมติ

นอกจากนี้ยังเกิดขึ้นพร้อมกับผลการค้นพบอื่นๆ ล่าสุดเกี่ยวกับจุดอ่อนในระบบนิเวศของผู้ช่วย AI นักวิจัยที่ Zenity เพิ่งเปิดเผยจุดอ่อนแบบ zero-click ใน Claude และ ChatGPT Atlas ที่อาจให้ผู้โจมตี hijack เครื่องมือเบราว์เซอร์ AI โดยไม่ต้องมีการโต้ตอบจากผู้ใช้เลย เมื่อรวมกันแล้ว เรื่องราวเหล่านี้ชี้ไปที่ธีมพื้นฐานเดียวกัน: เมื่อเครื่องมือ AI ฝังตัวอยู่ในกระบวนการทำงานประจำวัน ทั้งตัวเครื่องมือเองและวิธีที่ผู้ก่อภัยคุกคามใช้เครื่องมือ กำลังกลายเป็นพื้นผิวการโจมตีที่ควรค่าแก่การตรวจสอบ

ทำไมเรื่องนี้จึงสำคัญเกินพาดหัวข่าว

ควรมีความแม่นยำเกี่ยวกับสิ่งที่เกิดขึ้นและไม่เกิดขึ้น Claude ไม่ได้ถูก "แฮก" ให้ช่วยผู้โจมตีอย่างลับๆ และไม่มีข้อบ่งชี้ว่าผู้ใช้ Claude ทั่วไปถูกเปิดเผยต่อมัลแวร์ผ่านแอปเอง นี่เป็นกรณีของกลุ่มที่มีความซับซ้อนและเชื่อมโยงกับรัฐที่ใช้ผลิตภัณฑ์ AI ที่ถูกกฎหมายเป็นเครื่องมือพัฒนา เช่นเดียวกับที่อาจใช้ซอฟต์แวร์เขียนโค้ดใดๆ และใช้ในทางที่ผิดเพื่อสร้างโค้ดที่เป็นอันตราย การตอบสนองของ Anthropic ในการตรวจจับรูปแบบและตัดการเข้าถึง เป็นประเภทของการบังคับใช้ที่มีความสำคัญในการป้องกันไม่ให้แพลตฟอร์ม AI กลายเป็นชุดเครื่องมือเริ่มต้นสำหรับปฏิบัติการไซเบอร์เชิงรุก

อย่างไรก็ตาม เหตุการณ์นี้เป็นเครื่องเตือนใจว่าการพัฒนามัลแวร์ที่ใช้ AI ช่วยไม่ใช่เรื่องทฤษฎีอีกต่อไป ผู้ก่อเหตุที่สนับสนุนโดยรัฐกำลังทดลองใช้เครื่องมือเหล่านี้เพื่อเร่งปฏิบัติการ และฝ่ายป้องกันจะต้องคำนึงถึงมัลแวร์ที่สามารถสร้างใหม่และแก้ไขได้เร็วกว่าเดิม สำหรับองค์กรในยูเครนและยุโรป ซึ่งดูเหมือนจะเป็นเป้าหมายของแคมเปญนี้ ยังตอกย้ำว่ากลุ่มที่ขับเคลื่อนด้วยการจารกรรมยังคงให้ความสำคัญกับการรวบรวมข่าวกรองมากกว่าผลกำไรทางการเงินอย่างรวดเร็ว

สิ่งนี้หมายความว่าอย่างไรสำหรับคุณ

สำหรับผู้ใช้ส่วนใหญ่ แคมเปญนี้ไม่ได้เป็นภัยคุกคามใหม่โดยตรง GTG-20006 ถูกกล่าวหาว่าเน้นการจารกรรมแบบเจาะจงต่อองค์กร ไม่ใช่การโจมตีผู้บริโภคจำนวนมาก แต่แนวโน้มที่กว้างขึ้น คือเครื่องมือ AI เร่งการพัฒนามัลแวร์และการหลบเลี่ยง มีผลกระทบต่อทุกคน การวนซ้ำมัลแวร์ที่เร็วขึ้นหมายความว่าผู้จำหน่ายความปลอดภัยและเครื่องมือแอนติไวรัสอาจต้องอัปเดตลายเซ็นการตรวจจับบ่อยขึ้น และเพิ่มคุณค่าของเครื่องมือความปลอดภัยที่อิงพฤติกรรมเหนือเครื่องมือที่พึ่งพาลายเซ็นมัลแวร์ที่รู้จักเพียงอย่างเดียว

นอกจากนี้ยังเป็นช่วงเวลาที่ดีในการทบทวนสุขอนามัยความปลอดภัยพื้นฐาน เนื่องจากมัลแวร์ที่ใช้ AI ช่วยยังคงพึ่งพาวิธีการส่งมอบเดียวกัน: อีเมลฟิชชิง ไฟล์แนบที่เป็นอันตราย และซอฟต์แวร์ที่ถูก compromise ไม่มีเครื่องมือ AI ใดเปลี่ยนวิธีที่มัลแวร์เข้ามาในอุปกรณ์ตั้งแต่แรก

ประเด็นสำคัญ

  • อัปเดตระบบปฏิบัติการ เบราว์เซอร์ และซอฟต์แวร์ความปลอดภัยอยู่เสมอ เพื่อให้เครื่องมือตรวจจับจับมัลแวร์รุ่นใหม่ได้อย่างรวดเร็ว
  • ระแวงไฟล์แนบหรือลิงก์ที่ไม่ได้รับเชิญ แม้จากผู้ส่งที่ดูคุ้นเคย เนื่องจากวิธีการส่งมอบยังคงเดิม
  • องค์กร โดยเฉพาะในภาคส่วนที่มีแนวโน้มถูกเล็งเป้าโดยผู้ก่อเหตุที่สนับสนุนโดยรัฐ ควรให้ความสำคัญกับการตรวจจับที่อิงพฤติกรรมเหนือเครื่องมือที่ใช้ลายเซ็นเพียงอย่างเดียว
  • ติดตามว่าผู้ให้บริการ AI รายใหญ่ตอบสนองต่อรายงานการใช้งานในทางที่ผิดอย่างไร การระงับ GTG-20006 ของ Anthropic แสดงให้เห็นว่าการบังคับใช้ระดับแพลตฟอร์มเป็นส่วนที่ فعالของสมการความปลอดภัย ไม่ใช่เพียงสิ่งคิดทีหลัง

เมื่อเครื่องมือเขียนโค้ด AI มีความสามารถมากขึ้น เหตุการณ์เช่นนี้มีแนวโน้มจะกลายเป็นเรื่องปกติมากขึ้น ไม่น้อยลง การติดตามข้อมูลเกี่ยวกับวิธีที่เครื่องมือเหล่านี้ถูกป้องกันและถูกใช้ในทางที่ผิดเป็นวิธีที่ง่ายที่สุดวิธีหนึ่งที่ผู้ใช้และองค์กรสามารถก้าวล้ำหน้าอยู่หนึ่งก้าว