ผู้โจมตีได้สร้างเอเจนต์ AI ที่ออกแบบมาสำหรับ LLMjacking ตามรายงานจาก Help Net Security เอเจนต์นี้เข้าควบคุมโมเดล AI ที่เปิดเผยและใช้มันเพื่อขโมยข้อมูลรับรองและขุด cryptocurrency ค่าใช้จ่ายตกอยู่กับเหยื่อ สำหรับใครก็ตามที่รันโมเดลแบบ self-hosted หรือถือคีย์ API ของ AI แบบชำระเงิน LLMjacking ที่เปิดเผยโมเดล AI ถือเป็นความเสี่ยงในทางปฏิบัติที่ควรทำความเข้าใจ
LLMjacking คืออะไรและเอเจนต์ทำงานอย่างไร
LLMjacking คือการ hijacking โมเดลภาษาขนาดใหญ่ (LLM) ที่คนอื่นเป็นเจ้าของหรือจ่ายเงินแทนที่จะซื้อคอมพิวต์หรือการเข้าถึง API ผู้โจมตีจะหาโมเดลที่เข้าถึงได้หรือคีย์ที่รั่วไหล และใช้มันฟรี เหยื่อเป็นคนจ่ายบิล
สิ่งใหม่ในที่นี้คือระบบอัตโนมัติ รายงานอธิบายถึงเอเจนต์ AI ที่สร้างขึ้นเพื่อจุดประสงค์นี้ แทนที่จะเป็นคนออกล่าบริการที่กำหนดค่าผิดด้วยมือ ซอฟต์แวร์เป็นตัวค้นหาและเข้าควบคุม เป้าหมายที่รายงานคือการขโมยข้อมูลรับรองและการขุด cryptocurrency ซึ่งทั้งสองอย่างเปลี่ยนโมเดลที่ถูก hijack ให้เป็นกำไรโดยตรงสำหรับผู้โจมตี
แหล่งข่าวอธิบายเครื่องมือนี้เพียงระดับสูง และเราจะไม่คาดเดาเกินกว่านั้น ประเด็นที่กว้างกว่านั้นยังคงอยู่: เมื่อการค้นหาและการโจมตีเป็นแบบอัตโนมัติ บริการที่เปิดเผยไม่จำเป็นต้องน่าสนใจเพื่อจะถูกพบ แค่เข้าถึงได้ก็พอ
คีย์และบริการ AI ที่เปิดเผยถูกลักพาตัวอย่างไร
รูปแบบที่แนะนำนั้นตรงไปตรงมา เอเจนต์สแกนหาโมเดล AI และ API endpoint ที่เปิดเผย แล้วเข้าควบคุมสิ่งที่พบ การเปิดเผยสองประเภทสำคัญที่สุด:
- Endpoint ที่เปิดเผย โมเดล self-hosted หรืออินเทอร์เฟซ AI ที่เข้าถึงได้จากอินเทอร์เน็ต มักเกิดจากการตั้งค่าที่สะดวก พอร์ตที่ forward ไว้ หรือการขาดการล็อกอิน
- ข้อมูลรับรองที่เปิดเผย คีย์ API ที่อยู่ในที่ที่ไม่ควรอยู่ เช่น repository โค้ด ไฟล์ config ที่แชร์ หรือโปรเจกต์เก่าที่ไม่มีใครจำได้
เมื่อผู้โจมตีได้อย่างใดอย่างหนึ่ง โมเดลก็ทำงานให้พวกเขา คอมพิวต์รันบนฮาร์ดแวร์หรือบัญชีของคุณ และการใช้งานปรากฏบนใบแจ้งหนี้หรือทำให้เครื่องของคุณช้าลง
มุมการขโมยข้อมูลรับรองเพิ่มความกังวลอีกชั้น บริการ AI ที่ถูก hijack ไม่ใช่แค่ทรัพยากรฟรี มันยังกลายเป็นวิธีรวบรวมข้อมูลรับรองเพิ่มเติมได้ ซึ่งเป็นเหตุผลที่คีย์ที่ถูกลืมเพียงตัวเดียวสามารถกลายเป็นปัญหาใหญ่ขึ้นได้
สิ่งนี้หมายความว่าอย่างไรสำหรับคุณ
หากคุณใช้ AI ผ่านแอปแชทสำหรับผู้บริโภคเท่านั้น การเปิดเผยโดยตรงของคุณมีจำกัด ความเสี่ยงจะเพิ่มขึ้นเมื่อคุณทำสิ่งต่อไปนี้มากขึ้น:
- คุณรันโมเดลที่บ้าน ผู้ที่ชื่นชอบโฮมเซิร์ฟเวอร์ที่โฮสต์ LLM ภายใน เครื่องหน้าเว็บ หรือเครื่องมืออัตโนมัติเป็นเป้าหมายที่ชัดเจนที่สุด บริการ AI ที่ไม่มีการยืนยันตัวตนบนพอร์ตที่ forward ไว้คือสิ่งที่สแกนเนอร์อัตโนมัติถูกสร้างมาเพื่อค้นหา
- คุณถือคีย์ API นักพัฒนาและผู้ที่ชื่นชอบงานอดิเรกที่เชื่อมต่อบริการ AI กับสคริปต์ ส่วนขยายเบราว์เซอร์ หรือโปรเจกต์ข้างเคียงอาจมีคีย์กระจัดกระจายอยู่ในหลายที่
- คุณใช้ข้อมูลรับรองซ้ำ หากระบบที่ถูก hijack เปิดเผยรหัสผ่านที่คุณใช้ที่อื่น ความเสียหายจะลุกลามเกินกว่าบริการ AI การใช้ซ้ำเปลี่ยนการ compromise ครั้งเดียวให้กลายเป็นหลายครั้ง
ด้านการเงินก็มองข้ามได้ง่าย การขุด cryptocurrency และการใช้โมเดลอย่างหนักกินทรัพยากรอย่างเงียบๆ คุณอาจสังเกตเห็นก็ต่อเมื่อบิลพุ่งขึ้น ฮาร์ดแวร์ร้อน หรือผู้ให้บริการแจ้งกิจกรรมผิดปกติ
สิ่งนี้สอดคล้องกับแนวโน้มที่กว้างขึ้น ผู้โจมตีใช้ AI เชิงรุกมากขึ้น ไม่ใช่แค่กำหนดเป้าหมายไปที่มัน บทความของเราเกี่ยวกับแฮกเกอร์รัสเซียใช้ Claude AI สร้างมัลแวร์ที่ตรวจพบใหม่แสดงให้เห็นการเปลี่ยนแปลงแบบเดียวกันไปสู่เครื่องมือที่ใช้ AI ช่วยในฝั่งผู้โจมตี
วิธีล็อกดาวน์คีย์ API การเปิดเผยเครือข่าย และการตั้งค่าโฮมเซิร์ฟเวอร์
ไม่มีขั้นตอนใดแปลกพิเศษ ส่วนใหญ่เป็นสุขอนามัยพื้นฐานที่นำมาใช้กับบริการชนิดใหม่
ปฏิบัติต่อคีย์ API เหมือนรหัสผ่าน
- ระบุบริการ AI ทุกตัวที่คุณจ่ายเงินหรือเชื่อมต่อกับโปรเจกต์
- หมุนเวียนคีย์ที่คุณจำไม่ได้หรือไม่ได้ใช้ recently และลบคีย์ที่ไม่ต้องการ
- เก็บคีย์ออกจาก repository โค้ดและเอกสารที่แชร์ ใช้ตัวแปรสภาพแวดล้อมหรือตัวจัดการรหัสผ่านแทน
- ที่ผู้ให้บริการอนุญาต ให้ตั้งขีดจำกัดการใช้จ่ายและการแจ้งเตือนการใช้งาน เพื่อให้คีย์ที่ถูก hijack ถูกสังเกตเห็นได้อย่างรวดเร็ว
- ใช้คีย์แยกสำหรับแต่ละโปรเจกต์ เพื่อให้การรั่วไหลครั้งเดียวไม่เปิดเผยทุกอย่าง
ลดการเปิดเผยเครือข่าย
- ตรวจสอบเราเตอร์ของคุณสำหรับกฎ port-forwarding และลบกฎที่คุณจำไม่ได้ว่าสร้าง
- อย่าเปิดเผยอินเทอร์เฟซ AI แบบ self-hosted โดยตรงสู่อินเทอร์เน็ต หากต้องการเข้าถึงจากระยะไกล ให้วางไว้หลัง VPN หรือ tunnel ที่มีการยืนยันตัวตนอื่นที่คุณควบคุม
- เปิดการยืนยันตัวตนสำหรับอินเทอร์เฟซเว็บ AI หรือ API ทุกตัวที่คุณรัน แม้ว่ามันจะอยู่ในเครือข่ายบ้านของคุณเท่านั้น
- อัปเดตซอฟต์แวร์โมเดลและ dependencies อยู่เสมอ
ระวังสัญญาณเตือน
- ค่าใช้จ่ายหรือการใช้งานที่พุ่งสูงขึ้นอย่างไม่คาดคิดในบัญชี AI
- ภาระ CPU หรือ GPU สูงต่อเนื่องเมื่อคุณไม่ได้รันอะไร
- บันทึกที่แสดงคำขอจากที่อยู่ที่คุณจำไม่ได้
แก้ไขการใช้ข้อมูลรับรองซ้ำ ใช้รหัสผ่านที่ไม่ซ้ำกันสำหรับแต่ละบริการและเปิดใช้การยืนยันตัวตนหลายปัจจัยเมื่อมีให้ใช้ หากบริการที่ถูก hijack เปิดเผยรหัสผ่าน ข้อมูลรับรองที่ไม่ซ้ำกันจะช่วยจำกัดความเสียหาย
บทสรุป
รายงานนั้นสั้น แต่บทเรียนชัดเจน LLMjacking ที่เปิดเผยโมเดล AI กำลังกลายเป็นกิจกรรมอัตโนมัติที่ขยายขนาดได้ และคนที่จ่ายเงินคือเจ้าของคีย์และเซิร์ฟเวอร์ที่เปิดเผย คุณไม่จำเป็นต้องหยุดใช้เครื่องมือ AI คุณต้องรู้ว่าคีย์ของคุณอยู่ที่ไหนและเครือข่ายของคุณเปิดเผยอะไรบ้าง
วันนี้ ใช้เวลาสักครู่ตรวจสอบคีย์ API ของ AI ตรวจสอบบริการ AI แบบ self-hosted ที่คุณรัน และทบทวนกฎ port-forwarding ของเราเตอร์ของคุณ หากคุณต้องการบริบทเพิ่มเติมเกี่ยวกับวิธีที่ผู้โจมตีใช้ AI อ่านบทความของเราเกี่ยวกับการพัฒนามัลแวร์ที่ใช้ AI ช่วย
