นักวิจัยจาก Huntress รายงานว่าแฮกเกอร์กำลังใช้ประโยชน์จากฟีเจอร์ Custom GPT ของ ChatGPT เพื่อแอบอ้างเป็นผลิตภัณฑ์ AI และหลอกให้ผู้คนติดตั้ง remote access trojan (RAT) ที่ซับซ้อน การค้นพบนี้เป็นเครื่องเตือนใจที่มีประโยชน์ว่าอินเทอร์เฟซที่คุ้นเคยและน่าเชื่อถือสามารถนำพาภัยคุกคามมาได้ แคมเปญ Custom GPT malware remote access trojan นี้ไม่ได้อาศัยช่องโหว่ในคอมพิวเตอร์ของคุณ แต่ relies on you believing the chat window in front of you

กลลวง Custom GPT malware ทำงานอย่างไร

Custom GPTs เป็นเวอร์ชันปรับแต่งของ ChatGPT ที่ใครก็สามารถสร้างและเผยแพร่ได้ ความเปิดกว้างนั้นคือสิ่งที่ทำให้ฟีเจอร์นี้มีประโยชน์ และก็เป็นสิ่งที่แฮกเกอร์ใช้ประโยชน์เช่นกัน ตามรายงานของ Huntress ผู้ไม่ประสงค์ดีสร้าง Custom GPTs ที่ปลอมตัวเป็นผลิตภัณฑ์ AI ที่ถูกต้องตามกฎหมาย จากนั้นชี้นำผู้เยี่ยมชมให้ติดตั้งมัลแวร์

บทความต้นฉบับมีรายละเอียดทางเทคนิคไม่มากนัก จึงควรแยกสิ่งที่ยืนยันแล้วออกจากสิ่งที่ยังไม่ยืนยัน ส่วนที่ยืนยันแล้วคือรูปแบบหลัก: Custom GPT แอบอ้างเป็นผลิตภัณฑ์ AI และเหยื่อถูกโน้มน้าวให้ติดตั้ง RAT การรายงานอื่นเกี่ยวกับกิจกรรมเดียวกันอธิบายว่ากลลวงนี้เข้าถึงผู้คนผ่านผลการค้นหาของ Google ที่เป็นโฆษณาและใช้กลยุทธ์แบบ ClickFix ซึ่งผู้ใช้ถูกหลอกให้รันคำสั่ง PowerShell ด้วยตัวเอง รายละเอียดนั้นมาจากการรายงานทุติยภูมิ จึงควรมองเป็นบริบทมากกว่าข้อสรุปสุดท้าย

จุดร่วมคือเหยื่อเป็นคนลงมือทำ แทนที่จะโจมตีซอฟต์แวร์ แฮกเกอร์กลับให้เรื่องราวที่น่าเชื่อและชุดคำแนะนำ แล้วผู้ใช้ก็ทำตามนั้น

Remote access trojan ทำอะไรกับอุปกรณ์ของคุณได้บ้าง

Remote access trojan มอบวิธีที่ซ่อนเร้นให้แฮกเกอร์ควบคุมเครื่องจากระยะไกล เมื่อมันทำงานอยู่ คนที่อยู่เบื้องหลังมักจะทำสิ่งต่างๆ ได้เสมือนนั่งอยู่ที่คีย์บอร์ดของคุณ ผู้จำหน่ายความปลอดภัยมักอธิบายความสามารถของ RAT ว่าได้แก่:

  • ดูและคัดลอกไฟล์
  • เฝ้าติดตามกิจกรรมและอ่านข้อความ
  • ดักจับการกดแป้นพิมพ์และข้อมูลรับรอง
  • เปิดใช้งานเว็บแคมหรือไมโครโฟน
  • ติดตั้งมัลแวร์เพิ่มเติม

ความสามารถใดบ้างที่ RAT แต่ละตัวรองรับนั้นขึ้นอยู่กับสายพันธุ์ และ Huntress อธิบายว่าตัวนี้มีความซับซ้อน ข้อสรุปในทางปฏิบัติคือการติดเชื้อ RAT ไม่ใช่เรื่องน่ารำคาญเล็กน้อย เพราะมันสามารถทำงานเงียบๆ คุณอาจไม่สังเกตเห็นความผิดปกติใดๆ ขณะที่รหัสผ่านที่บันทึกไว้ เอกสารงาน และข้อมูลเซสชันถูกเปิดเผย

สำหรับใครก็ตามที่ใช้แล็ปท็อปทำงาน ความเสี่ยงขยายไปไกลกว่าข้อมูลส่วนตัว อุปกรณ์ที่ถูกบุกรุกสามารถกลายเป็นฐานสำหรับเข้าสู่บัญชีและระบบของบริษัทได้

ทำไมแพลตฟอร์ม AI ที่น่าเชื่อถือจึงเป็นช่องทางส่งมอบที่โน้มน้าวใจได้ดี

ผู้คนใช้เวลาหลายปีในการเรียนรู้ที่จะไม่ไว้วางใจไฟล์แนบอีเมลแปลกๆ และเว็บไซต์ดาวน์โหลดที่ไม่คุ้นเคย แต่มีคนน้อยกว่ามากที่เรียนรู้ที่จะตั้งคำถามกับอินเทอร์เฟซแชทที่อยู่ในแพลตฟอร์ม AI ที่รู้จักกันดี Custom GPT ปรากฏอยู่ในสภาพแวดล้อมเดียวกับที่ผู้คนใช้ร่างอีเมลหรือสรุปเอกสารอยู่แล้ว และบริบทนั้นช่วยเสริมความน่าเชื่อถือแบบยืมมือ

มีเหตุผลบางประการที่ทำให้สิ่งนี้ได้ผลดีสำหรับแฮกเกอร์:

  • สภาพแวดล้อมที่คุ้นเคย หน้าดูและรู้สึกเหมือนบริการจริง ความสงสัยจึงต่ำ
  • แรงกดดันจากการสนทนา แชทบอทสามารถตอบข้อโต้แย้ง ฟังดูมีประโยชน์ และพาผู้คนผ่านขั้นตอนทีละขั้น
  • การแอบอ้างแบรนด์ การตั้งชื่อ Custom GPT ตามผลิตภัณฑ์ AI ที่ผู้คนอยากลองทำให้กลลวงมีกลุ่มเป้าหมายพร้อมอยู่แล้ว

สิ่งนี้เข้ากับรูปแบบที่กว้างขึ้นของเครื่องมือ AI ที่ถูกดึงเข้าสู่ชุดเครื่องมือของแฮกเกอร์ สำหรับบริบทที่กว้างขึ้น การรายงานของเราเกี่ยวกับ รายงาน 154 หน้าของ Anthropic เรื่องมัลแวร์ที่สร้างโดย AI และ zero-days พิจารณาว่าการใช้ AI ในทางที่ผิดกำลังพัฒนาไปไกลกว่าเคล็ดลับเดียวอย่างไร

วิธีตรวจสอบเครื่องมือ AI ก่อนติดตั้งอะไรก็ตาม

คุณไม่จำเป็นต้องหลีกเลี่ยงเครื่องมือ AI คุณต้องมีนิสัยบางอย่างที่ขัดขวางการโจมตีแบบนี้

  1. ตั้งคำถามกับคำขอให้ดาวน์โหลดหรือรันซอฟต์แวร์ใดๆ ผู้ช่วยแชทที่ขอให้คุณติดตั้งโปรแกรม หรือให้วางคำสั่งลงใน PowerShell หรือ terminal ควรถูกสงสัยทันที
  2. ไปที่แหล่งโดยตรง หากคุณต้องการผลิตภัณฑ์ AI เฉพาะ พิมพ์ที่อยู่ทางการด้วยตัวเองหรือใช้ช่องทางของผู้จำหน่ายเอง แทนที่จะคลิกผลการค้นหาแบบโฆษณา
  3. ตรวจสอบว่าใครสร้างมัน Custom GPT ถูกเผยแพร่โดยบุคคลหรือองค์กร ซึ่งไม่จำเป็นต้องเป็นแบรนด์ที่อยู่ในชื่อ ดูรายละเอียดผู้สร้างก่อนที่จะไว้วางใจ
  4. อย่าวางคำสั่งที่คุณไม่เข้าใจ หากคุณอธิบายไม่ได้ว่าคำสั่งนั้นทำอะไร อย่ารันมัน
  5. อัปเดตซอฟต์แวร์ความปลอดภัยอยู่เสมอ การป้องกัน endpoint สามารถจับ payload ได้แม้ว่ากลลวงจะได้ผล

สิ่งนี้หมายความว่าอย่างไรสำหรับคุณ

หากคุณใช้ ChatGPT แพลตฟอร์มเองไม่ใช่ปัญหา ความเสี่ยงคือ Custom GPT สาธารณะใดๆ ก็สามารถพูดอะไรก็ได้ รวมถึงอ้างว่าเป็นสิ่งที่มันไม่ใช่ การอยู่ในเว็บไซต์ที่น่าเชื่อถือไม่ได้ทำให้เนื้อหาน่าเชื่อถือ

หากคุณได้ทำตามคำแนะนำจาก Custom GPT เพื่อติดตั้งซอฟต์แวร์หรือรันคำสั่งแล้ว ให้ตัดการเชื่อมต่ออุปกรณ์จากเครือข่าย รันการสแกนเต็มรูปแบบด้วยซอฟต์แวร์ความปลอดภัยที่น่าเชื่อถือ และเปลี่ยนรหัสผ่านสำคัญจากอุปกรณ์อื่นที่สะอาด หากเป็นเครื่องทำงาน ให้บอกทีม IT หรือทีมความปลอดภัยทันที พวกเขาสามารถสืบสวนในแบบที่บุคคลทั่วไปทำไม่ได้

ข้อสรุป

แคมเปญ Custom GPT malware remote access trojan ที่ Huntress อธิบายแสดงให้เห็นว่าแฮกเกอร์ปรับตัวเข้ากับที่ที่ผู้คนวางความไว้วางใจอยู่แล้วอย่างไร ให้สงสัยเครื่องมือ AI ใดก็ตามที่ขอให้คุณดาวน์โหลดหรือรันซอฟต์แวร์ ตรวจสอบผู้เผยแพร่ และเข้าถึงผลิตภัณฑ์ผ่านช่องทางทางการ หากต้องการดูว่าภัยคุกคามเหล่านี้เข้ากับภาพรวมที่ใหญ่ขึ้นอย่างไร อ่านสรุปของเราเกี่ยวกับ รายงานข่าวกรองภัยคุกคามของ Anthropic เรื่องการใช้ AI ในทางที่ผิด