ChatGPhish: ช่องโหว่ Markdown ใน ChatGPT เปิดทางให้เกิดการฟิชชิงผ่าน Prompt Injection

ChatGPhish: ช่องโหว่ Markdown ใน ChatGPT เปิดทางให้เกิดการฟิชชิงผ่าน Prompt Injection

ช่องโหว่ฟิชชิงของ ChatGPT ที่เพิ่งถูกเปิดเผยชื่อ ChatGPhish กำลังสร้างความกังวลอย่างหนักเกี่ยวกับวิธีที่การท่องเว็บโดยมี AI ช่วยเหลืออาจถูกนำมาใช้ต่อต้านผู้ใช้ที่มันตั้งใจจะช่วยเหลือ นักวิจัยจาก Permiso Security ได้เปิดเผยว่า การที่ ChatGPT ไว้วางใจลิงก์และรูปภาพที่จัดรูปแบบด้วย Markdown ในตัว สร้างช่องทางให้ผู้โจมตีแทรกคำสั่งอันตรายเข้าไปในบทสรุปเว็บของ AI ได้โดยตรง ทำให้ฟีเจอร์เสริมประสิทธิภาพการทำงานทั่วไปกลายเป็นกลไกส่งฟิชชิง

ChatGPhish ใช้ประโยชน์จากความไว้วางใจ Markdown ของ ChatGPT อย่างไร

เมื่อ ChatGPT ท่องเว็บและสรุปเนื้อหาให้ผู้ใช้ มันจะประมวลผลและแสดงผลการจัดรูปแบบ Markdown รวมถึงไฮเปอร์ลิงก์และรูปภาพที่ฝังไว้ ช่องโหว่ ChatGPhish ใช้ประโยชน์จากพฤติกรรมนี้โดยการฝังคำสั่งที่สร้างขึ้นเป็นพิเศษไว้ในเนื้อหาของหน้าเว็บ เนื่องจาก ChatGPT ถือว่าเนื้อหานั้นเป็นข้อมูลนำเข้าที่เชื่อถือได้ คำสั่งที่ถูกแทรกสามารถเปลี่ยนทิศทางผลลัพธ์ของ AI บีบบังคับให้แสดงลิงก์หลอกลวง หรือสั่งให้มันร้องขอข้อมูลประจำตัวจากผู้ใช้ภายใต้ข้ออ้างเท็จ

นี่คือการโจมตีแบบ Indirect Prompt Injection ซึ่งแตกต่างจาก Direct Prompt Injection ที่ผู้ใช้จงใจป้อนคำสั่งที่สร้างขึ้นเพื่อหลอก AI การแทรกคำสั่งทางอ้อมจะซ่อนคำสั่งอันตรายไว้ในเนื้อหาภายนอกที่ AI ดึงและประมวลผลด้วยตัวเอง ผู้ใช้จะไม่เห็นคำสั่งที่ซ่อนอยู่เลย พวกเขาเห็นเพียงผลลัพธ์ที่ผู้โจมตีตั้งใจให้ AI แสดงผล ในกรณีของ ChatGPhish ผลลัพธ์นั้นอาจรวมถึงข้อความฟิชชิงที่น่าเชื่อถือซึ่งดูเหมือนมาจาก AI เอง ทำให้มีความชอบธรรมเทียม

สิ่งที่ทำให้เรื่องนี้น่าสังเกตเป็นพิเศษคือ พื้นผิวการโจมตีไม่ใช่ตัวแบบของ AI แต่เป็นความไว้วางใจที่มันมีต่อเนื้อหาเว็บที่สรุปให้ ผู้โจมตีไม่จำเป็นต้องเจาะระบบของ OpenAI เพียงแค่ควบคุมหรือจัดการหน้าเว็บที่ผู้ใช้อาจขอให้ ChatGPT สรุปเนื้อหา

ใครคือกลุ่มเสี่ยงที่สุดและข้อมูลใดที่อาจถูกเปิดเผย

ทุกคนที่ใช้ฟีเจอร์การท่องเว็บหรือสรุปเนื้อหาของ ChatGPT มีโอกาสเผชิญความเสี่ยง แต่บางกลุ่มมีความเสี่ยงสูงกว่า ผู้ใช้ที่พึ่งพา ChatGPT เพื่อสรุปบทความ เอกสาร หรือหน้าเว็บของบุคคลที่สามอย่างรวดเร็ว มีแนวโน้มจะพบเจอเนื้อหาที่ถูกแทรกเข้ามาโดยไม่รู้ตัว ผู้ใช้ระดับองค์กรที่ผสาน ChatGPT เข้ากับขั้นตอนการทำงานที่เกี่ยวข้องกับแหล่งข้อมูลภายนอก ยิ่งเผชิญความเสี่ยงทับซ้อนมากขึ้น

ข้อมูลที่มีความเสี่ยงหลักคือข้อมูลระดับข้อมูลประจำตัว (credential) การโจมตี ChatGPhish ที่สำเร็จอาจหลอกให้ผู้ใช้ส่งรหัสผ่าน โทเค็นยืนยันตัวตน หรือรายละเอียดบัญชีผ่านหน้าฟิชชิงที่ AI นำเสนอราวกับว่าถูกต้องตามกฎหมาย เนื่องจากมีข้อมูลประจำตัวหลายพันล้านรายการหมุนเวียนอยู่ในคลังข้อมูลที่รั่วไหล รวมถึง 19 พันล้านรหัสผ่านที่รั่วไหลในเหตุการณ์ RockYou2024 การมีช่องทางฟิชชิงเพิ่มเติมที่เลี่ยงความสงสัยตามปกติของผู้ใช้จึงเป็นเรื่องที่น่ากังวลอย่างยิ่ง

บัญชีที่เชื่อมโยงกับบริการชำระเงิน ระบบองค์กร หรือข้อมูลส่วนบุคคลที่ละเอียดอ่อนเป็นเป้าหมายที่น่าสนใจที่สุด ข้อความฟิชชิงซึ่งปรากฏเป็นส่วนหนึ่งตามธรรมชาติของคำตอบจาก ChatGPT มีแนวโน้มจะเลี่ยงผ่านตัวกรองทางความคิดที่ผู้ใช้ใช้เมื่อสังเกตอีเมลฟิชชิงแบบดั้งเดิม

เหตุใดผู้ใช้เครือข่ายสาธารณะและ VPN จึงเผชิญความเสี่ยงมากขึ้น

ผู้ใช้บนเครือข่าย Wi-Fi สาธารณะเผชิญความเสี่ยงทับซ้อนจาก ChatGPhish บนเครือข่ายที่ไม่เข้ารหัสหรือมีความปลอดภัยต่ำ การดักจับข้อมูลจราจรเป็นภัยคุกคามที่เกิดขึ้นได้จริง แม้การโจมตี ChatGPhish เองไม่จำเป็นต้องเข้าถึงระดับเครือข่าย แต่การผสมผสานระหว่างสภาพแวดล้อมเครือข่ายที่ถูกบุกรุกกับบทสรุปของ AI ที่ถูกดัดแปลงสร้างสถานการณ์อันตรายอย่างยิ่ง ข้อมูลประจำตัวที่ถูกฟิชชิงได้ในร้านกาแฟหรือสนามบินอาจถูกนำไปใช้ทันที ก่อนที่ผู้ใช้จะมีโอกาสตรวจพบการบุกรุก

การใช้ VPN ช่วยจัดการปัญหาหนึ่งชั้นโดยเข้ารหัสข้อมูลจราจรระหว่างอุปกรณ์ของผู้ใช้กับอินเทอร์เน็ต ลดความเสี่ยงจากการดักจับระดับเครือข่าย อย่างไรก็ตาม VPN ไม่ได้ป้องกันไม่ให้ ChatGPT ประมวลผลเนื้อหาหน้าเว็บอันตรายและแสดงข้อความแทรกแซง การโจมตี ChatGPhish เกิดขึ้นที่ชั้นแอปพลิเคชัน หมายความว่าการป้องกันระดับเครือข่ายเพียงอย่างเดียวไม่เพียงพอ ผู้ใช้ต้องระแวดระวังต่อคำขอข้อมูลประจำตัวที่ไม่คาดคิดที่ปรากฏในบทสรุปที่สร้างโดย AI ไม่ว่าการรับส่งข้อมูลเครือข่ายของพวกเขาจะถูกเข้ารหัสไว้หรือไม่ก็ตาม

ขั้นตอนปฏิบัติเพื่อหลีกเลี่ยงการตกเป็นเป้าหมายของ ChatGPhish

จนกว่า OpenAI จะออกแพตช์หรือปรับเปลี่ยนสถาปัตยกรรมที่ป้องกันการแทรกคำสั่งผ่าน Markdown ได้อย่างเด็ดขาด ผู้ใช้สามารถดำเนินการหลายขั้นตอนเพื่อลดความเสี่ยง

ประการแรก ให้สงสัยทันทีต่อคำขอข้อมูลประจำตัวหรือการเข้าสู่ระบบใดๆ ที่ปรากฏผ่านบทสรุปของ ChatGPT ChatGPT ไม่มีเหตุผลอันชอบธรรมที่จะขอรหัสผ่านหรือโทเค็นยืนยันตัวตนโดยเป็นส่วนหนึ่งของบทสรุปเว็บ หากคุณเห็นคำขอดังกล่าว ให้ปิดเซสชันและไปยังเว็บไซต์ที่เกี่ยวข้องโดยตรงผ่านเบราว์เซอร์

ประการที่สอง เลือกหน้าเว็บที่คุณขอให้ ChatGPT สรุปอย่างระมัดระวัง โดยเฉพาะหน้าที่มาจากแหล่งที่คุณไม่รู้จักหรือไม่ไว้วางใจ หน้าที่ถูกควบคุมโดยผู้โจมตีคือกลไกหลักในการส่งเพย์โหลดของ ChatGPhish

ประการที่สาม ตรวจสอบสุขลักษณะด้านบัญชีและข้อมูลประจำตัวของคุณในตอนนี้เลย ไม่ใช่หลังจากเกิดเหตุ การใช้รหัสผ่านที่รัดกุมและไม่ซ้ำกันในทุกบัญชีหมายความว่า แม้การโจมตีฟิชชิงจะขโมยข้อมูลประจำตัวได้หนึ่งชุด ความเสียหายก็จะถูกจำกัดวง เมื่อพิจารณาว่าข้อมูลประจำตัวถูกนำกลับมาใช้ซ้ำได้ง่ายเพียงใดในการโจมตีหลังการรั่วไหลขนาดใหญ่ นี่คือมาตรฐานขั้นต่ำที่ขาดไม่ได้

สุดท้าย ติดตามคำแนะนำด้านความปลอดภัยของ OpenAI เพื่อรับแพตช์หรือมาตรการลดความเสี่ยงที่เกี่ยวข้องกับ ChatGPhish การติดตั้งอัปเดตทันทีเป็นหนึ่งในวิธีป้องกันที่ง่ายที่สุดต่อช่องโหว่ที่ถูกเปิดเผย

สิ่งนี้มีความหมายต่อคุณอย่างไร

ChatGPhish เป็นเครื่องเตือนใจว่าเครื่องมือ AI รับความเสี่ยงมาจากเนื้อหาที่พวกมันประมวลผล การไว้วางใจบทสรุปของ AI ไม่เหมือนกับการไว้วางใจแหล่งที่มาเบื้องหลัง และผู้โจมตีกำลังใช้ประโยชน์จากช่องว่างนั้นอยู่แล้ว การโจมตีนี้ไม่จำเป็นต้องใช้ทักษะทางเทคนิคขั้นสูงจากฝั่งผู้โจมตี ซึ่งหมายความว่ามีแนวโน้มที่จะแพร่กระจายจากแวดวงนักวิจัยด้านความปลอดภัยไปสู่การใช้งานในทางอาชญากรรมจริง

ขั้นตอนที่ปฏิบัติได้จริงที่สุดที่คุณสามารถทำได้ตอนนี้คือการตรวจสอบความปลอดภัยของข้อมูลประจำตัวของคุณ หากรหัสผ่านเดียวกันถูกใช้ป้องกันหลายบัญชี ความพยายามฟิชชิง ChatGPhish ที่สำเร็จเพียงครั้งเดียวอาจลุกลามไปสู่การบุกรุกในวงกว้าง การทบทวน รายงานการรั่วไหล RockYou2024 เป็นจุดเริ่มต้นที่ดีในการทำความเข้าใจขนาดของสภาพแวดล้อมภัยคุกคามด้านข้อมูลประจำตัวที่ทำให้การโจมตีอย่าง ChatGPhish มีผลกระทบรุนแรง รหัสผ่านที่รัดกุมและไม่ซ้ำกัน รวมถึงการยืนยันตัวตนหลายปัจจัยในทุกบัญชีสำคัญ ยังคงเป็นแนวป้องกันด่านแรกที่น่าเชื่อถือที่สุดของคุณ เมื่อเครื่องมือ AI สามารถถูกเปลี่ยนเป็นพื้นผิวฟิชชิงได้