ChatGPhish: A ChatGPT Markdown-hibája lehetővé teszi a prompt injection alapú adathalászatot
Egy újonnan nyilvánosságra hozott, ChatGPhish nevű ChatGPT adathalász sérülékenység komoly aggodalmakat vet fel azzal kapcsolatban, hogy a mesterséges intelligenciával segített webböngészés hogyan fordulhat szembe azokkal a felhasználókkal, akiknek éppen segíteni hivatott. A Permiso Security kutatói felfedték, hogy a ChatGPT beépített bizalma a Markdown formátumú hivatkozások és képek iránt lehetőséget teremt a támadók számára, hogy rosszindulatú utasításokat juttassanak közvetlenül a mesterséges intelligencia webes összefoglalóiba, gyakorlatilag egy rutinszerű termelékenységi funkciót adathalász kézbesítő mechanizmussá fegyverezve át.
Hogyan használja ki a ChatGPhish a ChatGPT Markdown-bizalmát
Amikor a ChatGPT böngészi a webet és tartalmat foglal össze a felhasználó számára, feldolgozza és megjeleníti a Markdown formázást, beleértve a hiperhivatkozásokat és a beágyazott képeket. A ChatGPhish sérülékenység ezt a viselkedést használja ki azáltal, hogy speciálisan kialakított utasításokat ágyaz be a weboldal tartalmába. Mivel a ChatGPT ezt a tartalmat megbízható bemenetként kezeli, a beinjektált utasítások átirányíthatják a mesterséges intelligencia kimenetét, rákényszeríthetik megtévesztő hivatkozások megjelenítésére, vagy utasíthatják arra, hogy hamis ürüggyel hitelesítő adatokat kérjen a felhasználótól.
Ez egy közvetett prompt injection támadás. Ellentétben a közvetlen prompt injection-nel, ahol a felhasználó szándékosan manipulálja a mesterséges intelligenciát gondosan megtervezett bemenetekkel, a közvetett prompt injection rosszindulatú parancsokat rejt el olyan külső tartalomban, amelyet a mesterséges intelligencia önállóan kér le és dolgoz fel. A felhasználó soha nem látja a rejtett utasításokat; csak azt a kimenetet látja, amelyet a támadó a mesterséges intelligencia által előállíttatott. A ChatGPhish esetében ez a kimenet meggyőző adathalász felszólításokat tartalmazhat, amelyek úgy tűnnek, mintha magától a mesterséges intelligenciától származnának, ezzel hamis hitelességet kölcsönözve nekik.
Ami ezt különösen figyelemre méltóvá teszi, hogy a támadási felület nem a mesterséges intelligencia mögöttes modellje, hanem az a bizalom, amelyet az általa összefoglalt webes tartalmak iránt tanúsít. A támadónak nem kell kompromittálnia az OpenAI rendszereit. Elegendő, ha ellenőrzése alá von vagy manipulál egy olyan weboldalt, amelyet a felhasználó megkérheti a ChatGPT-t, hogy foglaljon össze.
Kik vannak a legnagyobb veszélyben, és milyen adatok kerülhetnek veszélybe
Bárki, aki a ChatGPT webböngészési vagy összefoglalási funkcióit használja, potenciálisan érintett, de bizonyos csoportok fokozott kockázatnak vannak kitéve. Azok a felhasználók, akik a ChatGPT-re támaszkodnak cikkek, dokumentumok vagy harmadik féltől származó oldalak gyors összefoglalásához, a legnagyobb valószínűséggel találkoznak beinjektált tartalommal anélkül, hogy észrevennék. A vállalati felhasználók, akik a ChatGPT-t külső adatforrásokat is magában foglaló munkafolyamatokba integrálták, összetettebb kitettséggel szembesülnek.
A veszélyeztetett adatok elsősorban hitelesítő adat szintű információk. Egy sikeres ChatGPhish támadás ráveheti a felhasználót, hogy jelszót, hitelesítési tokent vagy fiókadatokat adjon meg egy olyan adathalász oldalon, amelyet a mesterséges intelligencia legitimként tüntetett fel. Tekintettel arra, hogy már milliárdnyi hitelesítő adat kering adatszivárgási adatbázisokban, beleértve a RockYou2024 szivárgás során nyilvánosságra került 19 milliárd jelszót, minden további adathalász vektor, amely megkerüli a szokásos felhasználói szkepticizmust, komoly aggodalomra ad okot.
A fizetési szolgáltatásokhoz, vállalati rendszerekhez vagy érzékeny személyes adatokhoz kapcsolódó fiókok a legvonzóbb célpontok. Az adathalász felszólítás, amely a ChatGPT válasz természetes részeként jelenik meg, valószínűleg megkerüli azokat a mentális szűrőket, amelyeket a felhasználók a hagyományos adathalász e-mailek felismerésekor alkalmaznak.
Miért fokozott a kitettség a nyilvános hálózatot és VPN-t használó felhasználók számára
A nyilvános Wi-Fi hálózatokat használó felhasználók fokozott kockázattal szembesülnek a ChatGPhish kapcsán. Titkosítatlan vagy rosszul védett hálózatokon a forgalom lehallgatása valós fenyegetés. Bár maga a ChatGPhish támadás nem igényel hálózati szintű hozzáférést, a kompromittált hálózati környezet és a manipulált mesterséges intelligencia összefoglaló kombinációja különösen veszélyes helyzetet teremt. A kávézóban vagy repülőtéren megszerzett adathalász hitelesítő adatokat azonnal fel lehet használni, mielőtt a felhasználónak bármilyen esélye lenne észlelni a kompromittálódást.
A VPN használata a probléma egy rétegét kezeli azáltal, hogy titkosítja a forgalmat a felhasználó eszköze és az internet között, csökkentve a hálózati szintű lehallgatás kockázatát. Azonban nem akadályozza meg, hogy a ChatGPT rosszindulatú weboldaltartalmat dolgozzon fel és beinjektált felszólításokat jelenítsen meg. A ChatGPhish támadás az alkalmazási rétegben működik, ami azt jelenti, hogy a hálózati szintű védelem önmagában nem elegendő. A felhasználóknak ébernek kell maradniuk a mesterséges intelligencia által generált összefoglalókban megjelenő váratlan hitelesítőadat-kérésekkel szemben, függetlenül attól, hogy a hálózati forgalmuk hogyan van biztosítva.
Gyakorlati lépések a ChatGPhish támadások elkerülésére
Amíg az OpenAI nem ad ki végleges javítást vagy építészeti változtatást, amely megakadályozza a Markdown-alapú prompt injection-t, a felhasználók több gyakorlati lépést tehetnek a kitettségük csökkentése érdekében.
Először is, kezelje azonnali gyanakvással a ChatGPT összefoglalójában megjelenő bármilyen hitelesítőadat- vagy bejelentkezési kérést. A ChatGPT-nek nincs jogos oka jelszavakat vagy hitelesítési tokeneket kérni egy webes összefoglaló részeként. Ha ilyen kérést lát, zárja be a munkamenetet, és közvetlenül a böngészőjén keresztül navigáljon az érintett oldalra.
Másodszor, legyen szelektív azzal kapcsolatban, hogy mely oldalakat kéri a ChatGPT-től összefoglalni, különösen az olyan forrásokból származó oldalak esetében, amelyeket nem ismer fel vagy nem bízik bennük. A támadók által ellenőrzött oldalak jelentik a ChatGPhish támadások elsődleges kézbesítési mechanizmusát.
Harmadszor, vizsgálja felül általános fiók- és hitelesítőadat-higiéniáját most, ne egy incidens után. Az erős, egyedi jelszavak használata minden fiókhoz azt jelenti, hogy még ha egy adathalász támadás meg is szerez egy hitelesítő adatot, a kár korlátozott marad. Tekintettel arra, hogy a nagyszabású szivárgások után a hitelesítő adatokat milyen könnyen újrafelhasználják a támadások során, ez egy nem alku tárgyát képező alapkövetelmény.
Végül kísérje figyelemmel az OpenAI biztonsági közleményeit a ChatGPhish-sel kapcsolatos javítások vagy enyhítések tekintetében. A frissítések azonnali alkalmazása az egyik legegyszerűbb védekezés a nyilvánosságra hozott sérülékenységekkel szemben.
Mit jelent ez Önnek
A ChatGPhish emlékeztető arra, hogy a mesterséges intelligencia eszközök öröklik az általuk feldolgozott tartalmak kockázatait. Egy mesterséges intelligencia összefoglalóban való bizalom nem ugyanaz, mint a mögöttes forrásban való bizalom, és a támadók már most kihasználják ezt a rést. A támadás nem igényel kifinomult technikai készségeket a támadó részéről, ami azt jelenti, hogy valószínűleg tovább terjed a biztonsági kutatókon túl az aktív bűnözői felhasználás felé.
A legfontosabb lépés, amit most megtehet, hogy ellenőrzi hitelesítő adatai biztonságát. Ha ugyanaz a jelszó véd több fiókot, egyetlen sikeres ChatGPhish adathalász kísérlet sokkal szélesebb körű kompromittálódáshoz vezethet. A RockYou2024 szivárgás lefedettségének áttekintése hasznos kiindulópont annak megértéséhez, hogy milyen mértékű a hitelesítőadat-fenyegetési környezet, ami az olyan támadásokat, mint a ChatGPhish, annyira súlyossá teszi. Az egyedi, erős jelszavak és a többfaktoros hitelesítés minden kritikus fiókon továbbra is a legmegbízhatóbb első védelmi vonalat jelentik, amikor a mesterséges intelligencia eszközök adathalász felületté válhatnak.
