ChatGPhish: Ranjivost ChatGPT Markdowna omogućuje phishing ubacivanjem upita
Novootkrivena ranjivost za krađu identiteta u ChatGPT-u pod nazivom ChatGPhish izaziva ozbiljnu zabrinutost zbog toga kako se AI-asistirano pregledavanje weba može okrenuti protiv samih korisnika kojima bi trebalo pomoći. Istraživači iz Permiso Securityja otkrili su da ChatGPT-ovo ugrađeno povjerenje u Markdown-formatirane poveznice i slike stvara prostor napadačima za izravno ubacivanje zlonamjernih upita u AI-jeve internetske sažetke, čime se rutinska značajka produktivnosti pretvara u mehanizam za distribuciju phishing napada.
Kako ChatGPhish iskorištava povjerenje ChatGPT-a u Markdown
Kada ChatGPT pregledava web i sažima sadržaj za korisnika, obrađuje i prikazuje Markdown formatiranje, uključujući hiperveze i ugrađene slike. ChatGPhish ranjivost iskorištava ovo ponašanje umetanjem posebno izrađenih uputa unutar sadržaja web stranice. Budući da ChatGPT taj sadržaj tretira kao pouzdani ulaz, umetnute upute mogu preusmjeriti AI-jev izlaz, natjerati ga da prikaže obmanjujuće poveznice ili ga uputiti da od korisnika traži vjerodajnice pod lažnim izlikama.
Ovo je neizravni napad ubacivanjem upita. Za razliku od izravnog ubacivanja upita, gdje korisnik namjerno manipulira AI-jem posebno oblikovanim unosima, neizravno ubacivanje upita skriva zlonamjerne naredbe unutar vanjskog sadržaja koji AI samostalno dohvaća i obrađuje. Korisnik nikada ne vidi skrivene upute; vidi samo onaj izlaz koji je napadač osmislio da AI proizvede. U slučaju ChatGPhisha, taj izlaz može uključivati uvjerljive phishing upitnike koji izgleda kao da dolaze od samog AI-ja, što im daje lažni sloj legitimnosti.
Ono što ovo čini posebno značajnim jest da površina napada nije sam AI model, već povjerenje koje on pridaje web sadržaju koji sažima. Napadač ne mora kompromitirati OpenAI-jeve sustave. Treba samo kontrolirati ili manipulirati web stranicu za koju bi korisnik mogao zatražiti od ChatGPT-a da je sažme.
Tko je najviše ugrožen i koji podaci mogu biti izloženi
Svi koji koriste ChatGPT-ove značajke pregledavanja weba ili sažimanja potencijalno su izloženi, ali određene skupine snose povećani rizik. Korisnici koji se oslanjaju na ChatGPT za brzo sažimanje članaka, dokumenata ili stranica trećih strana najvjerojatnije će naići na umetnuti sadržaj, a da toga nisu ni svjesni. Poslovni korisnici koji su integrirali ChatGPT u radne procese koji uključuju vanjske izvore podataka suočavaju se s dodatnom izloženošću.
Podaci koji su najviše ugroženi prvenstveno su informacije na razini vjerodajnica. Uspješan ChatGPhish napad mogao bi prevariti korisnika da preda lozinku, autentifikacijski token ili podatke o računu putem phishing stranice koju je AI prikazao kao legitimnu. S obzirom na to da milijarde vjerodajnica već kruže repozitorijima povreda, uključujući 19 milijardi lozinki procurjelih u RockYou2024 odavanju, svaki dodatni vektor phishinga koji zaobilazi uobičajeni korisnički skepticizam ozbiljna je prijetnja.
Računi povezani s uslugama plaćanja, korporativnim sustavima ili osjetljivim osobnim podacima najprivlačnije su mete. Phishing upitnik, koji se pojavljuje kao prirodni dio ChatGPT odgovora, vjerojatno će zaobići mentalne filtere koje korisnici primjenjuju pri prepoznavanju konvencionalnih phishing e-mailova.
Zašto su korisnici javnih mreža i VPN-a izloženi većem riziku
Korisnici na javnim Wi-Fi mrežama suočavaju se s dodatnim rizikom od ChatGPhisha. Na nešifriranim ili slabo zaštićenim mrežama presretanje prometa realna je prijetnja. Iako sam ChatGPhish napad ne zahtijeva pristup na mrežnoj razini, kombinacija kompromitiranog mrežnog okruženja i manipuliranog AI sažetka stvara posebno opasnu situaciju. Phishing vjerodajnice prikupljene u kafiću ili zračnoj luci mogu se odmah iskoristiti, prije nego što korisnik uopće ima priliku otkriti kompromitaciju.
Korištenje VPN-a rješava jedan sloj ovog problema šifriranjem prometa između korisničkog uređaja i interneta, smanjujući rizik od presretanja na mrežnoj razini. Međutim, to ne sprječava ChatGPT da obrađuje zlonamjerni sadržaj web stranica i prikazuje umetnute upitnike. ChatGPhish napad djeluje na aplikacijskom sloju, što znači da same zaštite na mrežnoj razini nisu dovoljne. Korisnici trebaju ostati oprezni na neočekivane zahtjeve za vjerodajnice koji se pojavljuju unutar AI-generiranih sažetaka, bez obzira na to koliko je njihov mrežni promet siguran.
Praktični koraci za izbjegavanje da postanete meta ChatGPhisha
Dok OpenAI ne izda konačnu zakrpu ili arhitektonsku promjenu koja onemogućuje ubacivanje upita temeljeno na Markdownu, korisnici mogu poduzeti nekoliko praktičnih koraka kako bi smanjili svoju izloženost.
Prvo, svaki zahtjev za vjerodajnicama ili prijavom prikazan kroz ChatGPT sažetak odmah smatrajte sumnjivim. ChatGPT nema legitiman razlog tražiti lozinke ili autentifikacijske tokene kao dio internetskog sažetka. Ako vidite takav zahtjev, zatvorite sesiju i izravno u pregledniku otvorite relevantnu stranicu.
Drugo, budite selektivni u vezi s tim koje stranice tražite od ChatGPT-a da sažme, osobito stranice iz izvora koje ne prepoznajete ili ne smatrate pouzdanima. Stranice pod kontrolom napadača primarni su mehanizam dostave ChatGPhish korisnog tereta.
Treće, odmah preispitajte opću higijenu svojih računa i vjerodajnica, a ne tek nakon incidenta. Korištenje jakih, jedinstvenih lozinki za svaki račun znači da čak i ako phishing napad prikupi jednu vjerodajnicu, šteta je ograničena. S obzirom na to kako se vjerodajnice brzo recikliraju u napadima nakon velikih curenja, ovo je nezaobilazna osnova.
Konačno, pratite OpenAI-jeva sigurnosna upozorenja za zakrpe ili ublažavanja povezana s ChatGPhishom. Pravovremena primjena ažuriranja jedna je od najjednostavnijih obrana od javno objavljenih ranjivosti.
Što ovo znači za vas
ChatGPhish je podsjetnik da AI alati nasljeđuju rizike sadržaja koji obrađuju. Vjerovati AI sažetku nije isto što i vjerovati izvornom izvoru, a napadači već iskorištavaju taj raskorak. Napad ne zahtijeva sofisticirane tehničke vještine od strane napadača, što znači da će se vjerojatno proširiti izvan sigurnosnih istraživača u aktivnu kriminalnu upotrebu.
Najizravniji korak koji možete poduzeti odmah jest revizija sigurnosti svojih vjerodajnica. Ako ista lozinka štiti više računa, jedan uspješan ChatGPhish phishing pokušaj mogao bi se preliti u puno širu kompromitaciju. Pregled pokrića povrede RockYou2024 korisna je polazna točka za razumijevanje razmjera okruženja prijetnji vjerodajnicama koje napade poput ChatGPhisha čini tako ozbiljnima. Jedinstvene, jake lozinke i višefaktorska autentifikacija na svim ključnim računima ostaju vaša najpouzdanija prva linija obrane kada se AI alati mogu pretvoriti u phishing površine.
