Výzkumníci společnosti Huntress uvádějí, že útočníci zneužívají funkci Custom GPT v ChatGPT k vydávání se za AI produkty a k přesvědčení lidí, aby si nainstalovali sofistikovaný trojský kůň pro vzdálený přístup (RAT). Toto zjištění je užitečnou připomínkou, že známé a důvěryhodné rozhraní může skrývat hrozbu. Tato kampaň s malwarem Custom GPT a trojským koněm pro vzdálený přístup se nespoléhá na chybu ve vašem počítači. Spoléhá na to, že uvěříte chatovacímu oknu před sebou.

Jak funguje návnada s malwarem Custom GPT

Custom GPT jsou přizpůsobené verze ChatGPT, které může vytvořit a publikovat kdokoli. Právě tato otevřenost dělá funkci užitečnou, a zároveň ji útočníci zneužívají. Podle společnosti Huntress vytvářejí útočníci Custom GPT, které se vydávají za legitimní AI produkty, a poté návštěvníky směrují k instalaci malwaru.

Zdrojový článek je stručný co se týče technických podrobností, takže stojí za to oddělit potvrzené informace od nepotvrzených. Potvrzenou částí je základní vzorec: Custom GPT se vydává za AI produkt a oběť je přesvědčena k instalaci RAT. Další zpravodajství o stejné aktivitě popisuje, že se návnada dostává k lidem prostřednictvím sponzorovaných výsledků vyhledávání Google a využívá taktiky ve stylu ClickFix, kdy je uživatel přesvědčen, aby sám spustil příkazy PowerShell. Tento detail pochází ze sekundárního zpravodajství, proto jej berte jako kontext, nikoli jako konečné slovo.

Společným prvkem je, že oběť odvede práci sama. Místo zneužití softwaru útočník poskytne přesvědčivý příběh a sadu instrukcí a uživatel je vykoná.

Co může trojský kůň pro vzdálený přístup udělat s vaším zařízením

Trojský kůň pro vzdálený přístup dává útočníkovi skrytý způsob, jak na dálku ovládat počítač. Jakmile běží, osoba za ním často může jednat, jako by seděla u vaší klávesnice. Bezpečnostní dodavatelé obvykle popisují schopnosti RAT takto:

  • Prohlížení a kopírování souborů
  • Sledování aktivity a čtení zpráv
  • Zachytávání stisků kláves a přihlašovacích údajů
  • Aktivace webové kamery nebo mikrofonu
  • Instalace dalšího malwaru

Které z těchto funkcí konkrétní RAT podporuje, závisí na variantě, a Huntress tento popisuje jako sofistikovaný. Praktickým závěrem je, že infekce RAT je málokdy drobná nepříjemnost. Protože může běžet tiše, nemusíte si ničeho všimnout, zatímco jsou uložená hesla, pracovní dokumenty a data relací vystavena.

Pro každého, kdo používá pracovní notebook, stakes přesahují osobní data. Kompromitované zařízení se může stát opěrným bodem pro vstup do firemních účtů a systémů.

Proč jsou důvěryhodné AI platformy přesvědčivými doručovacími kanály

Lidé strávili roky tím, že se naučili nedůvěřovat podivným e-mailovým přílohám a neznámým stránkám pro stahování. Mnohem méně lidí se naučilo zpochybňovat chatovací rozhraní, které sídlí na známé AI platformě. Custom GPT se objevuje ve stejném prostředí, které lidé již používají pro psaní e-mailů nebo shrnování dokumentů, a tento kontext mu propůjčuje vypůjčenou důvěryhodnost.

Existuje několik důvodů, proč to útočníkům funguje dobře:

  • Známé prostředí. Stránka vypadá a působí jako skutečná služba, takže podezření zůstává nízké.
  • Konverzační tlak. Chatbot může odpovídat na námitky, znít užitečně a provést člověka kroky jeden po druhém.
  • Napodobování značky. Pojmenování Custom GPT po AI produktu, který lidé chtějí vyzkoušet, dává návnadě hotové publikum.

To zapadá do širšího vzorce vtahování AI nástrojů do arzenálu útočníků. Pro širší kontext se naše zpravodajství o 154stránkové zprávě Anthropicu o malwaru a zero-day zranitelnostech vytvořených AI zabývá tím, jak se zneužívání AI vyvíjí za hranice jediného triku.

Jak prověřit AI nástroje před instalací čehokoli

Nemusíte se vyhýbat AI nástrojům. Potřebujete několik návyků, které tento typ útoku přeruší.

  1. Zpochybněte každou žádost o stažení nebo spuštění softwaru. Chatovací asistent, který vás žádá o instalaci programu nebo o vložení příkazů do PowerShellu či terminálu, si zaslouží okamžité podezření.
  2. Jděte přímo ke zdroji. Pokud chcete konkrétní AI produkt, napište oficiální adresu sami nebo použijte vlastní kanály dodavatele místo kliknutí na sponzorovaný výsledek vyhledávání.
  3. Zkontrolujte, kdo jej vytvořil. Custom GPT publikuje jednotlivec nebo organizace, ne nutně značka v jeho názvu. Před důvěrou se podívejte na údaje o tvůrci.
  4. Nikdy nevkládejte příkazy, kterým nerozumíte. Pokud nedokážete vysvětlit, co příkaz dělá, nespouštějte jej.
  5. Udržujte bezpečnostní software aktuální. Ochrana koncových bodů může zachytit payload, i když návnada zabere.

Co to pro vás znamená

Pokud používáte ChatGPT, samotná platforma není problém. Riziko spočívá v tom, že jakýkoli veřejný Custom GPT může tvrdit cokoli, včetně toho, že je něčím, čím není. Být na důvěryhodném webu nečiní obsah důvěryhodným.

Pokud jste již postupovali podle instrukcí Custom GPT k instalaci softwaru nebo spuštění příkazů, odpojte zařízení od sítě, spusťte úplnou kontrolu pomocí renomovaného bezpečnostního softwaru a změňte důležitá hesla z jiného, čistého zařízení. Pokud jde o pracovní počítač, informujte okamžitě své IT nebo bezpečnostní oddělení. Mohou vyšetřovat způsoby, jaké jednotlivec nedokáže.

Závěr

Kampaň s malwarem Custom GPT a trojským koněm pro vzdálený přístup, kterou Huntress popisuje, ukazuje, jak se útočníci přizpůsobují tomu, kam lidé již vkládají svou důvěru. Ke každému AI nástroji, který vás žádá o stažení nebo spuštění softwaru, přistupujte s podezřením, ověřte vydavatele a k produktům se dostávejte oficiálními kanály. Chcete-li vidět, jak tyto hrozby zapadají do širšího obrazu, přečtěte si naše shrnutí zprávy Anthropicu o zpravodajství hrozeb týkajících se zneužití AI.