Skupina sponzorovaná ruským státem proměnila Claude v nástroj pro vývoj malwaru

Společnost Anthropic narušila operaci sponzorovanou ruským státem, interně sledovanou jako GTG-20006, která využívala její model Claude AI jako součást aktivního pipeline pro vývoj malwaru. Podle Anthropicu tato skupina nepožádala Claude pouze jednou o napsání kódu a neodešla. Místo toho používala model v nepřetržité smyčce: generovat malware, testovat jej proti bezpečnostním produktům, a když byl malware označen, vložit detekci zpět do Claude, aby vytvořil přepracovanou verzi navrženou tak, aby proklouzla kolem stejných obran.

Zprávy spojené s touto kampaní propojují aktéra s Midnight Blizzard, hrozebnou skupinou spojenou s ruskými státními zájmy, která má dlouhou historii operací zaměřených na špionáž. Aktivita údajně cílila na ukrajinské a evropské organizace, což je v souladu s typickým zaměřením skupiny na sběr zpravodajských informací spíše než na finančně motivovanou kybernetickou kriminalitu. Anthropic uvádí, že identifikoval a zablokoval účty spojené s operací, jakmile bylo zneužití zjištěno.

Jak fungoval workflow malwaru s podporou AI

Na tomto případu není pozoruhodné to, že hackeři použili AI chatbot. Pozoruhodný je samotný workflow. Tradičně autoři malwaru upravují svůj kód ručně poté, co prodejci antivirů nebo nástroje pro detekci na koncových zařízeních označí vzorek. Tento proces vyžaduje čas, dovednosti a iteraci. Vložením Claude do této smyčky GTG-20006 zřejmě zkrátila cyklus: místo toho, aby lidský vývojář přepracovával označený kód řádek po řádku, se model AI stal rychlým nástrojem na vyžádání pro generování variant, které by mohly obejít detekční signatury.

To odráží širší vzorec, před kterým výzkumníci v oblasti bezpečnosti varují: AI asistenti pro programování jsou mocní, protože snižují technickou bariéru pro rychlé psaní funkčního kódu, a tato stejná efektivita platí bez ohledu na to, zda je konečným cílem legitimní aplikace, nebo kus malwaru. Zveřejnění společnosti Anthropic naznačuje, že její vlastní monitorovací systémy byly schopny zneužití zachytit a jednat, což je významný signál, že poskytovatelé AI aktivně sledují tento typ chování, místo aby jej považovali za hypotetické riziko.

Rovněž to přichází spolu s dalšími nedávnými zjištěními o slabinách v ekosystémech AI asistentů. Výzkumníci ze společnosti Zenity nedávno zveřejnili zero-click zranitelnosti v Claude a ChatGPT Atlas, které by mohly útočníkům umožnit převzít kontrolu nad nástroji AI prohlížeče zcela bez jakékoli interakce uživatele. V souhrnu tyto příběhy poukazují na stejné základní téma: jak se nástroje AI stávají součástí každodenních workflow, jak samotné nástroje, tak způsob, jakým je hrozební aktéři používají, se stávají útočnými plochami, které stojí za to zkoumat.

Proč na tom záleží i mimo hlavní titulky

Stojí za to být přesný v tom, co se zde stalo a co ne. Claude nebyl „hacknut“, aby tajně pomáhal útočníkům, a neexistuje žádný náznak, že by běžní uživatelé Claude byli prostřednictvím samotné aplikace vystaveni malwaru. Jednalo se o případ sofistikované skupiny napojené na stát, která používala legitimní AI produkt jako vývojový nástroj, stejně jako by mohla použít jakýkoli programovací software, a zneužila jej pro generování škodlivého kódu. Reakce společnosti Anthropic, tedy detekce vzorce a přerušení přístupu, je typem donucovacího opatření, které je důležité pro to, aby se platformy AI nestaly výchozími sadami nástrojů pro ofenzivní kybernetické operace.

Přesto je tento incident připomínkou, že vývoj malwaru s podporou AI již není teoretický. Aktéři sponzorovaní státem experimentují s těmito nástroji, aby zrychlili své operace, a obránci budou muset počítat s malwarem, který lze regenerovat a upravovat rychleji než dříve. Pro organizace na Ukrajině a v Evropě, které se zjevně staly cílem této konkrétní kampaně, to také posiluje skutečnost, že skupiny zaměřené na špionáž nadále upřednostňují sběr zpravodajských informací před rychlým finančním ziskem.

Co to znamená pro vás

Pro většinu jednotlivých uživatelů tato konkrétní kampaň nepředstavuje přímou novou hrozbu. GTG-20006 se údajně zaměřovala na cílenou špionáž proti organizacím, nikoli na masové útoky na spotřebitele. Širší trend, tedy nástroje AI zrychlující vývoj malwaru a jeho obcházení detekce, však má dopady na všechny. Rychlejší iterace malwaru znamená, že prodejci bezpečnostního softwaru a antivirové nástroje mohou potřebovat častěji aktualizovat detekční signatury, a to zvyšuje hodnotu nástrojů pro bezpečnost založenou na chování oproti nástrojům, které se spoléhají čistě na známé signatury malwaru.

Je to také dobrý okamžik pro revizi základní bezpečnostní hygieny, protože malware s podporou AI se stále spoléhá na stejné metody doručení: phishingové e-maily, škodlivé přílohy a kompromitovaný software. Žádný nástroj AI nemění to, jak se malware dostane do zařízení na prvním místě.

Klíčové poznatky

  • Udržujte operační systémy, prohlížeče a bezpečnostní software aktualizované, aby detekční nástroje mohly rychle zachytit novější varianty malwaru.
  • Buďte skeptičtí k nevyžádaným přílohám nebo odkazům, i od zdánlivě známých odesílatelů, protože metody doručení zůstávají nezměněny.
  • Organizace, zejména ty v odvětvích, která budou pravděpodobně cílem aktérů sponzorovaných státem, by měly upřednostnit detekci založenou na chování před nástroji založenými pouze na signaturách.
  • Sledujte, jak hlavní poskytovatelé AI reagují na hlášení o zneužití. Narušení GTG-20006 ze strany Anthropicu ukazuje, že vynucování na úrovni platformy je aktivní součástí bezpečnostní rovnice, nikoli jen dodatečnou myšlenkou.

Jak se nástroje AI pro programování stávají schopnějšími, incidenty, jako je tento, budou pravděpodobně častější, nikoli vzácnější. Zůstat informovaný o tom, jak jsou tyto nástroje jak bráněny, tak zneužívány, je jedním z nejjednodušších způsobů, jak mohou uživatelé a organizace zůstat o krok napřed.