Ruští hackeři používají AI bezpečnostní zábrany proti bezpečnostním nástrojům

Nová malware kampaň spojovaná s ruskými hackery zvolila neobvyklý přístup k vyhýbání se detekci: vložení falešného požadavku na jadernou zbraň do škodlivého VBS skriptu. Cílem není vytvořit zbraň, ale zmást AI systémy, které se stále častěji používají k analýze podezřelého kódu. Vložením jazyka, který napodobuje žádost o informace o jaderných zbraních, se útočníci zřejmě snaží spustit bezpečnostní zábrany zabudované do AI modelů, což způsobí, že tyto systémy odmítnou soubor zpracovat nebo plně analyzovat.

Tato taktika poukazuje na rostoucí napětí v kybernetické bezpečnosti: jak stále více bezpečnostních týmů spoléhá na AI nástroje pro třídění a analýzu malwaru ve velkém měřítku, útočníci se učí zneužívat právě ty bezpečnostní mechanismy, které mají tyto nástroje učinit důvěryhodnými.

Jak funguje trik s jaderným příkazem

AI bezpečnostní zábrany existují z dobrého důvodu. Velké jazykové modely jsou trénovány k odmítání požadavků, které by mohly usnadnit skutečnou škodu, včetně podrobných instrukcí souvisejících se zbraněmi hromadného ničení. Když AI-asistovaný bezpečnostní nástroj skenuje soubor, obvykle čte jeho obsah, včetně vloženého textu, jako součást svého analytického procesu.

Tím, že hackeři umístí jazyk připomínající žádost o jadernou zbraň do VBS skriptu, zřejmě spoléhají na to, že se aktivuje vestavěné odmítací chování AI modelu. Místo označení souboru jako malwaru se AI může zastavit, odmítnout pokračovat v analýze nebo vytvořit neúplné či nespolehlivé hodnocení. Škodlivý obsah se tak v podstatě stává návnadou, která využívá vlastní etické trénování AI proti ní.

Toto není chyba jedinečná pro jednoho dodavatele nebo produkt. Odráží širší výzvu: bezpečnostní zábrany jsou obvykle navrženy pro moderaci obsahu a prevenci škod, nikoli pro nepřátelské vyhýbání se při technické analýze malwaru. Když se tyto dva cíle střetnou, útočníci získají příležitost.

Proč na tom záleží pro AI-poháněnou bezpečnostní analýzu

Bezpečnostní týmy rychle přijaly AI nástroje, aby si pomohly s tříděním obrovského objemu podezřelých souborů, phishingových pokusů a skriptů, se kterými se denně setkávají. Tyto nástroje slibují rychlejší třídění a mohou označit vzory, které by lidští analytici mohli přehlédnout. Tento incident je ale připomínkou, že AI systémy používané v bezpečnostních pracovních postupech mají vlastní útočnou plochu, kterou tradiční detekce malwaru nebyla navržena předvídat.

Pokud lze AI model manipulovat tak, aby přeskočil nebo zmírnil svou analýzu jen proto, že soubor obsahuje určitá spouštěcí slova, je to významné slepé místo. Rovněž to vyvolává otázky, do jaké míry by organizace měly spoléhat na AI-řízenou analýzu bez lidského dohledu, zejména u rozhodnutí s vysokými sázkami, jako je to, zda je soubor bezpečné otevřít nebo spustit.

Tento druh taktiky zapadá do širšího vzorce, kdy útočníci přizpůsobují své techniky tomu, kdo nebo co právě brání. Stejně jako operátoři ransomwaru přesunuli své sociálně-inženýrské cíle na manažery ve střední kariéře místo výkonných ředitelů, autoři malwaru nyní přizpůsobují své techniky vyhýbání se konkrétním systémům, včetně AI modelů, které stojí mezi nimi a jejich cíli.

Co to znamená pro vás

Pro většinu jednotlivých uživatelů tato konkrétní technika cílí na podnikovou bezpečnostní infrastrukturu spíše než přímo na osobní zařízení. Je nepravděpodobné, že byste se s tímto konkrétním VBS skriptovým trikem setkali na vlastním počítači způsobem, který by ovlivnil vaše každodenní prohlížení nebo e-mailové návyky. Základní lekce se ale aplikuje široce: automatizované nástroje, ať už AI-based skenery malwaru, spam filtry nebo antivirový software, nejsou neomylné a útočníci aktivně zkoumají způsoby, jak zneužít jejich slepá místa.

Pokud vaše pracoviště používá AI-asistované bezpečnostní nástroje, je to užitečný okamžik zeptat se, jak jsou tyto nástroje validovány a zda lidští analytici stále kontrolují označené nebo neoznačené soubory. Pro jednotlivce je ponaučení obecnější: nepředpokládejte, že protože soubor nebyl označen automatickým skenerem, je automaticky bezpečný. Vrstvená obrana, skepticismus vůči neočekávaným skriptům nebo přílohám a základní bezpečnostní hygiena zůstávají stejně důležité jako vždy.

Praktická doporučení

  • Vyhněte se otevírání nevyžádaných VBS souborů, skriptů nebo dokumentů s makry, bez ohledu na to, zda je automatický sken vyčistil.
  • Pokud spravujete bezpečnostní nástroje v práci, zeptejte se, zda AI-asistovaná analýza malwaru zahrnuje záložní lidskou kontrolu pro soubory, které spustí odmítnutí nebo neúplné skeny.
  • Udržujte tradiční detekční vrstvy, jako je antivirus založený na signaturách a monitorování sítě, vedle novějších AI nástrojů, spíše než je zcela nahrazujte.
  • Zůstaňte informovaní o tom, jak se útočníci přizpůsobují AI-řízené obraně, protože techniky jako tato se pravděpodobně budou vyvíjet spíše než zmizí.

Jak se AI stále více začleňuje do kybernetických bezpečnostních pracovních postupů, incidenty jako tento ukazují, že zábrany určené k udržení AI systémů v bezpečí se samy mohou stát cílem. Zůstat informovaný o těchto vznikajících taktikách a udržovat vrstvenou, lidsky kontrolovanou obranu zůstává nejlepším způsobem, jak zůstat před útočníky, kteří neustále hledají nové slabiny k zneužití.