Cisco Talos odhaluje malware s umělou inteligencí CLOSEDQUORUM

Nový rámec pro sledování hrozeb integrovaných s AI

Bezpečnostní výzkumníci posledních několik let varovali, že zločinci nakonec vyvinou malware schopný využívat umělou inteligenci samostatně, bez člověka, který by za scénou zadával příkazy. Toto varování se nyní stalo zdokumentovanou realitou. Výzkumníci společnosti Cisco Talos vyvinuli nový detekční rámec navržený speciálně pro identifikaci malwaru a hackerských nástrojů, které se při rozhodování spoléhají na AI chatboty. Při testování nástroje objevili něco, co nečekali: škodlivý software, který se dotazuje několika velkých jazykových modelů, aby rozhodl, co dělat dál, aniž by jej v reálném čase řídil nějaký operátor.

Rámec, vytvořený pro klasifikaci a analýzu malwaru integrovaného s AI, dal společnosti Talos způsob, jak odhalit vzorce, které tradiční antivirové signatury a behaviorální analýza obvykle přehlížejí. Namísto hledání pouze známého škodlivého kódu nástroj hledá typické známky softwaru, který během svého běhu dotazuje AI modely – v podstatě se ptá chatbota, jaký krok má uvnitř napadeného systému podniknout dál.

Uvnitř CLOSEDQUORUM: Malware s vlastní AI radou

Nejpřekvapivějším objevem tohoto výzkumu je kus malwaru, který výzkumníci pojmenovali CLOSEDQUORUM. Namísto spoléhání se na jediný AI model pro vedení se CLOSEDQUORUM údajně obrací na několik různých velkých jazykových modelů a zvažuje jejich odpovědi, než jedná, a funguje téměř jako malý výbor AI poradců, kteří společně rozhodují. Právě tento design vedl některé v bezpečnostní komunitě k tomu, že jej popisují jako AI „hive mind" (kolektivní mysl) řídící škodlivou činnost.

To je důležité, protože to odstraňuje jedno z největších omezení kybernetické kriminality: potřebu zapojení člověka. Tradiční malware často potřebuje operátora, který posílá nové příkazy, upravuje taktiky, když se obrana změní, nebo rozhoduje, jak reagovat na neočekávanou překážku. Malware, který může dotazovat více AI systémů a syntetizovat jejich vstupy, se může potenciálně sám přizpůsobovat, rychlostí stroje, aniž by čekal, až se člověk přihlásí a vydá pokyny.

Tento objev přichází spolu s dalšími nedávnými zjištěními ukazujícími stejným směrem. Začátkem tohoto roku Google's Threat Intelligence Group potvrdila, že AI se již používá k pohánění vývoje zero-day exploitů, což ukazuje, že role AI v ofenzivních kybernetických operacích se posunula daleko za teoretickou diskusi. Talosův objev CLOSEDQUORUM přidává další datový bod: AI nepomáhá útočníkům jen psát kód rychleji, je přímo zabudována do operační logiky malwaru.

Dopady na soukromí autonomního malwaru

Pro běžné uživatele internetu vyvolává emergence malwaru řízeného AI, jako je CLOSEDQUORUM, skutečné obavy o soukromí, i když okamžité technické podrobnosti jsou zaměřeny na podnikové obránce. Malware, který může nezávisle rozhodnout, jak se pohybovat sítí, jaká data vypadají cenně nebo jak se vyhnout detekci, by mohl být mnohem efektivnější při vyhledávání a exfiltraci osobních informací než malware, který závisí na lidském operátorovi, jenž se pravidelně přihlašuje.

Autonomní rozhodování také komplikuje atribuci a reakci. Když útok řídí lidský operátor, bezpečnostní týmy mohou někdy předvídat chování na základě známých vzorců spojených s konkrétní skupinou. Malware, který za běhu konzultuje AI modely, se může chovat méně předvídatelně a generovat nové útočné cesty, které neodpovídají žádné dříve katalogizované technice. Právě tato nepředvídatelnost je důvodem, proč Talos vytvořil specializovaný rámec namísto spoléhání se na stávající detekční metody; cílem je zachytit hrozby integrované s AI dříve, než mohou tiše sklízet přihlašovací údaje, finanční data nebo osobní soubory.

Co to znamená pro vás

Většina jednotlivých uživatelů nebude v nejbližší době přímo cílem špičkového malwaru řízeného AI, jako je CLOSEDQUORUM. Nástroje jako tento se obvykle objevují nejprve při cílených intrusech proti firmám, infrastruktuře nebo sítím s vysokou hodnotou. Ale základní trend se týká všech: jak AI snižuje technickou bariéru pro vytváření adaptivního škodlivého softwaru, objem a sofistikovanost útoků dopadajících na běžné spotřebitele pravděpodobně v průběhu času porostou. Phishingové e-maily, falešné přihlašovací stránky a škodlivá stahování mohou být stále častěji generovány nebo vyladěny s pomocí AI, což je činí hůře rozpoznatelnými podle staré rady „hledejte překlepy a špatnou gramatiku".

Skutečnost, že výzkumníci vytvářejí detekční rámce speciálně pro hrozby integrované s AI, je pozitivním znamením. Znamená to, že bezpečnostní komunita to nyní považuje za prioritu, namísto reagování až poté, co se malware řízený AI stane rozšířeným.

Praktická doporučení

• Udržujte operační systémy, prohlížeče a bezpečnostní software aktualizované, protože opravené systémy zůstávají první linií obrany proti tradičnímu i AI podporovanému malwaru.
• Buďte skeptičtí k neočekávaným zprávám nebo odkazům, i když vypadají dobře napsané a bez chyb, protože AI nyní může útočníkům pomoci vytvářet přesvědčivý obsah ve velkém měřítku.
• Používejte renomovaného správce hesel a všude, kde je to možné, zapněte vícefaktorové ověřování, čímž snížíte hodnotu jakéhokoli jednotlivého ukradeného přihlašovacího údaje.
• Sledujte zpravodajství zavedených bezpečnostních výzkumníků, abyste zůstali informováni o tom, jak AI mění hrozby, namísto spoléhání se na předpoklady o tom, co malware může nebo nemůže dělat.

Malware řízený AI, jako je CLOSEDQUORUM, je připomínkou, že se kybernetické hrozby neustále vyvíjejí a nové detekční rámce jsou jedním z nejsilnějších nástrojů, které výzkumníci mají, aby zůstali napřed. Zůstat informován o vývoji, jako je tento, je jedním z nejjednodušších způsobů, jak chránit své vlastní soukromí v nadcházejících měsících.