Cisco Talos demaskuje malware z AI-owym umysłem zbiorowym CLOSEDQUORUM

Nowe ramy śledzenia zagrożeń zintegrowanych z AI

Badacze bezpieczeństwa przez ostatnie kilka lat ostrzegali, że przestępcy w końcu stworzą malware zdolne do samodzielnego wykorzystywania sztucznej inteligencji, bez człowieka wpisującego polecenia w tle. To ostrzeżenie stało się teraz udokumentowaną rzeczywistością. Badacze Cisco Talos opracowali nowe ramy wykrywania zaprojektowane specjalnie do identyfikowania malware i narzędzi hakerskich, które opierają się na chatbotach AI w procesie podejmowania decyzji. Podczas testowania narzędzia znaleźli coś, czego się nie spodziewali: złośliwe oprogramowanie, które konsultuje się z wieloma dużymi modelami językowymi, aby zdecydować, co zrobić dalej, bez żadnego operatora kierującego nim w czasie rzeczywistym.

Ramy te, zbudowane do klasyfikowania i analizowania malware zintegrowanego z AI, dały Talosowi sposób na wykrywanie wzorców, które tradycyjne sygnatury antywirusowe i analiza behawioralna zwykle pomijają. Zamiast szukać wyłącznie znanego złośliwego kodu, narzędzie szuka charakterystycznych oznak oprogramowania, które odpytuje modele AI w trakcie wykonywania, zasadniczo pytając chatbota, jaki krok podjąć dalej w zainfekowanym systemie.

Wnętrze CLOSEDQUORUM: malware z własną radą AI

Najbardziej uderzającym odkryciem płynącym z tych badań jest fragment malware, który badacze nazwali CLOSEDQUORUM. Zamiast polegać na pojedynczym modelu AI jako źródle wskazówek, CLOSEDQUORUM rzekomo zwraca się do kilku różnych dużych modeli językowych i waży ich odpowiedzi przed podjęciem działania, funkcjonując niemal jak mały komitet doradców AI podejmujących decyzje wspólnie. To właśnie ten projekt skłonił część środowiska bezpieczeństwa do opisania go jako AI-owego „umysłu zbiorowego" kierującego złośliwą aktywnością.

Ma to znaczenie, ponieważ usuwa jedno z największych ograniczeń cyberprzestępczości: potrzebę zaangażowania człowieka. Tradycyjne malware często wymaga operatora, który wyśle nowe polecenia, dostosuje taktykę, gdy zmienią się zabezpieczenia, lub zdecyduje, jak zareagować na nieoczekiwaną przeszkodę. Malware, które może odpytywać wiele systemów AI i syntetyzować ich dane wejściowe, może potencjalnie dostosowywać się samodzielnie, z prędkością maszyny, bez czekania, aż osoba zaloguje się i wyda instrukcje.

To odkrycie pojawia się wraz z innymi niedawnymi ustaleniami wskazującymi w tym samym kierunku. Wcześniej w tym roku Grupa Threat Intelligence Google'a potwierdziła, że AI jest już wykorzystywana do napędzania rozwoju exploitów zero-day, pokazując, że rola AI w ofensywnych operacjach cybernetycznych wyszła daleko poza dyskusję teoretyczną. Odkrycie CLOSEDQUORUM przez Talos dodaje kolejny punkt danych: AI nie tylko pomaga atakującym szybciej pisać kod, ale jest bezpośrednio osadzana w logice operacyjnej malware.

Implikacje dla prywatności autonomicznego malware

Dla codziennych użytkowników internetu pojawienie się malware kierowanego przez AI, takiego jak CLOSEDQUORUM, budzi realne obawy o prywatność, nawet jeśli bezpośrednie szczegóły techniczne są skierowane do obrońców korporacyjnych. Malware, które może niezależnie decydować, jak poruszać się po sieci, jakie dane wyglądają na wartościowe lub jak unikać wykrycia, może być znacznie wydajniejsze w lokalizowaniu i eksfiltracji danych osobowych niż malware zależne od operatora-człowieka sprawdzającego się okresowo.

Autonomiczne podejmowanie decyzji komplikuje również atrybucję i reakcję. Gdy atakiem kieruje operator-człowiek, zespoły bezpieczeństwa mogą czasami przewidzieć zachowanie na podstawie znanych wzorców powiązanych z konkretną grupą. Malware, które konsultuje się z modelami AI na bieżąco, może zachowywać się mniej przewidywalnie, generując nowatorskie ścieżki ataku, które nie pasują do żadnej wcześniej skatalogowanej techniki. Ta nieprzewidywalność jest właśnie powodem, dla którego Talos zbudował dedykowane ramy, zamiast polegać na istniejących metodach wykrywania; celem jest wychwycenie zagrożeń zintegrowanych z AI, zanim zdążą cicho zebrać poświadczenia, dane finansowe lub pliki osobiste.

Co to oznacza dla Ciebie

Większość indywidualnych użytkowników nie będzie bezpośrednio celem najnowocześniejszego malware kierowanego przez AI, takiego jak CLOSEDQUORUM, w najbliższym czasie. Narzędzia takie jak to zwykle pojawiają się najpierw w ukierunkowanych włamaniach na firmy, infrastrukturę lub sieci o wysokiej wartości. Ale leżący u podłoża trend ma znaczenie dla wszystkich: ponieważ AI obniża techniczną barierę budowania adaptacyjnego złośliwego oprogramowania, wolumen i zaawansowanie ataków docierających do zwykłych konsumentów prawdopodobnie wzrosną z czasem. E-maile phishingowe, fałszywe strony logowania i złośliwe pliki do pobrania mogą być coraz częściej generowane lub dostrajane z pomocą AI, co czyni je trudniejszymi do zauważenia przy użyciu starej rady „szukaj literówek i błędów gramatycznych".

Fakt, że badacze budują ramy wykrywania specjalnie dla zagrożeń zintegrowanych z AI, jest pozytywnym sygnałem. Oznacza to, że środowisko bezpieczeństwa traktuje to teraz jako priorytet, zamiast reagować po tym, jak malware kierowane przez AI stanie się powszechne.

Praktyczne wnioski

• Utrzymuj systemy operacyjne, przeglądarki i oprogramowanie bezpieczeństwa w aktualnej wersji, ponieważ załatane systemy pozostają pierwszą linią obrony zarówno przed tradycyjnym, jak i wspomaganym przez AI malware.
• Zachowaj sceptycyzm wobec nieoczekiwanych wiadomości lub linków, nawet gdy wyglądają na dobrze napisane i bez błędów, ponieważ AI może teraz pomóc atakującym tworzyć przekonujące treści na skalę masową.
• Korzystaj ze renomowanego menedżera haseł i włączaj uwierzytelnianie wieloskładnikowe wszędzie, gdzie to możliwe, zmniejszając wartość każdego pojedynczego skradzionego poświadczenia.
• Śledź doniesienia uznanych badaczy bezpieczeństwa, aby być świadomym, jak AI zmienia krajobraz zagrożeń, zamiast polegać na założeniach dotyczących tego, co malware może, a czego nie może robić.

Malware kierowane przez AI, takie jak CLOSEDQUORUM, przypomina, że zagrożenia cyberbezpieczeństwa nieustannie ewoluują, a nowe ramy wykrywania są jednym z najsilniejszych narzędzi, jakie mają badacze, aby wyprzedzać zagrożenia. Śledzenie takich wydarzeń jest jednym z najprostszych sposobów ochrony własnej prywatności w nadchodzących miesiącach.