Rosyjscy hakerzy wykorzystują zabezpieczenia AI przeciwko narzędziom bezpieczeństwa

Nowo zgłoszona kampania malware powiązana z rosyjskimi hakerami przyjęła nietypowe podejście do unikania wykrycia: osadzenie fałszywego żądania dotyczącego broni jądrowej w złośliwym skrypcie VBS. Celem nie jest zbudowanie broni, lecz zmylenie systemów AI coraz częściej używanych do analizy podejrzanego kodu. Wstawiając język naśladujący żądanie informacji o broni jądrowej, atakujący najwyraźniej próbują uruchomić zabezpieczenia wbudowane w modele AI, powodując, że systemy te odmawiają przetworzenia lub pełnej analizy pliku.

Ta taktyka podkreśla narastające napięcie w cyberbezpieczeństwie: w miarę jak coraz więcej zespołów bezpieczeństwa opiera się na narzędziach AI do triage'u i analizy malware na dużą skalę, atakujący uczą się wykorzystywać same mechanizmy bezpieczeństwa zaprojektowane w celu zapewnienia wiarygodności tych narzędzi.

Jak działa trik z promptem o broni jądrowej

Zabezpieczenia AI istnieją nie bez powodu. Duże modele językowe są szkolone tak, aby odmawiać odpowiedzi na żądania, które mogłyby ułatwić wyrządzenie realnej szkody, w tym szczegółowe instrukcje związane z bronią masowego rażenia. Gdy narzędzie bezpieczeństwa wspierane przez AI skanuje plik, zazwyczaj czyta jego zawartość, w tym osadzony tekst, jako część procesu analizy.

Osadzając język przypominający żądanie dotyczące broni jądrowej w skrypcie VBS, hakerzy najwyraźniej liczą na to, że wbudowane zachowanie odmowy w modelu AI zadziała. Zamiast oznaczyć plik jako malware, AI może zatrzymać się, odmówić kontynuowania analizy lub wygenerować niekompletną lub niewiarygodną ocenę. W efekcie złośliwa treść staje się swego rodzaju wabikiem, wykorzystującym własne etyczne szkolenie AI przeciwko niemu.

To nie jest wada unikalna dla jednego dostawcy lub produktu. Odzwierciedla to szersze wyzwanie: zabezpieczenia są zazwyczaj projektowane wokół moderacji treści i zapobiegania szkodom, a nie wokół obrony przed wrogim unikaniem podczas technicznej analizy malware. Gdy te dwa cele się zderzają, atakujący zyskują pole manewru.

Dlaczego to ma znaczenie dla analizy bezpieczeństwa opartej na AI

Zespoły bezpieczeństwa szybko przyjęły narzędzia AI, aby pomóc w sortowaniu ogromnej liczby podejrzanych plików, prób phishingu i skryptów, z którymi spotykają się codziennie. Narzędzia te obiecują szybszy triage i mogą wykrywać wzorce, które ludzcy analitycy mogliby przeoczyć. Jednak ten incydent przypomina, że systemy AI używane w procesach bezpieczeństwa niosą ze sobą własną powierzchnię ataku, której tradycyjne wykrywanie malware nie było zaprojektowane, aby przewidzieć.

Jeśli model AI może być zmanipulowany do pominięcia lub złagodzenia analizy tylko dlatego, że plik zawiera określone słowa wyzwalające, to jest to znacząca ślepa plama. Rodzi to również pytania o to, w jakim stopniu organizacje powinny polegać na analizie opartej na AI bez nadzoru człowieka, zwłaszcza w przypadku decyzji o wysokiej stawce, takich jak to, czy plik jest bezpieczny do otwarcia lub uruchomienia.

Tego rodzaju taktyka wpisuje się w szerszy wzorzec atakujących dostosowujących swoje techniki do tego, kto lub co prowadzi obronę. Tak jak operatorzy ransomware przesunęli swoje cele socjotechniczne w stronę menedżerów w średnim wieku zamiast kadry kierowniczej, tak autorzy malware dostosowują teraz swoje techniki unikania do konkretnych systemów, w tym modeli AI, które stoją między nimi a ich celami.

Co to oznacza dla Ciebie

Dla większości indywidualnych użytkowników ta konkretna technika celuje w infrastrukturę bezpieczeństwa przedsiębiorstw, a nie bezpośrednio w urządzenia osobiste. Jest mało prawdopodobne, abyś spotkał się z tym konkretnym trikiem ze skryptem VBS na własnym komputerze w sposób, który miałby znaczenie dla codziennego przeglądania stron lub korzystania z poczty. Jednak leżąca u podstaw lekcja ma szerokie zastosowanie: zautomatyzowane narzędzia, czy to skanery malware oparte na AI, filtry spamu czy oprogramowanie antywirusowe, nie są nieomylne, a atakujący aktywnie badają sposoby wykorzystania ich ślepych plam.

Jeśli Twoje miejsce pracy korzysta z narzędzi bezpieczeństwa wspieranych przez AI, to dobry moment, aby zapytać, jak te narzędzia są walidowane i czy ludzcy analitycy wciąż przeglądają oznaczone lub nieoznaczone pliki. Dla osób indywidualnych wniosek jest bardziej ogólny: nie zakładaj, że plik, który nie został oznaczony przez automatyczny skaner, jest automatycznie bezpieczny. Warstwowa obrona, sceptycyzm wobec nieoczekiwanych skryptów lub załączników oraz podstawowa higiena bezpieczeństwa pozostają tak samo ważne jak zawsze.

Praktyczne wnioski

  • Unikaj otwierania nieproszonych plików VBS, skryptów lub dokumentów z włączonymi makrami, niezależnie od tego, czy automatyczne skanowanie je oczyściło.
  • Jeśli zarządzasz narzędziami bezpieczeństwa w pracy, zapytaj, czy analiza malware wspierana przez AI obejmuje zapasowy przegląd ludzki dla plików, które wywołują odmowy lub niekompletne skany.
  • Utrzymuj tradycyjne warstwy wykrywania, takie jak antywirus oparty na sygnaturach i monitorowanie sieci, obok nowszych narzędzi AI, zamiast całkowicie je zastępować.
  • Bądź na bieżąco z tym, jak atakujący dostosowują się do obron opartych na AI, ponieważ techniki takie jak ta prawdopodobnie będą ewoluować, a nie znikną.

W miarę jak AI coraz bardziej zakorzenia się w procesach cyberbezpieczeństwa, incydenty takie jak ten pokazują, że zabezpieczenia mające chronić systemy AI mogą same stać się celem. Bycie na bieżąco z tymi nowymi taktykami oraz utrzymywanie warstwowej, recenzowanej przez ludzi obrony pozostaje najlepszym sposobem na wyprzedzenie atakujących, którzy nieustannie szukają nowych słabości do wykorzystania.