Grupa ransomware operowana przez AI wraca z nową bronią

JadePuffer, podmiot zagrożenia, który wcześniej został udokumentowany jako przeprowadzający pierwszą kampanię ransomware w całości przy użyciu dużego modelu językowego, powraca z nowym narzędziem. Według Infosecurity Magazine, następna kampania grupy używa lockera o nazwie ENCFORGE, stworzonego specjalnie do niszczenia artefaktów modeli AI, a nie tylko do szyfrowania zwykłych plików i baz danych.

To ważne, ponieważ oznacza zmianę w wyborze celów. Wcześniejsze operacje ransomware, w tym oryginalna kampania JadePuffer, koncentrowały się na szyfrowaniu baz danych produkcyjnych i żądaniu okupu za ich odzyskanie. Oryginalna dokumentacja ataku JadePuffer autorstwa Sysdig opisywała agentywnego operatora, który wykorzystywał platformę Langflow i przeprowadzał włamanie przy minimalnym nadzorze człowieka. ENCFORGE wydaje się rozszerzać to samo zautomatyzowane podejście, ale z nowym celem: usuwaniem wytrenowanych modeli, wag i plików konfiguracyjnych, na których organizacje polegają przy uruchamianiu systemów AI.

Dlaczego celowanie w modele AI zmienia reguły gry

Tradycyjny ransomware zakładniczy dane. Niszczenie artefaktów modeli AI to inny rodzaj wymuszenia. Wytrenowane modele często oznaczają miesiące czasu obliczeniowego, starannie dobrane dane treningowe i prace dostrajające, których nie można po prostu przywrócić z rutynowej kopii zapasowej, jeśli ta kopia nie została zaprojektowana specjalnie z myślą o odzyskiwaniu modeli. Dla firm, które zbudowały narzędzia AI skierowane do klientów, wewnętrzną automatyzację lub potoki przetwarzania danych wokół tych modeli, ich całkowita utrata może być bardziej destrukcyjna niż utrata pojedynczej bazy danych, ponieważ odbudowa modelu od podstaw wymaga czasu, którego działająca firma często nie ma.

Istnieje również wymiar prywatności, który warto podkreślić. Wiele modeli AI używanych przez firmy jest szkolonych lub dostrajanych na zbiorach danych zawierających informacje o klientach, niezależnie od tego, czy są to transkrypcje rozmów wsparcia, dane behawioralne czy dane osobowe wykorzystywane do personalizacji usługi. Kiedy operatorzy ransomware celują w infrastrukturę otaczającą te modele, czy to szyfrując powiązane bazy danych, czy teraz niszcząc same modele, dane osobowe przepływające przez tę infrastrukturę są narażone zarówno na ujawnienie, jak i utratę. Konsumenci rzadko mają wgląd w to, którzy dostawcy wykorzystują systemy AI na ich informacjach, co sprawia, że tego rodzaju ataki są trudniejsze do wykrycia z zewnątrz i trudniejsze do przygotowania się na nie jako osoba indywidualna.

Część szerszego wzorca w autonomicznych atakach

Powrót JadePuffer z ENCFORGE wpisuje się w trend, który badacze bezpieczeństwa uważnie śledzą w tym roku. Niezależne ustalenia dotyczące pierwszego w pełni autonomicznego ataku ransomware z wykorzystaniem AI pokazały, że agent AI może skanować podatności, uzyskiwać dostęp i przeprowadzać próbę wymuszenia bez operatora człowieka kierującego każdym krokiem w czasie rzeczywistym. Ten precedens ma tu znaczenie, ponieważ sugeruje, że JadePuffer nie jest jednorazowym eksperymentem. To operator, który rozwinął własne narzędzia, przechodząc od szyfrowania baz danych do lockera zaprojektowanego specjalnie przeciwko infrastrukturze AI. W miarę jak coraz więcej organizacji przyjmuje platformy AI, takie jak Langflow i podobne narzędzia do orkiestracji, powierzchnia ataku dla tego rodzaju kampanii tylko rośnie – temat ten poruszany jest w ostatnich podsumowaniach bezpieczeństwa śledzących ransomware i ataki oparte na AI obok innych pojawiających się zagrożeń.

Co to oznacza dla Ciebie

Większość czytelników nie będzie samodzielnie wdrażać modeli AI, ale skutki uboczne sięgają dalej niż tylko działy IT. Jeśli firma, z którą masz kontakt – czy to sprzedawca detaliczny, dostawca opieki zdrowotnej, czy usługa finansowa – korzysta z systemów AI, które padły ofiarą takiego ataku, konsekwencje mogą obejmować przerwy w świadczeniu usług, opóźnienia w obsłudze wsparcia lub, w gorszych przypadkach, ujawnienie danych, na których te modele zostały wytrenowane lub na których działały. Ransomware wymierzony w infrastrukturę AI jest obecnie problemem na linii biznes-biznes, ale dane konsumentów znajdujące się wewnątrz tej infrastruktury nadają tym atakom siłę przetargową.

Dla organizacji budujących lub obsługujących systemy AI jest to wyraźny sygnał, że artefakty modeli wymagają takiej samej dyscypliny w tworzeniu kopii zapasowych, kontroli dostępu i monitorowania jak każdy inny krytyczny zasób. Traktowanie wytrenowanego modelu jako jednorazowego lub łatwego do zastąpienia nie jest już bezpiecznym założeniem.

Praktyczne wnioski

  • Jeśli zarządzasz infrastrukturą AI, upewnij się, że wagi modeli i artefakty treningowe są przechowywane w kopiach zapasowych oddzielnie od systemów produkcyjnych, w wersjach offline lub niezmienialnych.
  • Przejrzyj mechanizmy kontroli dostępu na platformach orkiestracji AI; agentywne kampanie ransomware wykorzystywały odsłonięte lub źle skonfigurowane narzędzia, aby uzyskać przyczółek.
  • Jako konsument, pytaj dostawców usług, w jaki sposób chronią systemy AI przetwarzające Twoje dane, zwłaszcza w przypadku usług przetwarzających wrażliwe dane osobowe lub finansowe.
  • Bądź czujny na przerwy w świadczeniu usług lub powiadomienia o naruszeniach od firm, z których korzystasz; ransomware uderzające w backendy AI może opóźnić odzyskiwanie dłużej niż typowa awaria.

Ewolucja JadePuffer od wymuszania na bazach danych do niszczenia modeli AI przypomina, że operatorzy ransomware szybko dostosowują się tam, gdzie skoncentrowana jest wartość i możliwość nacisku. W miarę jak systemy AI stają się podstawową infrastrukturą dla coraz większej liczby firm, ich ochrona będzie musiała stać się kluczowym elementem postawy bezpieczeństwa każdego, a nie kwestią drugorzędną.