Grupa za ransomware vođena umjetnom inteligencijom vraća se s novim oružjem

JadePuffer, akter prijetnje koji je ranije dokumentiran kao izvođač prve ransomware kampanje u potpunosti provedene pomoću velikog jezičnog modela, vratio se s novim alatom. Prema Infosecurity Magazineu, nastavak kampanje ove grupe uključuje locker nazvan ENCFORGE, namjenski izrađen za uništavanje artefakata AI modela, umjesto pukog šifriranja običnih datoteka i baza podataka.

Ovo je važno jer označava promjenu u odabiru meta. Ranije ransomware operacije, uključujući i originalnu kampanju grupe JadePuffer, bile su usmjerene na šifriranje produkcijskih baza podataka i traženje otkupnine za njihov povratak. Izvorna Sysdigova dokumentacija napada grupe JadePuffer opisala je agentskog operatora koji je iskoristio Langflow platformu i proveo upad uz minimalan ljudski nadzor. Čini se da ENCFORGE proširuje taj isti automatizirani pristup, ali s novim ciljem: brisanjem istreniranih modela, težina i konfiguracijskih datoteka na koje se organizacije oslanjaju za pokretanje AI sustava.

Zašto ciljanje AI modela mijenja računicu

Tradicionalni ransomware drži podatke kao taoce. Uništavanje artefakata AI modela je druga vrsta iznude. Istrenirani modeli često predstavljaju mjesece računalnog vremena, pažljivo odabrane podatke za treniranje i rad na finom podešavanju koji se ne može jednostavno vratiti iz rutinske sigurnosne kopije ako ta kopija nije posebno osmišljena s oporavkom modela na umu. Za tvrtke koje su izgradile alate za korisnike, internu automatizaciju ili cjevovode za obradu podataka oko tih modela, njihov potpuni gubitak može biti više ometajući od gubitka pojedinačne baze podataka, jer ponovna izgradnja modela od nule oduzima vrijeme koje aktivan posao često nema.

Također valja istaknuti dimenziju privatnosti. Mnogi AI modeli koje tvrtke koriste istrenirani su ili fino podešeni na skupovima podataka koji uključuju informacije o klijentima, bilo da se radi o transkriptima podrške, podacima o ponašanju ili osobnim zapisima koji se koriste za personalizaciju usluge. Kada ransomware operateri ciljaju infrastrukturu oko tih modela, bilo šifriranjem okolnih baza podataka ili sada uništavanjem samih modela, osobni podaci koji prolaze kroz tu infrastrukturu izloženi su riziku i odavanja i gubitka. Potrošači rijetko imaju uvid u to koji dobavljači koriste AI sustave nad njihovim informacijama, što ovu vrstu napada čini teže uočljivom izvana i teže pripremljivom za pojedinca.

Dio šireg obrasca u autonomnim napadima

Povratak grupe JadePuffer s ENCFORGE-om uklapa se u trend koji su sigurnosni istraživači pomno pratili ove godine. Nezavisni nalazi o prvom potpuno autonomnom AI ransomware napadu pokazali su da AI agent može skenirati ranjivosti, dobiti pristup i izvesti pokušaj iznude bez ljudskog operatera koji bi usmjeravao svaki korak u stvarnom vremenu. Taj presedan ovdje je važan jer sugerira da JadePuffer nije jednokratni eksperiment. Riječ je o operateru koji je iterirao vlastite alate, prešavši s enkripcije baza podataka na locker posebno konstruiran protiv AI infrastrukture. Kako sve više organizacija usvaja AI platforme poput Langflowa i sličnih alata za orkestraciju, napadačka površina za ovakvu vrstu kampanje samo raste, tema obrađena u nedavnim sigurnosnim pregledima koji prate ransomware i napade vođene umjetnom inteligencijom zajedno s drugim prijetnjama u nastajanju.

Što to znači za vas

Većina čitatelja sama ne upravlja implementacijom AI modela, ali posredni učinci dosežu dalje od IT odjela. Ako tvrtka s kojom imate posla – bilo da se radi o trgovcu, zdravstvenom pružatelju usluga ili financijskoj službi – koristi AI sustave koji budu pogođeni napadom poput ovog, posljedice bi mogle uključivati prekide usluga, odgođenu podršku ili, u lošijim slučajevima, izlaganje podataka na kojima su ti modeli istrenirani ili radili. Ransomware usmjeren na AI infrastrukturu trenutno je problem između tvrtki, ali upravo podaci potrošača unutar te infrastrukture daju tim napadima njihovu polugu.

Za organizacije koje grade ili upravljaju AI sustavima, ovo je jasan signal da artefakti modela trebaju istu disciplinu izrade sigurnosnih kopija, kontrole pristupa i nadzora kao i svaka druga ključna imovina. Tretirati istrenirani model kao potrošnu robu ili nešto što se lako može zamijeniti više nije sigurna pretpostavka.

Praktični savjeti

  • Ako upravljate AI infrastrukturom, osigurajte da se težine modela i artefakti treniranja sigurnosno kopiraju odvojeno od produkcijskih sustava, s izvanmrežnim ili nepromjenjivim kopijama.
  • Pregledajte kontrole pristupa na platformama za orkestraciju AI-ja; agentske ransomware kampanje iskorištavale su izložene ili pogrešno konfigurirane alate kako bi stekle uporište.
  • Kao potrošač, pitajte pružatelje usluga kako štite AI sustave koji obrađuju vaše podatke, posebno za usluge koje rukuju osjetljivim osobnim ili financijskim informacijama.
  • Budite oprezni na prekide usluga ili obavijesti o kršenju sigurnosti podataka od tvrtki koje koristite; ransomware usmjeren na AI pozadinske sustave može odgoditi oporavak duže od tipičnog prekida.

Evolucija grupe JadePuffer od iznude baza podataka do uništavanja AI modela podsjetnik je da se ransomware operateri brzo prilagođavaju onome gdje je vrijednost – i poluga – koncentrirana. Kako AI sustavi postaju ključna infrastruktura za sve više tvrtki, njihova zaštita morat će postati temeljni dio sigurnosnog stava svih, a ne naknadna misao.