En AI-drevet ransomware-gruppe vender tilbage med et nyt våben

JadePuffer, trusselsaktøren der tidligere er dokumenteret for at have kørt den første ransomware-kampagne, der blev udført fra ende til anden af en stor sprogmodel, er tilbage med et nyt værktøj. Ifølge Infosecurity Magazine har gruppens opfølgende kampagne anvendt en locker kaldet ENCFORGE, der er skræddersyet til at ødelægge AI-modelartefakter frem for blot at kryptere almindelige filer og databaser.

Dette er vigtigt, fordi det markerer et skift i måludvælgelsen. Tidligere ransomware-operationer, herunder JadePuffers oprindelige kampagne, fokuserede på at kryptere produktionsdatabaser og kræve betaling for at få dem tilbage. Sysdigs oprindelige dokumentation af JadePuffer-angrebet beskrev en agentisk operatør, der udnyttede Langflow-platformen og gennemførte indtrængningen med minimal menneskelig overvågning. ENCFORGE ser ud til at udvide den samme automatiserede tilgang, men med et nyt mål: at udslette de trænede modeller, vægte og konfigurationsfiler, som organisationer er afhængige af for at køre AI-systemer.

Hvorfor angreb på AI-modeller ændrer beregningen

Traditionel ransomware tager data som gidsler. At ødelægge AI-modelartefakter er en anden form for afpresning. Trænede modeller repræsenterer ofte måneders computerkraft, kuraterede træningsdata og finjusteringsarbejde, som ikke bare kan gendannes fra en rutinemæssig backup, hvis den backup ikke specifikt var designet med modelgendannelse for øje. For virksomheder, der har bygget kundevendte AI-værktøjer, intern automatisering eller databehandlingspipelines omkring disse modeller, kan det være mere forstyrrende at miste dem helt end at miste en enkelt database, fordi det tager tid at genopbygge en model fra bunden – tid, som en aktiv forretning ofte ikke har.

Der er også en privatlivsdimension, der er værd at bemærke. Mange AI-modeller, som virksomheder bruger, er trænet eller finjusteret på datasæt, der indeholder kundeoplysninger, uanset om det er supporttransskriptioner, adfærdsdata eller personlige registreringer, der bruges til at personalisere en tjeneste. Når ransomware-operatører retter sig mod infrastrukturen omkring disse modeller, hvad enten det er ved at kryptere de omkringliggende databaser eller nu ødelægge selve modellerne, risikerer de persondata, der strømmer gennem denne infrastruktur, både at blive eksponeret og gå tabt. Forbrugere har sjældent indsigt i, hvilke leverandører der kører AI-systemer på deres oplysninger, hvilket gør denne type angreb sværere at opdage udefra og sværere at forberede sig på som enkeltperson.

En del af et bredere mønster inden for autonome angreb

JadePuffers tilbagevenden med ENCFORGE passer ind i en tendens, som sikkerhedsforskere har fulgt tæt i år. Uafhængige resultater omkring det første fuldt autonome AI-ransomware-angreb viste, at en AI-agent kunne scanne efter sårbarheder, få adgang og udføre et afpresningsforsøg uden at en menneskelig operatør styrede hvert trin i realtid. Den præcedens er vigtig her, fordi den antyder, at JadePuffer ikke er et engangseksperiment. Det er en operatør, der har videreudviklet sit eget værktøjssæt og er gået fra databasekryptering til en locker, der er specifikt konstrueret mod AI-infrastruktur. I takt med at flere organisationer tager AI-platforme som Langflow og lignende orkestreringsværktøjer i brug, vokser angrebsfladen for denne type kampagne kun – et tema, der er dækket i nylige sikkerhedsresuméer, der følger ransomware og AI-drevne angreb sammen med andre nye trusler.

Hvad dette betyder for dig

De fleste læsere driver ikke selv en AI-modelimplementering, men ringvirkningerne rækker længere end til IT-afdelinger. Hvis en virksomhed, du interagerer med – det være sig en forhandler, en sundhedsudbyder eller en finansiel tjeneste – bruger AI-systemer, der bliver ramt af et angreb som dette, kan konsekvenserne omfatte tjenesteafbrydelser, forsinket support eller i værste fald eksponering af de data, som modellerne blev trænet eller drevet på. Ransomware rettet mod AI-infrastruktur er stadig et business-to-business-problem lige nu, men de forbrugerdata, der ligger inde i denne infrastruktur, er det, der giver disse angreb deres løftestang.

For organisationer, der bygger eller driver AI-systemer, er dette et klart signal om, at modelartefakter har brug for den samme backup-disciplin, adgangskontrol og overvågning som ethvert andet kritisk aktiv. Det er ikke længere en sikker antagelse at behandle en trænet model som engangsbrugbar eller let at erstatte.

Praktiske råd

  • Hvis du administrerer AI-infrastruktur, skal du sikre, at modelvægte og træningsartefakter sikkerhedskopieres separat fra produktionssystemer med offline eller uforanderlige kopier.
  • Gennemgå adgangskontroller på AI-orkestreringsplatforme; agentiske ransomware-kampagner har udnyttet eksponerede eller fejlkonfigurerede værktøjer til at få fodfæste.
  • Spørg som forbruger tjenesteudbydere, hvordan de beskytter de AI-systemer, der behandler dine data, især for tjenester, der håndterer følsomme personlige eller finansielle oplysninger.
  • Vær opmærksom på tjenesteafbrydelser eller brudunderretninger fra virksomheder, du bruger; ransomware, der retter sig mod AI-bagdøre, kan forsinke genopretningen længere end et typisk nedbrud.

JadePuffers udvikling fra databaseafpresning til ødelæggelse af AI-modeller er en påmindelse om, at ransomware-operatører hurtigt tilpasser sig der, hvor værdi og løftestang er koncentreret. I takt med at AI-systemer bliver kerneinfrastruktur for flere virksomheder, vil beskyttelsen af dem være nødt til at blive en central del af alles sikkerhedsposition – ikke en eftertanke.