En AI-drevet ransomware-gruppe kommer tilbake med et nytt våpen

JadePuffer, trusselaktøren som tidligere er dokumentert for å ha kjørt den første ransomware-kampanjen drevet helhetlig av en stor språkmodell, er tilbake med et nytt verktøy. Ifølge Infosecurity Magazine har gruppens oppfølgingskampanje tatt i bruk et låseprogram kalt ENCFORGE, spesialbygd for å ødelegge artefakter fra KI-modeller i stedet for bare å kryptere vanlige filer og databaser.

Dette er viktig fordi det markerer et skifte i målutvelgelse. Tidligere ransomware-operasjoner, inkludert JadePuffers opprinnelige kampanje, fokuserte på å kryptere produksjonsdatabaser og kreve betaling for å få dem tilbake. Sysdigs opprinnelige dokumentasjon av JadePuffer-angrepet beskrev en agentbasert operatør som utnyttet Langflow-plattformen og kjørte inntrengningen med minimal menneskelig overvåking. ENCFORGE ser ut til å utvide den samme automatiserte tilnærmingen, men med et nytt mål: å slette de trente modellene, vektene og konfigurasjonsfilene som organisasjoner er avhengige av for å kjøre KI-systemer.

Hvorfor det å angripe KI-modeller endrer kalkulasjonen

Tradisjonell ransomware tar data som gisler. Å ødelegge artefakter fra KI-modeller er en annen type utpressing. Trente modeller representerer ofte måneder med beregningstid, kuraterte treningsdata og finjusteringsarbeid som ikke enkelt kan gjenopprettes fra en rutinemessig sikkerhetskopi hvis den kopien ikke var spesielt utformet med tanke på gjenoppretting av modeller. For selskaper som har bygd kundevendte KI-verktøy, intern automatisering eller databehandlingspipeliner rundt disse modellene, kan det å miste dem fullstendig være mer forstyrrende enn å miste en enkelt database, fordi det å gjenoppbygge en modell fra bunnen av tar tid som en driftig virksomhet ofte ikke har.

Det er også en personverndimensjon verdt å merke seg. Mange KI-modeller som brukes av bedrifter, er trent eller finjustert på datasett som inkluderer kundeinformasjon, enten det er støttetranskripsjoner, atferdsdata eller personlige poster brukt til å personalisere en tjeneste. Når ransomware-operatører retter seg mot infrastrukturen rundt disse modellene, enten ved å kryptere de omkringliggende databasene eller nå ødelegge selve modellene, risikerer persondataene som strømmer gjennom den infrastrukturen både eksponering og tap. Forbrukere har sjelden innsyn i hvilke leverandører som kjører KI-systemer på deres informasjon, noe som gjør denne typen angrep vanskeligere å oppdage utenfra og vanskeligere å forberede seg på som enkeltperson.

En del av et bredere mønster i autonome angrep

JadePuffers retur med ENCFORGE passer inn i en trend som sikkerhetsforskere har fulgt nøye i år. Uavhengige funn rundt det første fullstendig autonome KI-ransomware-angrepet viste at en KI-agent kunne skanne etter sårbarheter, få tilgang og utføre et utpressingsforsøk uten at en menneskelig operatør dirigerte hvert steg i sanntid. Den presedensen er viktig her fordi den antyder at JadePuffer ikke er et engangseksperiment. Det er en operatør som har videreutviklet sin egen verktøykasse, og beveget seg fra databasekryptering til et låseprogram spesielt utviklet mot KI-infrastruktur. Etter hvert som flere organisasjoner tar i bruk KI-plattformer som Langflow og lignende orkestreringsverktøy, vokser angrepsflaten for denne typen kampanje bare, et tema som dekkes i nylige sikkerhetsoppsummeringer som sporer ransomware og KI-drevne angrep sammen med andre nye trusler.

Hva dette betyr for deg

De fleste lesere vil ikke drifte en KI-modell selv, men ringvirkningene når lenger enn til IT-avdelinger. Hvis en virksomhet du samhandler med, enten det er en forhandler, en helseleverandør eller en finanstjeneste, bruker KI-systemer som blir rammet av et slikt angrep, kan nedfallet inkludere tjenesteavbrudd, forsinket kundestøtte eller, i verre tilfeller, eksponering av dataene disse modellene ble trent eller operert på. Ransomware rettet mot KI-infrastruktur er fortsatt et bedrift-til-bedrift-problem akkurat nå, men forbrukerdataene som ligger inne i den infrastrukturen, er det som gir disse angrepene sin innflytelse.

For organisasjoner som bygger eller drifter KI-systemer, er dette et tydelig signal om at modellartefakter trenger den samme disiplinen for sikkerhetskopiering, tilgangskontroller og overvåking som alle andre kritiske eiendeler. Å anta at en trent modell er ubetydelig eller lett å erstatte, er ikke lenger en trygg antagelse.

Konkrete tiltak

  • Hvis du administrerer KI-infrastruktur, sørg for at modellvekter og treningsartefakter sikkerhetskopieres separat fra produksjonssystemer, med offline eller uforanderlige kopier.
  • Gjennomgå tilgangskontroller på KI-orkestreringsplattformer; agentbaserte ransomware-kampanjer har utnyttet eksponerte eller feilkonfigurerte verktøy for å få fotfeste.
  • Som forbruker, spør tjenesteleverandører hvordan de beskytter KI-systemene som behandler dataene dine, spesielt for tjenester som håndterer sensitiv personlig eller finansiell informasjon.
  • Vær oppmerksom på tjenesteavbrudd eller varsler om datainnbrudd fra selskaper du bruker; ransomware rettet mot KI-bakender kan forsinke gjenoppretting lenger enn et typisk avbrudd.

JadePuffers utvikling fra databaseutpressing til ødeleggelse av KI-modeller er en påminnelse om at ransomware-operatører tilpasser seg raskt til hvor verdi og innflytelse er konsentrert. Etter hvert som KI-systemer blir kjerneinfrastruktur for flere bedrifter, må det å beskytte dem bli en kjernedel av alles sikkerhetsstilling, ikke en ettertanke.