Een door AI gerunde ransomwaregroep keert terug met een nieuw wapen

JadePuffer, de dreigingsactor die eerder werd gedocumenteerd als uitvoerder van de eerste ransomwarecampagne die volledig door een groot taalmodel werd uitgevoerd, is terug met een nieuw wapen. Volgens Infosecurity Magazine heeft de groep in een vervolgcampagne een locker genaamd ENCFORGE ingezet, speciaal gebouwd om AI-modelartefacten te vernietigen in plaats van alleen gewone bestanden en databases te versleutelen.

Dit is belangrijk omdat het een verschuiving markeert in de keuze van doelwitten. Eerdere ransomware-operaties, inclusief de oorspronkelijke campagne van JadePuffer, richtten zich op het versleutelen van productiedatabases en het eisen van betaling voor teruggave. De oorspronkelijke documentatie van Sysdig over de JadePuffer-aanval beschreef een agent-gebaseerde operator die misbruik maakte van het Langflow-platform en de inbraak uitvoerde met minimale menselijke supervisie. ENCFORGE lijkt diezelfde geautomatiseerde aanpak uit te breiden, maar met een nieuw doel: het wissen van de getrainde modellen, gewichten en configuratiebestanden waar organisaties op vertrouwen om AI-systemen te laten draaien.

Waarom het aanvallen van AI-modellen de calculatie verandert

Traditionele ransomware gijzelt data. Het vernietigen van AI-modelartefacten is een andere vorm van afpersing. Getrainde modellen vertegenwoordigen vaak maanden aan rekentijd, samengestelde trainingsdata en fijn afgestemd werk dat niet zomaar kan worden hersteld vanuit een routineback-up, tenzij die back-up specifiek is ontworpen met modelherstel in gedachten. Voor bedrijven die klantgerichte AI-tools, interne automatisering of gegevensverwerkingspijplijnen rond deze modellen hebben gebouwd, kan het volledig verliezen ervan ontwrichtender zijn dan het verlies van een enkele database, omdat het herbouwen van een model vanaf nul tijd kost die een operationeel bedrijf vaak niet heeft.

Er is ook een privacy-aspect dat het vermelden waard is. Veel AI-modellen die door bedrijven worden gebruikt, zijn getraind of fijn afgestemd op datasets die klantinformatie bevatten, of het nu gaat om ondersteuningstranscripties, gedragsgegevens of persoonlijke gegevens die worden gebruikt om een dienst te personaliseren. Wanneer ransomware-operators de infrastructuur rond deze modellen aanvallen, ofwel door de omliggende databases te versleutelen of nu door de modellen zelf te vernietigen, lopen de persoonlijke gegevens die door die infrastructuur stromen het risico op zowel blootstelling als verlies. Consumenten hebben zelden inzicht in welke leveranciers AI-systemen op hun informatie draaien, wat dit soort aanvallen moeilijker van buitenaf te detecteren maakt en moeilijker om je als individu op voor te bereiden.

Onderdeel van een breder patroon in autonome aanvallen

De terugkeer van JadePuffer met ENCFORGE past in een trend die beveiligingsonderzoekers dit jaar nauwlettend volgen. Onafhankelijke bevindingen rond de eerste volledig autonome AI-ransomwareaanval toonden aan dat een AI-agent kon scannen op kwetsbaarheden, toegang kon verkrijgen en een afpersingspoging kon uitvoeren zonder dat een menselijke operator elke stap in realtime aanstuurde. Dat precedent is hier relevant omdat het suggereert dat JadePuffer geen eenmalig experiment is. Het is een operator die zijn eigen tools heeft geïtereerd, van databaseversleuteling naar een locker die specifiek is ontworpen tegen AI-infrastructuur. Naarmate meer organisaties AI-platforms zoals Langflow en vergelijkbare orkestratietools omarmen, groeit het aanvalsoppervlak voor dit soort campagnes alleen maar, een thema dat aan bod komt in recente beveiligingssamenvattingen die ransomware en AI-gestuurde aanvallen bijhouden naast andere opkomende bedreigingen.

Wat dit voor jou betekent

De meeste lezers zullen zelf geen AI-modelimplementatie beheren, maar de rimpeleffecten reiken verder dan IT-afdelingen. Als een bedrijf waar je mee te maken hebt, of het nu een retailer, een zorgverlener of een financiële dienstverlener is, AI-systemen gebruikt die worden getroffen door een dergelijke aanval, kan de nasleep bestaan uit service-uitval, vertraagde ondersteuning of, in ergere gevallen, blootstelling van de gegevens waarop die modellen zijn getraind of gebruikt. Ransomware gericht op AI-infrastructuur is op dit moment nog een business-to-business-probleem, maar de consumentengegevens die zich in die infrastructuur bevinden, geven deze aanvallen hun hefboomwerking.

Voor organisaties die AI-systemen bouwen of beheren, is dit een duidelijk signaal dat modelartefacten dezelfde back-updiscipline, toegangscontroles en monitoring nodig hebben als elk ander kritiek bedrijfsmiddel. De aanname dat een getraind model wegwerpbaar of gemakkelijk vervangbaar is, is niet langer veilig.

Concrete maatregelen

  • Zorg ervoor, als je AI-infrastructuur beheert, dat modelgewichten en trainingsartefacten afzonderlijk van productiesystemen worden geback-upt, met offline of onveranderlijke kopieën.
  • Controleer de toegangscontroles op AI-orkestratieplatforms; agent-gebaseerde ransomwarecampagnes hebben misbruik gemaakt van blootgestelde of verkeerd geconfigureerde tools om voet aan de grond te krijgen.
  • Vraag als consument aan dienstverleners hoe zij de AI-systemen beschermen die jouw gegevens verwerken, met name bij diensten die gevoelige persoonlijke of financiële informatie verwerken.
  • Blijf alert op serviceonderbrekingen of datalekmeldingen van bedrijven die je gebruikt; ransomware die zich richt op AI-backends kan het herstel langer vertragen dan een gewone storing.

De evolutie van JadePuffer van database-afpersing naar vernietiging van AI-modellen is een herinnering dat ransomware-operators zich snel aanpassen aan waar waarde en hefboomwerking geconcentreerd zijn. Naarmate AI-systemen kerninfrastructuur worden voor meer bedrijven, zal het beschermen ervan een kernonderdeel moeten worden van ieders beveiligingshouding, en niet een bijzaak.