Door de Russische staat gesteunde groep maakte van Claude een malware-ontwikkelingstool

Anthropic heeft een door de Russische staat gesteunde operatie, intern getraceerd als GTG-20006, verstoord. Deze operatie gebruikte het Claude AI-model als onderdeel van een actieve malware-ontwikkelingspijplijn. Volgens Anthropic vroeg de groep Claude niet slechts één keer om code te schrijven en vertrok vervolgens. In plaats daarvan gebruikte men het model in een doorlopende cyclus: malware genereren, deze testen tegen beveiligingsproducten, en wanneer de malware werd gemarkeerd, de detectie terugvoeren naar Claude om een herbouwde versie te produceren die ontworpen was om dezelfde verdedigingen te omzeilen.

Rapporten die aan de campagne zijn gekoppeld, verbinden de actor aan Midnight Blizzard, een dreigingsgroep die geassocieerd wordt met Russische staatsbelangen en een lange geschiedenis heeft van op spionage gerichte operaties. De activiteit was naar verluidt gericht op Oekraïense en Europese organisaties, in lijn met de typische focus van de groep op inlichtingenverzameling rather dan financieel gemotiveerde cybercriminaliteit. Anthropic zegt dat het de accounts die aan de operatie waren gekoppeld, heeft geïdentificeerd en afgesloten zodra het misbruik werd gedetecteerd.

Hoe de AI-ondersteunde malware-workflow werkte

Wat deze zaak opmerkelijk maakt, is niet dat hackers een AI-chatbot gebruikten. Het is de workflow zelf. Traditioneel passen malware-auteurs hun code handmatig aan nadat antivirusleveranciers of endpoint-detectietools een sample hebben gemarkeerd. Dat proces kost tijd, vaardigheid en iteratie. Door Claude in die cyclus in te voegen, lijkt GTG-20006 het proces te hebben versneld: in plaats van een menselijke ontwikkelaar die gemarkeerde code regel voor regel herwerkt, werd het AI-model een snel, on-demand hulpmiddel voor het genereren van varianten die detectiesignaturen konden ontwijken.

Dit weerspiegelt een breder patroon waarvoor beveiligingsonderzoekers al waarschuwen: AI-codeassistenten zijn krachtig omdat ze de technische drempel verlagen om snel functionele code te schrijven, en diezelfde efficiëntie geldt of het einddoel nu een legitieme app of een stuk malware is. De openbaarmaking van Anthropic suggereert dat de eigen monitorsystemen van het bedrijf het misbruik konden opvangen en erop konden reageren, wat een betekenisvol signaal is dat AI-aanbieders actief op dit soort gedrag letten in plaats van het als een hypothetisch risico te behandelen.

Het valt ook samen met andere recente bevindingen over zwakke plekken in ecosystemen van AI-assistenten. Onderzoekers bij Zenity onthulden onlangs zero-click kwetsbaarheden in Claude en ChatGPT Atlas waarmee aanvallers AI-browsertools konden kapen zonder enige interactie van de gebruiker. Samen wijzen deze verhalen op hetzelfde onderliggende thema: naarmate AI-tools ingebed raken in alledaagse workflows, worden zowel de tools zelf als de manier waarop dreigingsactoren ze gebruiken aanvalsoppervlakken die het onderzoeken waard zijn.

Waarom dit verder reikt dan de kop

Het is de moeite waard precies te zijn over wat hier wel en niet is gebeurd. Claude werd niet "gehackt" om stiekem aanvallers te helpen, en er is geen aanwijzing dat alledaagse gebruikers van Claude via de app zelf aan malware werden blootgesteld. Dit was een geval van een geavanceerde, aan de staat gelinkte groep die een legitiem AI-product als ontwikkelingstool gebruikte, op dezelfde manier waarop men software voor het schrijven van code zou gebruiken, en het misbruikte voor het genereren van kwaadaardige code. De reactie van Anthropic, het detecteren van het patroon en het afsnijden van toegang, is het soort handhavingsactie dat ertoe doet om te voorkomen dat AI-platforms standaardtoolsets voor offensieve cyberoperaties worden.

Toch herinnert het incident eraan dat AI-ondersteunde malwareontwikkeling niet langer theoretisch is. Door de staat gesteunde actoren experimenteren met deze tools om hun operaties te versnellen, en verdedigers zullen rekening moeten houden met malware die sneller dan voorheen kan worden opnieuw gegenereerd en aangepast. Voor organisaties in Oekraïne en Europa, die blijkbaar de focus van deze specifieke campagne waren, versterkt het ook dat door spionage gedreven groepen inlichtingenverzameling blijven verkiezen boven snel financieel gewin.

Wat dit voor jou betekent

Voor de meeste individuele gebruikers vormt deze specifieke campagne geen directe nieuwe dreiging. GTG-20006 was naar verluidt gericht op gerichte spionage tegen organisaties, niet op massa-aanvallen op consumenten. Maar de bredere trend, AI-tools die malwareontwikkeling en -ontwijking versnellen, heeft gevolgen voor iedereen. Snellere malware-iteratie betekent dat beveiligingsleveranciers en antivirustools mogelijk vaker detectiesignaturen moeten bijwerken, en het verhoogt de waarde van op gedrag gebaseerde beveiligingstools boven tools die puur op bekende malwaresignaturen vertrouwen.

Het is ook een goed moment om de basisprincipes van beveiligingshygiëne opnieuw door te nemen, aangezien AI-ondersteunde malware nog steeds afhankelijk is van dezelfde afleveringsmethoden: phishing-e-mails, kwaadaardige bijlagen en gecompromitteerde software. Geen enkele AI-tool verandert hoe malware in de eerste plaats op een apparaat terechtkomt.

Belangrijkste punten

  • Houd besturingssystemen, browsers en beveiligingssoftware bijgewerkt, zodat detectietools nieuwere malwarevarianten snel kunnen opvangen.
  • Wees sceptisch over ongevraagde bijlagen of links, zelfs van ogenschijnlijk bekende afzenders, aangezien de afleveringsmethoden ongewijzigd blijven.
  • Organisaties, vooral in sectoren die waarschijnlijk doelwit zijn van door de staat gesteunde actoren, moeten prioriteit geven aan op gedrag gebaseerde detectie boven tools die alleen op signaturen vertrouwen.
  • Volg hoe grote AI-aanbieders reageren op meldingen van misbruik. De verstoring van GTG-20006 door Anthropic toont aan dat handhaving op platformniveau een actief onderdeel van de beveiligingsvergelijking is, niet slechts een bijzaak.

Naarmate AI-codeertools capabeler worden, zullen incidenten zoals dit waarschijnlijk eerder vaker dan minder vaak voorkomen. Op de hoogte blijven van hoe deze tools zowel worden verdedigd als misbruikt, is een van de eenvoudigste manieren waarop gebruikers en organisaties een stap voor kunnen blijven.