Russisk statsstøttet gruppe gjorde Claude til et værktøj til malwareudvikling

Anthropic har standset en russisk statsstøttet operation, internt sporet som GTG-20006, der brugte sin Claude AI-model som en del af en aktiv pipeline til malwareudvikling. Ifølge Anthropic bad gruppen ikke bare Claude om at skrive kode én gang og derefter forlade det. I stedet brugte den modellen i en løbende cyklus: generér malware, test den mod sikkerhedsprodukter, og når malwaren blev flagget, før detektionen tilbage til Claude for at producere en genopbygget version designet til at smutte forbi de samme forsvar.

Rapporter knyttet til kampagnen forbinder aktøren med Midnight Blizzard, en trusselsgruppe med tilknytning til russiske statsinteresser, som har en lang historie med efterretningsfokuserede operationer. Aktiviteten siges at have været rettet mod ukrainske og europæiske organisationer, hvilket er i tråd med gruppens typiske fokus på efterretningsindhentning frem for økonomisk motiveret cyberkriminalitet. Anthropic siger, at de identificerede og lukkede de konti, der var forbundet med operationen, så snart misbruget blev opdaget.

Sådan fungerede den AI-assisterede malware-arbejdsgang

Det, der gør denne sag bemærkelsesværdig, er ikke, at hackere brugte en AI-chatbot. Det er selve arbejdsgangen. Traditionelt tilpasser malwareforfattere deres kode manuelt, efter at antivirusproducenter eller værktøjer til endpoint-detektion har flagget en prøve. Den proces tager tid, kræver færdigheder og gentagelser. Ved at indsætte Claude i den cyklus ser GTG-20006 ud til at have komprimeret forløbet: i stedet for at en menneskelig udvikler omarbejder flagget kode linje for linje, blev AI-modellen et hurtigt værktøj på demand til at generere varianter, der kunne undgå detektionssignaturer.

Dette afspejler et bredere mønster, som sikkerhedsforskere har advaret om: AI-kodeassistenter er kraftfulde, fordi de sænker den tekniske barriere for hurtigt at skrive funktionel kode, og den samme effektivitet gælder, uanset om slutmålet er en legitim app eller et stykke malware. Anthropics offentliggørelse tyder på, at virksomhedens egne overvågningssystemer var i stand til at fange misbruget og handle på det, hvilket er et betydningsfuldt signal om, at AI-udbydere aktivt holder øje med denne form for adfærd i stedet for at behandle det som en hypotetisk risiko.

Det falder også sammen med andre nylige fund om svagheder i AI-assistenters økosystemer. Forskere hos Zenity offentliggjorde for nylig zero-click-sårbarheder i Claude og ChatGPT Atlas, som kunne lade angribere kapre AI-browserværktøjer helt uden nogen brugerinteraktion. Samlet peger disse historier på det samme underliggende tema: efterhånden som AI-værktøjer bliver indlejret i daglige arbejdsgange, bliver både værktøjerne selv og den måde, trusselaktører bruger dem på, angrebsflader, der er værd at granske.

Hvorfor dette betyder noget ud over overskriften

Det er værd at være præcis omkring, hvad der skete, og hvad der ikke skete her. Claude blev ikke "hacket" til i hemmelighed at hjælpe angribere, og der er intet, der tyder på, at almindelige brugere af Claude blev udsat for malware gennem selve appen. Dette var et tilfælde, hvor en sofistikeret, statsligt forbundet gruppe brugte et legitimt AI-produkt som udviklingsværktøj, på samme måde som den kunne bruge enhver kodesoftware, og misbrugte det til ondsindet kodegenerering. Anthropics respons, at opdage mønsteret og afskære adgangen, er den form for håndhævelse, der betyder noget for at forhindre, at AI-platforme bliver standardværktøjskasser til offensive cyberoperationer.

Ikke desto mindre er hændelsen en påmindelse om, at AI-assisteret malwareudvikling ikke længere er teoretisk. Statsstøttede aktører eksperimenterer med disse værktøjer for at fremskynde deres operationer, og forsvarere bliver nødt til at tage højde for malware, der kan regenereres og modificeres hurtigere end før. For organisationer i Ukraine og Europa, som ser ud til at have været fokus for denne særlige kampagne, understreger det også, at efterretningsdrevne grupper fortsat prioriterer indsamling af information over hurtig økonomisk gevinst.

Hvad dette betyder for dig

For de fleste individuelle brugere udgør denne specifikke kampagne ikke en direkte ny trussel. GTG-20006 var efter sigende fokuseret på målrettet spionage mod organisationer, ikke masseangreb på forbrugere. Men den bredere tendens, hvor AI-værktøjer accelererer malwareudvikling og undvigelse, har afledte effekter for alle. Hurtigere malware-iteration betyder, at sikkerhedsproducenter og antivirusværktøjer muligvis skal opdatere detektionssignaturer oftere, og det øger værdien af adfærdsbaserede sikkerhedsværktøjer frem for dem, der udelukkende er afhængige af kendte malwaresignaturer.

Det er også et godt tidspunkt at gennemgå grundlæggende sikkerhedshygiejne, da AI-assisteret malware stadig er afhængig af de samme leveringsmetoder: phishing-e-mails, ondsindede vedhæftede filer og kompromitteret software. Intet AI-værktøj ændrer på, hvordan malware først kommer ind på en enhed.

Vigtige pointer

  • Hold operativsystemer, browsere og sikkerhedssoftware opdateret, så detektionsværktøjer hurtigt kan fange nyere malwarevarianter.
  • Vær skeptisk over for uopfordrede vedhæftede filer eller links, selv fra tilsyneladende velkendte afsendere, da leveringsmetoderne forbliver uændrede.
  • Organisationer, især i sektorer der sandsynligvis er mål for statsstøttede aktører, bør prioritere adfærdsbaseret detektion frem for værktøjer, der kun bruger signaturer.
  • Følg med i, hvordan store AI-udbydere reagerer på rapporter om misbrug. Anthropics standsning af GTG-20006 viser, at håndhævelse på platformniveau er en aktiv del af sikkerhedsligningen, ikke bare en eftertanke.

Efterhånden som AI-kodeværktøjer bliver mere kapable, vil hændelser som denne sandsynligvis blive mere almindelige snarere end mindre. At holde sig informeret om, hvordan disse værktøjer både forsvares og misbruges, er en af de enkleste måder, hvorpå brugere og organisationer kan holde sig et skridt foran.