Russisk statsstøttet gruppe gjorde Claude til et verktøy for skadevareutvikling

Anthropic har stanset en russisk statsstøttet operasjon, internt sporet som GTG-20006, som brukte Claude AI-modellen som en del av en aktiv pipeline for skadevareutvikling. Ifølge Anthropic ba gruppen ikke bare Claude om å skrive kode én gang og deretter gå videre. I stedet brukte den modellen i en kontinuerlig sløyfe: generer skadevare, test den mot sikkerhetsprodukter, og når skadevaren ble flagget, mate deteksjonen tilbake inn i Claude for å produsere en gjenoppbygd versjon designet for å slipped forbi de samme forsvarsverkene.

Rapporter knyttet til kampanjen kobler aktøren til Midnight Blizzard, en trusselgruppe assosiert med russiske statsinteresser som har en lang historie med etterretningsfokuserte operasjoner. Aktiviteten skal ha rettet seg mot ukrainske og europeiske organisasjoner, i tråd med gruppens typiske fokus på etterretningsinnhenting snarere enn økonomisk motivert cyberkriminalitet. Anthropic sier de identifiserte og stengte kontoene knyttet til operasjonen så snart misbruket ble oppdaget.

Hvordan den AI-assisterte skadevarearbeidsflyten fungerte

Det som gjør denne saken bemerkelsesverdig, er ikke at hackere brukte en AI-chatbot. Det er selve arbeidsflyten. Tradisjonelt tilpasser skadevareforfattere koden sin manuelt etter at antivirusleverandører eller verktøy for endepunktsdeteksjon har flagget en prøve. Den prosessen tar tid, krever kompetanse og iterasjon. Ved å sette inn Claude i den sløyfen, ser GTG-20006 ut til å ha komprimert syklusen: i stedet for at en menneskelig utvikler omarbeider flagget kode linje for linje, ble AI-modellen et raskt verktøy på forespørsel for å generere varianter som kunne unngå deteksjonssignaturer.

Dette gjenspeiler et bredere mønster som sikkerhetsforskere har advart om: AI-kodeassistenter er kraftfulle fordi de senker den tekniske terskelen for å skrive funksjonell kode raskt, og den samme effektiviteten gjelder enten sluttmålet er en legitim app eller et stykke skadevare. Anthropics avsløring antyder at selskapets egne overvåkingssystemer klarte å fange opp misbruket og handle på det, noe som er et betydningsfullt signal om at AI-leverandører aktivt følger med på denne typen atferd i stedet for å behandle det som en hypotetisk risiko.

Det faller også sammen med andre nylige funn om svakheter i AI-assistentøkosystemer. Forskere hos Zenity avslørte nylig nullklikks-sårbarheter i Claude og ChatGPT Atlas som kan la angripere kapre AI-nettleserverktøy uten noen som helst brukerinteraksjon. Samlet peker disse sakene på det samme underliggende temaet: etter hvert som AI-verktøy blir innebygd i daglige arbeidsflyter, blir både verktøyene selv og måten trusselaktører bruker dem på, angrepsflater som fortjener gransking.

Hvorfor dette betyr noe utover overskriften

Det er verdt å være presis om hva som skjedde og ikke skjedde her. Claude ble ikke «hacket» til i hemmelighet å hjelpe angripere, og det er ingen indikasjon på at vanlige brukere av Claude ble utsatt for skadevare gjennom selve appen. Dette var et tilfelle der en sofistikert, statslenket gruppe brukte et legitimt AI-produkt som et utviklingsverktøy, på samme måte som den kunne brukt enhver programvare for koding, og misbrukte det til ondsinnet kodegenerering. Anthropics respons, å oppdage mønsteret og kutte tilgangen, er den typen håndhevelsestiltak som er viktige for å hindre at AI-plattformer blir standardverktøykasser for offensive cyberoperasjoner.

Likevel er hendelsen en påminnelse om at AI-assistert skadevareutvikling ikke lenger er teoretisk. Statsstøttede aktører eksperimenterer med disse verktøyene for å fremskynde operasjonene sine, og forsvarere vil måtte ta høyde for skadevare som kan regenereres og modifiseres raskere enn før. For organisasjoner i Ukraina og Europa, som ser ut til å ha vært fokuset for denne spesifikke kampanjen, forsterker det også at etterretningsdrevne grupper fortsetter å prioritere innhenting av informasjon fremfor rask økonomisk gevinst.

Hva dette betyr for deg

For de fleste enkeltbrukere utgjør denne spesifikke kampanjen ikke en direkte ny trussel. GTG-20006 skal ha fokusert på målrettet etterretningsvirksomhet mot organisasjoner, ikke masseangrep mot forbrukere. Men den bredere trenden, AI-verktøy som akselererer skadevareutvikling og unndragelse, har ringvirkninger for alle. Raskere skadevareiterasjon betyr at sikkerhetsleverandører og antivirusverktøy kanskje må oppdatere deteksjonssignaturer oftere, og det øker verdien av atferdsbaserte sikkerhetsverktøy fremfor verktøy som utelukkende er avhengige av kjente skadevaresignaturer.

Det er også et godt øyeblikk til å gjennomgå grunnleggende sikkerhetsrutiner, siden AI-assistert skadevare fortsatt er avhengig av de samme leveringsmetodene: phishing-e-poster, ondsinnede vedlegg og kompromittert programvare. Ingen AI-verktøy endrer hvordan skadevare først kommer inn på en enhet.

Viktige punkter

  • Hold operativsystemer, nettlesere og sikkerhetsprogramvare oppdatert slik at deteksjonsverktøy raskt kan fange opp nyere skadevarevarianter.
  • Vær skeptisk til uoppfordrede vedlegg eller lenker, selv fra tilsynelatende kjente avsendere, siden leveringsmetodene forblir uendret.
  • Organisasjoner, spesielt de i sektorer som sannsynligvis er mål for statsstøttede aktører, bør prioritere atferdsbasert deteksjon fremfor verktøy som kun bruker signaturer.
  • Følg med på hvordan store AI-leverandører responderer på rapporter om misbruk. Anthropics stansing av GTG-20006 viser at håndhevelse på plattformnivå er en aktiv del av sikkerhetsligningen, ikke bare en ettertanke.

Etter hvert som AI-kodeverktøy blir mer kapable, vil hendelser som dette sannsynligvis bli vanligere snarere enn sjeldnere. Å holde seg informert om hvordan disse verktøyene både forsvares og misbrukes, er en av de enkleste måtene brukere og organisasjoner kan holde seg et skritt foran.