Grupa koju sponzorira ruska država pretvorila je Claude u alat za razvoj zlonamjernog softvera

Anthropic je prekinuo operaciju koju sponzorira ruska država, interno praćenu kao GTG-20006, koja je koristila njihov Claude AI model kao dio aktivnog procesa razvoja zlonamjernog softvera. Prema Anthropicu, grupa nije samo jednom zamolila Claude da napiše kod i otišla. Umjesto toga, koristila je model u kontinuiranoj petlji: generiraj zlonamjerni softver, testiraj ga protiv sigurnosnih proizvoda, a kada bi zlonamjerni softver bio označen, vrati detekciju natrag u Claude kako bi se proizvela obnovljena verzija osmišljena da izbjegne iste obrane.

Izvješća povezana s kampanjom povezuju aktera s Midnight Blizzard, grupom prijetnji povezanom s ruskim državnim interesima koja ima dugu povijest operacija usmjerenih na špijunažu. Aktivnost je navodno ciljala ukrajinske i europske organizacije, što je u skladu s tipičnim fokusom grupe na prikupljanje obavještajnih podataka, a ne na kibernetički kriminal motiviran financijski. Anthropic tvrdi da je identificirao i ugasio račune povezane s operacijom nakon što je zloupotreba otkrivena.

Kako je funkcionirao AI-potpomognuti tijek rada zlonamjernog softvera

Ono što ovaj slučaj čini značajnim nije to što su hakeri koristili AI chatbot. To je sam tijek rada. Tradicionalno, autori zlonamjernog softvera prilagođavaju svoj kod ručno nakon što proizvođači antivirusnog softvera ili alati za otkrivanje na krajnjim točkama označe uzorak. Taj proces zahtijeva vrijeme, vještinu i iteraciju. Ubacivanjem Claudea u tu petlju, GTG-20006 je očito skratio ciklus: umjesto da ljudski programer iznova obrađuje označeni kod liniju po liniju, AI model postao je brz alat na zahtjev za generiranje varijanti koje bi mogle izbjeći signature detekcije.

To odražava širi obrazac o kojem sigurnosni istraživači upozoravaju: AI asistenti za kodiranje snažni su jer snižavaju tehničku barijeru za brzo pisanje funkcionalnog koda, a ta ista učinkovitost primjenjuje se bez obzira je li krajnji cilj legitimna aplikacija ili dio zlonamjernog softvera. Anthropicova objava sugerira da su vlastiti nadzorni sustavi tvrtke uspjeli uhvatiti zloupotrebu i djelovati na nju, što je značajan signal da AI pružatelji aktivno paze na ovakvo ponašanje umjesto da ga tretiraju kao hipotetski rizik.

Također se pojavljuje uz druge nedavne nalaze o slabostima u ekosustavima AI asistenata. Istraživači u Zenityju nedavno su objavili zero-click ranjivosti u Claudeu i ChatGPT Atlasu koje bi mogle omogućiti napadačima da preuzmu AI alate preglednika bez ikakve interakcije korisnika. Uzeti zajedno, ove priče upućuju na istu temeljnu temu: kako se AI alati ugrađuju u svakodnevne tijekove rada, i sami alati i način na koji ih akteri prijetnji koriste postaju napadne površine vrijedne pažljivog ispitivanja.

Zašto je to važno izvan naslova

Vrijedi biti precizan o tome što se ovdje dogodilo, a što nije. Claude nije bio "hakiran" da potajno pomaže napadačima i nema naznaka da su svakodnevni korisnici Claudea bili izloženi zlonamjernom softveru putem same aplikacije. Ovo je bio slučaj sofisticirane grupe povezane s državom koja je koristila legitiman AI proizvod kao alat za razvoj, na isti način na koji bi koristila bilo koji softver za kodiranje, i zloupotrijebila ga za generiranje zlonamjernog koda. Anthropicov odgovor, otkrivanje obrasca i prekid pristupa, jest vrsta provedbene radnje koja je važna kako bi se AI platforme spriječile da postanu zadani alati za ofenzivne cyber operacije.

Ipak, incident je podsjetnik da AI-potpomognuti razvoj zlonamjernog softvera više nije teoretski. Akteri koje sponzorira država eksperimentiraju s tim alatima kako bi ubrzali svoje operacije, a branitelji će morati uzeti u obzir zlonamjerni softver koji se može regenerirati i modificirati brže nego prije. Za organizacije u Ukrajini i Europi, koje su očito bile fokus ove konkretne kampanje, to također učvršćuje da grupe vođene špijunažom i dalje daju prednost prikupljanju obavještajnih podataka nad brzom financijskom dobiti.

Što to znači za vas

Za većinu pojedinačnih korisnika, ova konkretna kampanja ne predstavlja izravnu novu prijetnju. GTG-20006 je navodno bio usmjeren na ciljanu špijunažu protiv organizacija, a ne na masovne napade na potrošače. No širi trend, AI alati koji ubrzavaju razvoj i izbjegavanje zlonamjernog softvera, ima posljedične učinke na sve. Brža iteracija zlonamjernog softvera znači da će sigurnosni proizvođači i antivirusni alati možda morati češće ažurirati signature detekcije, a to povećava vrijednost sigurnosnih alata temeljenih na ponašanju u odnosu na one koji se oslanjaju isključivo na poznate signature zlonamjernog softvera.

Ovo je također dobar trenutak za ponovni pregled osnovne sigurnosne higijene, budući da se AI-potpomognuti zlonamjerni softver još uvijek oslanja na iste metode dostave: phishing e-poruke, zlonamjerne privitke i kompromitirani softver. Nijedan AI alat ne mijenja način na koji zlonamjerni softver uopće dospijeva na uređaj.

Ključne poruke

  • Održavajte operativne sustave, preglednike i sigurnosni softver ažurnima kako bi alati za detekciju mogli brzo uhvatiti novije varijante zlonamjernog softvera.
  • Budite skeptični prema neželjenim privitcima ili poveznicama, čak i od naizgled poznatih pošiljatelja, jer metode dostave ostaju nepromijenjene.
  • Organizacije, posebno one u sektorima koje vjerojatno ciljaju akteri koje sponzorira država, trebale bi dati prednost detekciji temeljenoj na ponašanju nad alatima koji se oslanjaju samo na signature.
  • Pratite kako glavni AI pružatelji reagiraju na prijave zloupotrebe. Anthropicovo prekidanje GTG-20006 pokazuje da je provedba na razini platforme aktivan dio sigurnosne jednadžbe, a ne samo naknadna misao.

Kako AI alati za kodiranje postaju sve sposobniji, incidenti poput ovog vjerojatno će postajati sve češći, a ne rjeđi. Ostati informiran o tome kako se ti alati i brane i zloupotrebljavaju jedan je od najjednostavnijih načina na koje korisnici i organizacije mogu ostati korak ispred.