Hackerii ruși au folosit Claude AI pentru a reconstrui malware detectat

Grupul sponsorizat de statul rus a transformat Claude într-un instrument de dezvoltare de malware

Anthropic a dejucat o operațiune sponsorizată de statul rus, urmărită intern sub numele GTG-20006, care a folosit modelul său Claude AI ca parte a unei conducte active de dezvoltare a malware-ului. Potrivit Anthropic, grupul nu a cerut pur și simplu Claude să scrie cod o dată și apoi să plece. În schimb, a folosit modelul într-o buclă continuă: generează malware, testează-l împotriva produselor de securitate, iar când malware-ul a fost semnalat, alimentează detecția înapoi în Claude pentru a produce o versiune reconstruită, concepută să treacă de aceleași apărări.

Rapoartele legate de campanie leagă actorul de Midnight Blizzard, un grup de amenințare asociat cu interesele statului rus, care are o istorie îndelungată de operațiuni axate pe spionaj. Activitatea ar fi vizat organizații ucrainene și europene, în concordanță cu concentrarea tipică a grupului pe colectarea de informații, mai degrabă decât pe criminalitatea cibernetică motivată financiar. Anthropic afirmă că a identificat și a închis conturile asociate cu operațiunea odată ce abuzul a fost detectat.

Cum a funcționat fluxul de lucru al malware-ului asistat de AI

Ceea ce face acest caz notabil nu este faptul că hackerii au folosit un chatbot AI. Este fluxul de lucru în sine. În mod tradițional, autorii de malware își adaptează codul manual după ce furnizorii de antivirus sau instrumentele de detectare la punctul final semnalează un eșantion. Acest proces necesită timp, competență și iterare. Prin inserarea lui Claude în această buclă, GTG-20006 pare să fi comprimat ciclul: în loc ca un dezvoltator uman să reelaboreze codul semnalat linie cu linie, modelul AI a devenit un instrument rapid, la cerere, pentru generarea de variante care ar putea evita semnăturile de detecție.

Aceasta reflectă un tipar mai amplu despre care cercetătorii în securitate au avertizat: asistenții de programare AI sunt puternici pentru că reduc bariera tehnică de a scrie cod funcțional rapid, iar aceeași eficiență se aplică indiferent dacă scopul final este o aplicație legitimă sau o bucată de malware. Dezvăluirea Anthropic sugerează că sistemele proprii de monitorizare ale companiei au reușit să detecteze utilizarea abuzivă și să acționeze în consecință, ceea ce este un semnal semnificativ că furnizorii de AI urmăresc activ acest tip de comportament, în loc să îl trateze ca pe un risc ipotetic.

De asemenea, aceasta apare alături de alte descoperiri recente despre vulnerabilitățile din ecosistemele asistenților AI. Cercetătorii de la Zenity au dezvăluit recent vulnerabilități zero-click în Claude și ChatGPT Atlas care ar putea permite atacatorilor să deturneze instrumentele de browser AI fără nicio interacțiune din partea utilizatorului. Luate împreună, aceste relatări indică spre aceeași temă subiacentă: pe măsură ce instrumentele AI devin încorporate în fluxurile de lucru cotidiene, atât instrumentele în sine, cât și modul în care actorii de amenințare le folosesc devin suprafețe de atac care merită examinate atent.

De ce contează acest lucru dincolo de titlu

Merită să fim preciși cu privire la ce s-a întâmplat și ce nu s-a întâmplat aici. Claude nu a fost „spart" pentru a ajuta în secret atacatorii și nu există nicio indicație că utilizatorii obișnuiți ai Claude au fost expuși la malware prin intermediul aplicației în sine. Acesta a fost un caz în care un grup sofisticat, legat de stat, a folosit un produs AI legitim ca instrument de dezvoltare, la fel cum ar putea folosi orice software de programare, și l-a abuzat pentru generarea de cod rău intenționat. Răspunsul Anthropic, detectarea tiparului și întreruperea accesului, este genul de acțiune de aplicare care contează pentru a împiedica platformele AI să devină truse implicite pentru operațiuni cibernetice ofensive.

Cu toate acestea, incidentul este o reamintire că dezvoltarea de malware asistată de AI nu mai este teoretică. Actorii sponsorizați de stat experimentează cu aceste instrumente pentru a-și accelera operațiunile, iar apărătorii vor trebui să țină cont de malware care poate fi regenerat și modificat mai rapid decât înainte. Pentru organizațiile din Ucraina și Europa, care par să fi fost focarul acestei campanii particulare, acest lucru întărește, de asemenea, că grupurile conduse de spionaj continuă să prioritizeze colectarea de informații în detrimentul câștigului financiar rapid.

Ce înseamnă acest lucru pentru dumneavoastră

Pentru majoritatea utilizatorilor individuali, această campanie specifică nu reprezintă o amenințare nouă directă. GTG-20006 s-a concentrat, conform rapoartelor, pe spionaj țintit împotriva organizațiilor, nu pe atacuri în masă asupra consumatorilor. Dar tendința mai amplă, instrumentele AI care accelerează dezvoltarea și evaziunea malware-ului, are efecte în aval asupra tuturor. Iterarea mai rapidă a malware-ului înseamnă că furnizorii de securitate și instrumentele antivirus pot avea nevoie să actualizeze semnăturile de detecție mai frecvent, și crește valoarea instrumentelor de securitate bazate pe comportament față de cele care se bazează pur și simplu pe semnături de malware cunoscute.

Este, de asemenea, un moment bun pentru a revizui igiena de bază în materie de securitate, deoarece malware-ul asistat de AI se bazează în continuare pe aceleași metode de livrare: e-mailuri de phishing, atașamente malițioase și software compromis. Niciun instrument AI nu schimbă modul în care malware-ul ajunge pe un dispozitiv în primul rând.

Concluzii cheie

• Mențineți sistemele de operare, browserele și software-ul de securitate actualizate, astfel încât instrumentele de detecție să poată prinde rapid variantele mai noi de malware.
• Fiți sceptici față de atașamentele sau linkurile nesolicitate, chiar și de la expeditori aparent familiari, deoarece metodele de livrare rămân neschimbate.
• Organizațiile, în special cele din sectoarele care probabil vor fi vizate de actori sponsorizați de stat, ar trebui să prioritizeze detectarea bazată pe comportament în detrimentul instrumentelor bazate doar pe semnături.
• Urmăriți modul în care furnizorii majori de AI răspund la rapoartele de utilizare abuzivă. Dejucarea de către Anthropic a GTG-20006 arată că aplicarea la nivel de platformă este o parte activă a ecuației de securitate, nu doar o idee ulterioară.

Pe măsură ce instrumentele de programare AI devin mai capabile, incidente ca acesta vor deveni probabil mai frecvente, nu mai rare. A rămâne informat despre modul în care aceste instrumente sunt atât apărate, cât și abuzate este una dintre cele mai simple modalități prin care utilizatorii și organizațiile pot rămâne cu un pas înainte.