Un gruppo sponsorizzato dallo Stato russo ha trasformato Claude in uno strumento per lo sviluppo di malware

Anthropic ha interrotto un'operazione sponsorizzata dallo Stato russo, tracciata internamente come GTG-20006, che ha utilizzato il suo modello Claude AI come parte di una pipeline attiva di sviluppo di malware. Secondo Anthropic, il gruppo non si è limitato a chiedere a Claude di scrivere codice una volta sola per poi andarsene. Al contrario, ha utilizzato il modello in un ciclo continuo: generare malware, testarlo contro i prodotti di sicurezza e, quando il malware veniva segnalato, reinserire il rilevamento in Claude per produrre una versione ricostruita progettata per aggirare le stesse difese.

I rapporti collegati alla campagna collegano l'attore a Midnight Blizzard, un gruppo di minaccia associato agli interessi statali russi che ha una lunga storia di operazioni incentrate sullo spionaggio. L'attività avrebbe preso di mira organizzazioni ucraine ed europee, coerentemente con la tipica attenzione del gruppo alla raccolta di informazioni piuttosto che alla criminalità informatica motivata da fini finanziari. Anthropic afferma di aver identificato e chiuso gli account associati all'operazione una volta rilevato l'abuso.

Come funzionava il flusso di lavoro del malware assistito dall'AI

Ciò che rende questo caso degno di nota non è il fatto che gli hacker abbiano usato un chatbot AI. È il flusso di lavoro stesso. Tradizionalmente, gli autori di malware adattano il proprio codice manualmente dopo che i fornitori di antivirus o gli strumenti di rilevamento endpoint segnalano un campione. Quel processo richiede tempo, competenza e iterazioni. Inserendo Claude in quel ciclo, GTG-20006 sembra aver compresso il ciclo: invece di uno sviluppatore umano che rielabora riga per riga il codice segnalato, il modello AI è diventato uno strumento rapido e su richiesta per generare varianti in grado di eludere le firme di rilevamento.

Questo rispecchia uno schema più ampio che i ricercatori di sicurezza hanno messo in guardia: gli assistenti di programmazione AI sono potenti perché abbassano la barriera tecnica per scrivere codice funzionante rapidamente, e quella stessa efficienza si applica sia che l'obiettivo finale sia un'app legittima sia che sia un pezzo di malware. La divulgazione di Anthropic suggerisce che i sistemi di monitoraggio dell'azienda sono stati in grado di individuare l'uso improprio e agire di conseguenza, il che è un segnale significativo del fatto che i fornitori di AI stanno attivamente vigilando su questo tipo di comportamento invece di trattarlo come un rischio ipotetico.

Si colloca inoltre accanto ad altri recenti risultati sulle debolezze negli ecosistemi degli assistenti AI. I ricercatori di Zenity hanno recentemente divulgato vulnerabilità zero-click in Claude e ChatGPT Atlas che potrebbero consentire agli aggressori di dirottare gli strumenti browser AI senza alcuna interazione dell'utente. Presi insieme, questi casi indicano lo stesso tema di fondo: man mano che gli strumenti AI vengono integrati nei flussi di lavoro quotidiani, sia gli strumenti stessi sia il modo in cui gli attori delle minacce li utilizzano stanno diventando superfici di attacco che vale la pena esaminare.

Perché questo conta al di là del titolo

Vale la pena essere precisi su ciò che è accaduto e ciò che non è accaduto. Claude non è stato "hackerato" per aiutare segretamente gli aggressori, e non vi è alcuna indicazione che gli utenti quotidiani di Claude siano stati esposti al malware attraverso l'app stessa. Questo è stato un caso di un gruppo sofisticato, legato allo Stato, che ha utilizzato un prodotto AI legittimo come strumento di sviluppo, allo stesso modo in cui potrebbe usare qualsiasi software di programmazione, abusandone per la generazione di codice malevolo. La risposta di Anthropic, rilevare lo schema e interrompere l'accesso, è il tipo di azione di enforcement che conta per evitare che le piattaforme AI diventino toolkit predefiniti per operazioni informatiche offensive.

Tuttavia, l'incidente ricorda che lo sviluppo di malware assistito dall'AI non è più teorico. Attori sponsorizzati dallo Stato stanno sperimentando questi strumenti per accelerare le loro operazioni, e i difensori dovranno tenere conto di malware che può essere rigenerato e modificato più rapidamente di prima. Per le organizzazioni in Ucraina e in Europa, che sembrano essere state il bersaglio di questa particolare campagna, ciò rafforza anche il fatto che i gruppi guidati dallo spionaggio continuano a dare priorità alla raccolta di informazioni rispetto al guadagno finanziario rapido.

Cosa significa per te

Per la maggior parte degli utenti individuali, questa specifica campagna non rappresenta una nuova minaccia diretta. GTG-20006 era presumibilmente concentrata su spionaggio mirato contro organizzazioni, non su attacchi di massa ai consumatori. Ma la tendenza più ampia, ovvero gli strumenti AI che accelerano lo sviluppo e l'evasione del malware, ha effetti a valle su tutti. Un'iterazione più rapida del malware significa che i fornitori di sicurezza e gli strumenti antivirus potrebbero dover aggiornare le firme di rilevamento più frequentemente, e aumenta il valore degli strumenti di sicurezza basati sul comportamento rispetto a quelli che si affidano puramente alle firme di malware note.

È anche un buon momento per rivedere l'igiene di sicurezza di base, poiché il malware assistito dall'AI si basa comunque sugli stessi metodi di distribuzione: email di phishing, allegati malevoli e software compromesso. Nessuno strumento AI cambia il modo in cui il malware arriva inizialmente su un dispositivo.

Punti chiave

  • Mantieni aggiornati sistemi operativi, browser e software di sicurezza in modo che gli strumenti di rilevamento possano intercettare rapidamente le nuove varianti di malware.
  • Sii scettico nei confronti di allegati o link non richiesti, anche da mittenti apparentemente familiari, poiché i metodi di distribuzione rimangono invariati.
  • Le organizzazioni, specialmente quelle in settori che potrebbero essere presi di mira da attori sponsorizzati dallo Stato, dovrebbero dare priorità al rilevamento basato sul comportamento rispetto agli strumenti basati solo sulle firme.
  • Segui come i principali fornitori di AI rispondono alle segnalazioni di uso improprio. L'interruzione di GTG-20006 da parte di Anthropic dimostra che l'enforcement a livello di piattaforma è una parte attiva dell'equazione della sicurezza, non solo un ripensamento.

Man mano che gli strumenti di programmazione AI diventano più capaci, incidenti come questo diventeranno probabilmente più comuni anziché meno. Restare informati su come questi strumenti vengono sia difesi sia abusati è uno dei modi più semplici con cui utenti e organizzazioni possono mantenere un passo avanti.