Cisco Talos scopre il malware con mente collettiva AI CLOSEDQUORUM

Un nuovo framework per tracciare le minacce integrate con l'AI

I ricercatori di sicurezza hanno passato gli ultimi anni ad avvertire che i criminali avrebbero alla fine creato malware in grado di usare l'intelligenza artificiale da solo, senza un umano che digitasse comandi dietro le quinte. Quell'avvertimento è ora diventato una realtà documentata. I ricercatori di Cisco Talos hanno sviluppato un nuovo framework di rilevamento progettato specificamente per identificare malware e strumenti di hacking che si affidano ai chatbot AI per prendere decisioni. Durante il test dello strumento, hanno trovato qualcosa che non si aspettavano: un software malevolo che consulta molteplici modelli linguistici di grandi dimensioni per decidere cosa fare successivamente, senza alcun operatore che lo guidi in tempo reale.

Il framework, costruito per classificare e analizzare malware integrati con l'AI, ha fornito a Talos un modo per individuare schemi che le firme antivirus tradizionali e l'analisi comportamentale tendono a mancare. Invece di cercare solo codice malevolo conosciuto, lo strumento cerca i segni rivelatori di software che interroga i modelli AI durante l'esecuzione, essenzialmente chiedendo a un chatbot quale passo compiere successivamente all'interno di un sistema compromesso.

Dentro CLOSEDQUORUM: malware con il proprio consiglio AI

La scoperta più sorprendente emersa da questa ricerca è un pezzo di malware che i ricercatori hanno chiamato CLOSEDQUORUM. Anziché affidarsi a un singolo modello AI per ottenere indicazioni, CLOSEDQUORUM raggiungerebbe diversi modelli linguistici di grandi dimensioni e valuta le loro risposte prima di agire, funzionando quasi come un piccolo comitato di consulenti AI che prendono decisioni insieme. È questo design che ha portato alcuni nella comunità della sicurezza a descriverlo come una "mente collettiva" AI che guida l'attività malevola.

Questo è importante perché rimuove uno dei maggiori vincoli della criminalità informatica: la necessità che un umano rimanga coinvolto. Il malware tradizionale spesso necessita di un operatore che invii nuovi comandi, modifichi le tattiche quando le difese cambiano, o decida come rispondere a un ostacolo imprevisto. Il malware che può interrogare più sistemi AI e sintetizzare il loro contributo può potenzialmente adattarsi da solo, alla velocità della macchina, senza aspettare che una persona acceda e impartisca istruzioni.

Questa scoperta arriva insieme ad altri recenti risultati che puntano nella stessa direzione. All'inizio di quest'anno, il Threat Intelligence Group di Google ha confermato che l'AI è già utilizzata per alimentare lo sviluppo di exploit zero-day, dimostrando che il ruolo dell'AI nelle operazioni informatiche offensive si è spostato ben oltre la discussione teorica. La scoperta di CLOSEDQUORUM da parte di Talos aggiunge un altro dato: l'AI non sta solo aiutando gli attaccanti a scrivere codice più velocemente, ma viene incorporata direttamente nella logica operativa del malware.

Implicazioni sulla privacy del malware autonomo

Per gli utenti internet comuni, l'emergere di malware guidato dall'AI come CLOSEDQUORUM solleva reali preoccupazioni per la privacy, anche se i dettagli tecnici immediati sono rivolti ai difensori aziendali. Il malware che può decidere autonomamente come muoversi attraverso una rete, quali dati sembrano preziosi, o come evitare il rilevamento potrebbe essere molto più efficiente nel localizzare ed esfiltrare informazioni personali rispetto al malware che dipende da un operatore umano che si collega periodicamente.

Il processo decisionale autonomo complica anche l'attribuzione e la risposta. Quando un operatore umano dirige un attacco, i team di sicurezza possono talvolta anticipare il comportamento basandosi su schemi noti legati a un gruppo specifico. Il malware che consulta i modelli AI al volo può comportarsi in modo meno prevedibile, generando percorsi di attacco inediti che non corrispondono a nessuna tecnica precedentemente catalogata. Questa imprevedibilità è esattamente il motivo per cui Talos ha costruito un framework dedicato invece di affidarsi ai metodi di rilevamento esistenti; l'obiettivo è catturare le minacce integrate con l'AI prima che possano silenziosamente raccogliere credenziali, dati finanziari o file personali.

Cosa significa per te

La maggior parte degli utenti individuali non sarà presa di mira direttamente da malware guidato dall'AI all'avanguardia come CLOSEDQUORUM nel breve termine. Strumenti come questo tendono a emergere prima in intrusioni mirate contro aziende, infrastrutture o reti di alto valore. Ma la tendenza di fondo riguarda tutti: man mano che l'AI abbassa la barriera tecnica per costruire software malevolo adattivo, il volume e la sofisticatezza degli attacchi che raggiungono i consumatori comuni è probabilmente destinato ad aumentare nel tempo. Email di phishing, pagine di login false e download malevoli potrebbero essere sempre più generati o perfezionati con l'assistenza dell'AI, rendendoli più difficili da individuare con il vecchio consiglio di "cercare errori di battitura e grammatica scorretta."

Il fatto che i ricercatori stiano costruendo framework di rilevamento specificamente per le minacce integrate con l'AI è un segnale positivo. Significa che la comunità della sicurezza lo sta trattando come una priorità ora, invece di reagire dopo che il malware guidato dall'AI diventa diffuso.

Azioni concrete da intraprendere

• Mantieni aggiornati sistemi operativi, browser e software di sicurezza, poiché i sistemi con patch restano la prima linea di difesa contro il malware sia tradizionale che assistito dall'AI.
• Sii scettico nei confronti di messaggi o link inaspettati anche quando appaiono ben scritti e privi di errori, poiché l'AI può ora aiutare gli attaccanti a produrre contenuti convincenti su larga scala.
• Usa un gestore di password affidabile e abilita l'autenticazione a più fattori ovunque possibile, riducendo il valore di qualsiasi singola credenziale rubata.
• Segui le segnalazioni di ricercatori di sicurezza affermati per rimanere consapevole di come l'AI sta cambiando il panorama delle minacce, invece di affidarti a supposizioni su ciò che il malware può o non può fare.

Il malware guidato dall'AI come CLOSEDQUORUM è un promemoria che le minacce alla cybersicurezza si evolvono continuamente, e i nuovi framework di rilevamento sono uno degli strumenti più forti che i ricercatori hanno per rimanere in vantaggio. Rimanere informati su sviluppi come questo è uno dei modi più semplici per proteggere la tua privacy nei mesi a venire.