Un attacco informatico con DeepSeek AI ha segnato un nuovo livello di automazione

I ricercatori di sicurezza di Unit 42 hanno documentato quello che potrebbe essere uno degli sviluppi più preoccupanti nell'uso offensivo dell'IA fino ad oggi: un attore di minacce di lingua cinese avrebbe trasformato DeepSeek in un agente di attacco autonomo utilizzando uno strumento chiamato Hermes Agent, lanciando operazioni contro più di 460 obiettivi con un intervento umano minimo. Ciò che rende questo attacco informatico con DeepSeek AI particolarmente degno di nota non è solo la portata, ma il flusso di lavoro. Secondo Unit 42, l'aggressore ha prima tentato di utilizzare i modelli di Claude e OpenAI per la campagna, ma questi sistemi avrebbero rifiutato di eseguire il compito malevolo. L'operatore si è quindi rivolto a DeepSeek, che apparentemente non aveva tali barriere di protezione in atto.

Una volta configurato, l'agente IA non si è limitato ad assistere in una singola fase della catena di attacco. Secondo quanto riferito, ha scansionato alla ricerca di vulnerabilità, si è spostato tra i sistemi e ha sfruttato i punti deboli in gran parte da solo dopo aver ricevuto le istruzioni iniziali. Alcuni resoconti di questa campagna indicano che l'operatore ha dato il via con un unico comando inviato tramite un'app di messaggistica, dopodiché il sistema IA ha condotto ricognizione e sfruttamento con poche ulteriori indicazioni. Quel livello di autonomia rappresenta un cambiamento significativo rispetto ai precedenti attacchi assistiti dall'IA, in cui gli operatori umani gestivano ancora la maggior parte dell'esecuzione tecnica.

Perché le barriere di protezione dell'IA (o la loro assenza) sono importanti

Il dettaglio sul rifiuto di Claude e OpenAI di partecipare è probabilmente la parte più importante di questa storia. Suggerisce che i filtri di sicurezza integrati nei principali modelli di IA commerciali possono bloccare efficacemente determinati flussi di lavoro di attacco, almeno quando un malintenzionato cerca di usarli direttamente e in modo trasparente. Ma rivela anche l'ovvia scappatoia: gli aggressori non devono sconfiggere tutte le misure di sicurezza dei sistemi di IA, devono solo trovare un modello disposto a collaborare.

DeepSeek, un modello di IA sviluppato in Cina, è stato oggetto di continue verifiche sulla gestione dei dati e sulle pratiche di moderazione dei contenuti sin dal suo rilascio pubblico. Questo incidente aggiunge una nuova dimensione a tale attenzione: l'apparente disponibilità del modello a supportare attività di sfruttamento autonomo senza opporre resistenza. Alcuni resoconti della campagna suggeriscono che l'agente IA veniva anche utilizzato per compromettere un gran numero di host aggiuntivi, potenzialmente migliaia, per il proxyjacking, una pratica in cui i dispositivi compromessi vengono usati per instradare il traffico a scopo di lucro o per mascherare ulteriori attacchi. Se fosse accurato, ciò significherebbe che la campagna non era limitata ai 460 obiettivi confermati, ma stava espandendo attivamente la propria infrastruttura mentre era in esecuzione.

Questo modello di scansione delle vulnerabilità e sfruttamento basato sull'IA riecheggia una tendenza più ampia che i team di sicurezza stanno monitorando: gli aggressori automatizzano sempre più la scoperta e lo sfruttamento di falle note più velocemente di quanto i difensori possano applicare le patch. La recente aggiunta da parte del CISA di vulnerabilità sfruttate attivamente alla lista Known Exploited Vulnerabilities è un promemoria che le vulnerabilità note e non corrette rimangono il punto di ingresso più semplice sia per gli aggressori umani che per quelli guidati dall'IA. Quando un agente autonomo può scansionare e sfruttare più tipi di vulnerabilità note su centinaia di obiettivi senza che una persona esegua manualmente ogni passaggio, la finestra a disposizione delle organizzazioni per applicare le patch si riduce drasticamente.

Cosa significa per voi

Se siete lettori individuali, questa storia non è un motivo per farsi prendere dal panico, ma è un segnale a cui vale la pena prestare attenzione. Gli attacchi autonomi guidati dall'IA stanno diventando una capacità operativa reale, non un rischio teorico futuro. Per la maggior parte dei consumatori, l'esposizione pratica arriva in modo indiretto: se un servizio, un'app o una piattaforma che utilizzate viene compromessa attraverso questo tipo di sfruttamento automatizzato, i vostri dati potrebbero finire coinvolti nelle conseguenze.

Per gli amministratori IT, i team di sicurezza e i proprietari di piccole imprese, le implicazioni sono più dirette. Un aggressore armato di un agente IA autonomo non ha bisogno di una profonda competenza tecnica per eseguire una campagna di scansione e sfruttamento su larga scala. Questo abbassa la barriera d'ingresso per attacchi che un tempo richiedevano operatori umani qualificati, e significa che i sistemi non aggiornati sono a maggior rischio di essere trovati e sfruttati rapidamente, a volte prima che i difensori sappiano che una nuova vulnerabilità è attivamente presa di mira.

Consigli pratici

Applicate le patch tempestivamente e con costanza. Gli strumenti di scansione autonoma cercano vulnerabilità note e non corrette, quindi gli aggiornamenti tempestivi rimangono una delle difese più efficaci disponibili.

Monitorate modelli di autenticazione o scansione insoliti. Gli agenti automatizzati generano spesso modelli di traffico distintivi, come sondaggi rapidi e sequenziali su più sistemi, che gli strumenti di monitoraggio della sicurezza possono segnalare.

Siate cauti su quali strumenti di IA la vostra organizzazione integra nei flussi di lavoro, e comprendete che non tutti i fornitori di IA applicano gli stessi standard di sicurezza.

Rimanete informati sulle nuove divulgazioni di vulnerabilità e sugli elenchi di falle sfruttate, poiché sono la materia prima su cui si basano gli strumenti di attacco autonomi.

La campagna di attacco informatico con DeepSeek AI descritta in dettaglio da Unit 42 è un'anteprima di come si stanno evolvendo le capacità offensive dell'IA. Rimanere aggiornati su patch, monitoraggio e intelligence sulle vulnerabilità è il modo più affidabile per stare un passo avanti rispetto a minacce automatizzate come questa.