OpenAI segnala il rischio di attacchi informatici autonomi per Astra
OpenAI ha comunicato che il suo prossimo modello di intelligenza artificiale, internamente noto come Astra, potrebbe raggiungere una soglia di rischio 'critico' per la sicurezza informatica secondo il quadro di sicurezza interno dell'azienda. La segnalazione, riportata per la prima volta da SecurityWeek, è incentrata sul timore che il modello possa essere in grado di condurre attacchi informatici in modo autonomo, ovvero pianificare, eseguire o agevolare attività di hacking con una supervisione umana minima.
Si tratta di un momento significativo perché la comunicazione proviene direttamente da OpenAI stessa, non da un ricercatore esterno o da un gruppo di controllo. Le aziende che sviluppano sistemi di intelligenza artificiale all'avanguardia utilizzano in genere livelli di rischio interni per decidere come rilasciare un modello, quali salvaguardie siano necessarie e se siano richiesti ulteriori test prima che il pubblico possa accedervi. Una classificazione 'critica' per il rischio di sicurezza informatica suggerisce che gli stessi valutatori di OpenAI vedono una concreta possibilità che Astra possa essere impiegato in modo illecito per operazioni di hacking offensivo, se non attentamente controllato.
Perché una soglia 'critica' è rilevante
Nella maggior parte degli aggiornamenti dell'IA, le differenze tra le versioni dei modelli sono incrementali: risposte più rapide, scrittura migliore, ragionamento potenziato. Una classificazione del rischio di sicurezza informatica è diversa. Segnala che le capacità del modello hanno varcato un confine oltre il quale l'azienda ritiene che la tecnologia stessa, non solo l'uso che qualcuno decide di farne, possa consentire danni su larga scala.
La capacità di attacco informatico autonomo è particolarmente significativa perché elimina un fattore limitante chiave nell'hacking tradizionale: il tempo e le competenze umane. Un modello in grado di identificare autonomamente vulnerabilità, scrivere codice exploit o concatenare fasi di attacco senza una supervisione costante potrebbe, in teoria, permettere ad attori meno qualificati di lanciare attacchi più sofisticati, o consentire ad attori esperti di lanciare molti più attacchi contemporaneamente. Proprio questo effetto di scala è ciò che preoccupa i ricercatori di sicurezza quando parlano di soglie 'critiche' per i sistemi di IA.
È importante chiarire ciò che sappiamo e ciò che non sappiamo in questo momento. Le notizie disponibili confermano che OpenAI ha segnalato questo rischio internamente per Astra, ma non descrivono nel dettaglio le specifiche capacità tecniche che hanno fatto scattare la classificazione, né specificano una data di rilascio o quali misure di mitigazione OpenAI intenda implementare. Ciò che conta per i lettori, ora, è la tendenza più ampia in cui questo si inserisce: i modelli di IA vengono sempre più spesso valutati, e in alcuni casi limitati, proprio a causa del loro potenziale di automatizzare l'hacking offensivo.
Uno schema che va oltre OpenAI
Astra non è un caso isolato. Altre aziende di IA hanno già dovuto confrontarsi con prove concrete di un uso improprio dei loro modelli per attacchi informatici. Anthropic, l'azienda che sviluppa i modelli Claude, ha recentemente confermato di stare indagando su tre incidenti legati all'hacking scoperti durante una revisione di 141.000 conversazioni, dimostrando che l'uso illecito non è teorico, ma sta già avvenendo nei sistemi di produzione.
Separatamente, i ricercatori di sicurezza hanno documentato un caso in cui un attore malevolo ha trasformato DeepSeek in uno strumento di attacco in gran parte automatizzato, colpendo, a quanto riferito, oltre 460 bersagli con un intervento manuale minimo. Considerati insieme alla comunicazione di OpenAI su Astra, questi episodi suggeriscono che l'hacking autonomo guidato dall'IA sta passando da rischio ipotetico a schema documentato su diverse piattaforme di IA di rilievo.
Cosa significa per te
Per gli utenti comuni di Internet, le implicazioni sulla privacy di un modello di IA in grado di condurre attacchi informatici con meno supervisione umana sono significative. Strumenti di attacco autonomi o semi-autonomi potrebbero essere utilizzati per cercare dati personali esposti, automatizzare campagne di phishing o sondare account e dispositivi alla ricerca di vulnerabilità più velocemente di quanto i difensori possano reagire. Anche se Astra in sé non venisse mai utilizzato in modo improprio in questo modo, la capacità di base, una volta che esiste in un modello, tende a manifestarsi in altri man mano che la tecnologia matura.
Questo non significa che sia giustificato allarmarsi. Significa che le basi della sicurezza personale contano di più, non di meno, con l'avanzare di questi strumenti: password robuste e uniche, autenticazione a più fattori, gestione prudente di link e allegati e mantenere il software aggiornato. Gli aggressori che usano l'IA per aumentare le proprie operazioni fanno ancora affidamento sugli stessi punti deboli di sempre: credenziali riutilizzate, sistemi non aggiornati ed errore umano.
Anticipare le mosse
La decisione di OpenAI di segnalare internamente il rischio di sicurezza informatica di Astra è, in un certo senso, un segno che il sistema funziona come previsto: l'azienda sta individuando una preoccupazione prima del rilascio su larga scala, anziché dopo un incidente. Ma conferma anche che la capacità di attacco informatico autonomo non è più una preoccupazione lontana per i laboratori di IA, bensì una considerazione attiva che influenza il modo in cui i nuovi modelli vengono costruiti e rilasciati.
Man mano che sempre più aziende si confrontano con classificazioni di rischio simili, i lettori devono aspettarsi un controllo continuo su come i modelli di IA vengono testati e distribuiti. Nel frattempo, considerare i fondamenti della sicurezza informatica personale come una priorità, piuttosto che un pensiero secondario, rimane il modo più affidabile per restare protetti mentre le capacità dell'IA, e i rischi che le accompagnano, continuano a evolversi.
