Un recente articolo di Jazz Security analizza esempi reali di fuga di dati tramite IA, dagli ingegneri Samsung che incollano codice in ChatGPT agli incidenti EchoLeak e Salesloft Drift. Per ciascun caso, illustra chi ha scoperto il problema, il suo stato attuale e il controllo che avrebbe potuto rilevare o limitare l'esposizione. I casi differiscono nei dettagli tecnici, ma condividono un tema: le fughe non sono iniziate con attacchi esotici. Sono iniziate con comportamenti ordinari e connessioni fidate.

Questo post si basa su quella sintesi e sull'angolazione editoriale che la sottende. Il materiale di partenza a nostra disposizione è breve, quindi ci atteniamo ai pattern generali che descrive, senza aggiungere dettagli tecnici che non possiamo verificare.

Cosa è successo nelle fughe di dati di Samsung, EchoLeak e Salesloft Drift

I tre casi coprono tre modi diversi in cui si verifica l'esposizione di dati legata all'IA.

Samsung. Gli ingegneri hanno incollato codice in ChatGPT. Non è servito alcun hacker. I dipendenti hanno usato un chatbot pubblico come strumento di lavoro, e il materiale sensibile è uscito dal controllo dell'azienda nel momento stesso in cui è stato inviato.

EchoLeak. Questo incidente è raggruppato con gli altri come esempio di una funzionalità di IA che espone dati attraverso il modo in cui elabora i contenuti e si connette ad altre informazioni. Dimostra che il rischio non è limitato a ciò che una persona digita. Conta anche l'accesso ai dati del sistema di IA stesso.

Salesloft Drift. Questo caso ha coinvolto integrazioni OAuth collegate. OAuth consente a un'app di accedere ai dati di un'altra senza condividere una password. È comodo, ma quando un servizio collegato viene compromesso, i token di accesso che detiene possono diventare una via d'accesso a ogni account a cui era stato collegato.

L'articolo di Jazz Security registra anche chi ha scoperto ciascun caso e a che punto è oggi. Per i lettori, l'insegnamento più utile è l'abbinamento di ogni caso con un controllo: qualcosa che avrebbe potuto offrire visibilità sull'attività o limitare la distanza percorsa dai dati.

Esempi di fuga di dati tramite IA: come l'uso quotidiano dell'IA ha esposto i dati

Ciò che colpisce in questi esempi di fuga di dati tramite IA è quanto fossero ordinari i punti di partenza.

Incollare testo in un chatbot sembra usare una casella di ricerca o un'app per le note. Non sembra inviare dati a una terza parte. È in questo divario tra percezione e realtà che si verifica la fuga in stile Samsung. Una volta inviate le informazioni, in genere si ha una visibilità limitata su dove vengano archiviate o su chi possa accedervi secondo i termini del servizio.

Le app collegate funzionano allo stesso modo. Concedere l'accesso a un'integrazione richiede un paio di clic, e l'autorizzazione spesso resta intatta per mesi o anni. Se il fornitore dietro quell'integrazione viene violato, l'esposizione raggiunge dati che potresti aver dimenticato di aver condiviso.

Gli assistenti di IA aggiungono un terzo livello. Quando uno strumento può leggere la tua posta, i tuoi documenti o i tuoi messaggi per essere utile, tutto ciò che può leggere è potenzialmente in gioco se lo strumento si comporta in modo imprevisto. L'esempio EchoLeak illustra perché l'ambito dell'accesso conta quanto la qualità dell'IA stessa.

Cosa hanno perso le persone e le organizzazioni coinvolte

I dettagli variano da caso a caso, e non azzarderemo cifre che la sintesi di partenza non fornisce. In termini generali, l'esposizione ricade in alcune categorie:

  • Informazioni proprietarie. Il codice sorgente e il materiale interno inseriti in un chatbot pubblico non possono più essere considerati privati.
  • Dati aziendali e dei clienti. Le compromissioni di app collegate possono esporre i record archiviati nelle piattaforme collegate, il che riguarda i clienti e i contatti delle organizzazioni coinvolte, non solo le organizzazioni stesse.
  • Controllo e visibilità. In molti incidenti il danno duraturo non è solo costituito dai dati stessi, ma dalla perdita di qualsiasi quadro chiaro di dove siano finiti.

Questo schema emerge anche al di fuori dei contesti aziendali. La violazione dei dati di Suno, che ha esposto le informazioni personali di oltre 55 milioni di utenti e non è mai stata comunicata loro, mostra come un servizio di IA che detiene dati degli utenti possa diventare un punto di esposizione anche quando gli utenti non hanno fatto nulla di insolito.

Cosa significa per te

Non devi lavorare in una grande azienda perché queste lezioni si applichino. Ogni giorno le persone incollano documenti personali, domande mediche, contratti e bozze di lavoro nei chatbot. Molti collegano anche strumenti di IA e altre app a email, calendari e archiviazione cloud.

Il punto pratico è che la tua esposizione dipende da due cose che controlli: ciò che consegni a un servizio di IA e l'accesso che lasci attivo. Nessuna delle due richiede competenze tecniche per essere gestita. Un contesto più ampio su come l'IA sta cambiando il panorama delle minacce è trattato nella nostra analisi su ransomware basati sull'IA e modelli di test difettosi che perdono dati.

Abitudini che limitano la tua esposizione all'IA

  • Tratta un prompt di un chatbot come un'email a uno sconosciuto. Se non lo invieresti fuori dalla tua organizzazione o dal tuo nucleo familiare, non incollarlo.
  • Rimuovi prima i dettagli identificativi. Sostituisci nomi, numeri di conto, credenziali e informazioni sui clienti con segnaposto prima di chiedere aiuto.
  • Controlla la policy della tua azienda. Se il tuo datore di lavoro fornisce uno strumento di IA approvato, usalo invece di un account personale. Se non esiste una policy, richiedila.
  • Esamina regolarmente le app collegate. Apri la pagina di sicurezza o delle autorizzazioni dei tuoi account di email, archiviazione cloud e lavoro, e rimuovi le integrazioni che non usi più.
  • Preferisci autorizzazioni limitate. Quando un'app richiede un accesso ampio, verifica se esiste un'opzione più limitata.
  • Esamina la cronologia delle chat e le impostazioni dei dati. Controlla cosa conservano i tuoi servizi di IA e se puoi rinunciare all'uso per l'addestramento o eliminare le conversazioni passate.
  • Usa password uniche e l'autenticazione a più fattori. Non fermano ogni fuga, ma limitano le conseguenze a cui può portare un account esposto.

Conclusioni

Gli esempi di fuga di dati tramite IA di Samsung, EchoLeak e Salesloft Drift portano alla stessa conclusione: le maggiori esposizioni spesso derivano dalla comodità, non da attacchi sofisticati. Inizia verificando ciò che incolli nei chatbot, poi passa in rassegna le tue app collegate e revoca ciò che non ti serve. Per un altro esempio di esposizione di dati di un servizio di IA, leggi della violazione di Suno, e per un contesto più ampio sul rischio legato all'IA, consulta la nostra copertura sui ransomware basati sull'IA. Qualche minuto di verifica ora è molto più semplice che cercare di scoprire in seguito dove sono finiti i tuoi dati.