En fersk artikkel fra Jazz Security går gjennom reelle eksempler på AI-datalekkasjer, fra Samsung-ingeniører som limte inn kode i ChatGPT til EchoLeak- og Salesloft Drift-hendelsene. For hvert tilfelle dekker den hvem som oppdaget problemet, statusen det har i dag, og kontrollen som kunne ha sett eller begrenset eksponeringen. Tilfellene er forskjellige i teknisk detalj, men de deler et tema: lekkasjene startet ikke med eksotiske angrep. De startet med rutinemessig atferd og betrodde forbindelser.

Dette innlegget bygger på det sammendraget og den redaksjonelle vinklingen bak det. Kildematerialet tilgjengelig for oss er kortfattet, så vi holder oss til de overordnede mønstrene det beskriver i stedet for å legge til tekniske detaljer vi ikke kan verifisere.

Hva som skjedde i Samsung-, EchoLeak- og Salesloft Drift-lekkasjene

De tre tilfellene dekker tre forskjellige måter AI-relatert dataeksponering skjer på.

Samsung. Ingeniører limte inn kode i ChatGPT. Det trengtes ingen hacker. Ansatte brukte en offentlig chatbot som et arbeidsverktøy, og sensitivt materiale forlot selskapets kontroll i det øyeblikket det ble sendt inn.

EchoLeak. Denne hendelsen er gruppert med de andre som et eksempel på en AI-funksjon som eksponerer data gjennom måten den behandler innhold og kobler til annen informasjon. Det viser at risikoen ikke er begrenset til det en person skriver. AI-systemets egen tilgang til data spiller også en rolle.

Salesloft Drift. Dette tilfellet involverte tilkoblede OAuth-integrasjoner. OAuth lar én app få tilgang til data i en annen uten å dele et passord. Det er praktisk, men når en tilkoblet tjeneste kompromitteres, kan tilgangstokenene den holder bli en vei inn i hver konto den var koblet til.

Jazz Security-artikkelen registrerer også hvem som oppdaget hvert tilfelle og hvor det står i dag. For lesere er det mer nyttige poenget sammensetningen av hvert tilfelle med en kontroll: noe som kunne ha gitt synlighet inn i aktiviteten eller begrenset hvor langt dataene reiste.

Eksempler på AI-datalekkasjer: hvordan hverdagslig AI-bruk eksponerte data

Det som skiller seg ut på tvers av disse eksemplene på AI-datalekkasjer, er hvor vanlige utgangspunktene var.

Å lime inn tekst i en chatbot føles som å bruke et søkefelt eller en notatapp. Det føles ikke som å sende data til en tredjepart. Det gapet mellom oppfatning og virkelighet er der Samsung-lignende lekkasjer skjer. Når informasjon først er sendt inn, har du generelt begrenset innsikt i hvor den lagres eller hvem som kan få tilgang til den under tjenestens vilkår.

Tilkoblede apper fungerer på samme måte. Å gi en integrasjon tilgang tar et par klikk, og tillatelsen ligger ofte urørt i måneder eller år. Hvis leverandøren bak den integrasjonen blir kompromittert, når eksponeringen data du kanskje har glemt at du delte.

AI-assistenter legger til et tredje lag. Når et verktøy kan lese e-posten, dokumentene eller meldingene dine for å være hjelpsomt, er alt det kan lese potensielt i spill hvis verktøyet oppfører seg på en uforutsett måte. EchoLeak-eksemplet illustrerer hvorfor tilgangsomfang betyr like mye som kvaliteten på AI-en selv.

Hva de berørte personene og organisasjonene mistet

Detaljene varierer fra tilfelle til tilfelle, og vi vil ikke gjette på tall som kildesammendraget ikke oppgir. I generelle termer faller eksponeringen i noen få kategorier:

  • Proprietær informasjon. Kildekode og internt materiale som er lagt inn i en offentlig chatbot, kan ikke lenger behandles som privat.
  • Forretnings- og kundedata. Kompromitterte tilkoblede apper kan eksponere poster som er lagret i de tilkoblede plattformene, noe som påvirker kundene og kontaktene til organisasjonene det gjelder, ikke bare organisasjonene selv.
  • Kontroll og synlighet. I mange hendelser er den varige skaden ikke bare dataene selv, men tapet av et klart bilde av hvor de tok veien.

Dette mønsteret dukker også opp utenfor bedriftsmiljøer. Suno-datainnbruddet, som eksponerte personopplysningene til mer enn 55 millioner brukere og aldri ble varslet til dem, viser hvordan en AI-tjeneste som lagrer brukerdata, kan bli et eksponeringspunkt selv når brukerne ikke gjorde noe uvanlig.

Hva dette betyr for deg

Du trenger ikke jobbe i et stort selskap for at disse lærdommene skal gjelde. Enkeltpersoner limer inn personlige dokumenter, medisinske spørsmål, kontrakter og arbeidsutkast i chatboter hver dag. Mange kobler også AI-verktøy og andre apper til e-post, kalendere og skylagring.

Det praktiske poenget er at eksponeringen din avhenger av to ting du kontrollerer: hva du gir til en AI-tjeneste, og hvilken tilgang du lar være påslått. Ingen av delene krever teknisk ekspertise å håndtere. Bredere kontekst om hvordan AI endrer trusselbildet, dekkes i vår gjennomgang av AI-løsepenger og mangelfulle testmodeller som lekker data.

Vaner som begrenser din egen AI-eksponering

  • Behandle en chatbot-forespørsel som en e-post til en fremmed. Hvis du ikke ville sendt den utenfor organisasjonen eller husstanden din, ikke lim den inn.
  • Fjern identifiserende detaljer først. Erstatt navn, kontonumre, påloggingsinformasjon og klientinformasjon med plassholdere før du ber om hjelp.
  • Sjekk arbeidsgiverens retningslinjer. Hvis arbeidsgiveren din tilbyr et godkjent AI-verktøy, bruk det i stedet for en personlig konto. Hvis det ikke finnes noen retningslinjer, be om det.
  • Gå gjennom tilkoblede apper regelmessig. Åpne sikkerhets- eller tillatelsessiden for e-post-, skylagrings- og arbeidskontiene dine, og fjern integrasjoner du ikke lenger bruker.
  • Foretrekk snevre tillatelser. Når en app ber om bred tilgang, sjekk om det finnes et mer begrenset alternativ.
  • Gå gjennom chattehistorikk og datainnstillinger. Se på hva AI-tjenestene dine beholder, og om du kan velge bort bruk til trening eller slette tidligere samtaler.
  • Bruk unike passord og flerfaktorautentisering. Dette stopper ikke hver lekkasje, men det begrenser hva en eksponert konto kan føre til.

Viktige punkter

Eksemplene på AI-datalekkasjer fra Samsung, EchoLeak og Salesloft Drift peker mot samme konklusjon: de største eksponeringene kommer ofte fra bekvemmelighet, ikke sofistikerte angrep. Start med å revidere hva du limer inn i chatboter, og gå deretter gjennom de tilkoblede appene dine og tilbakekall det du ikke trenger. For et annet eksempel på dataeksponering fra AI-tjenester, les om Suno-innbruddet, og for bredere kontekst om AI-relatert risiko, se vår dekning av AI-løsepenger. Noen minutters gjennomgang nå er langt enklere enn å prøve å finne ut senere hvor dataene dine tok veien.