Jazz Securityn tuore kirjoitus käy läpi todellisia esimerkkejä AI-tietovuodoista, Samsungin insinöörien ChatGPT:hen liittämästä koodista EchoLeak- ja Salesloft Drift -tapauksiin. Jokaisesta tapauksesta se käsittelee, kuka ongelman havaitsi, sen nykyisen tilan ja sen valvonnan, joka olisi voinut nähdä altistumisen tai rajoittaa sitä. Tapaukset eroavat teknisiltä yksityiskohdiltaan, mutta niitä yhdistää teema: vuodot eivät alkaneet eksoottisista hyökkäyksistä. Ne alkoivat rutiininomaisesta toiminnasta ja luotetuista yhteyksistä.

Tämä kirjoitus pohjautuu kyseiseen yhteenvetoon ja sen taustalla olevaan toimitukselliseen näkökulmaan. Käytettävissämme oleva lähdemateriaali on niukkaa, joten pitäydymme sen kuvaamissa laajoissa malleissa emmekä lisää teknisiä yksityiskohtia, joita emme voi vahvistaa.

Mitä Samsungin, EchoLeakin ja Salesloft Driftin vuodoissa tapahtui

Kolme tapausta kattavat kolme erilaista tapaa, joilla AI:hin liittyvä tietojen paljastuminen tapahtuu.

Samsung. Insinöörit liittivät koodia ChatGPT:hen. Hakkeri ei ollut tarpeen. Työntekijät käyttivät julkista chatbottia työvälineenä, ja arkaluonteinen materiaali poistui yrityksen hallinnasta heti, kun se lähetettiin.

EchoLeak. Tämä tapaus ryhmitellään muiden kanssa esimerkiksi AI-ominaisuudesta, joka paljastaa tietoja sen kautta, miten se käsittelee sisältöä ja yhdistyy muihin tietoihin. Se osoittaa, että riski ei rajoitu siihen, mitä henkilö kirjoittaa. Myös AI-järjestelmän omalla tietojen käyttöoikeudella on merkitystä.

Salesloft Drift. Tämä tapaus liittyi yhdistettyihin OAuth-integraatioihin. OAuth antaa yhden sovelluksen käyttää toisen sovelluksen tietoja jakamatta salasanaa. Se on kätevää, mutta kun yhdistetty palvelu vaarantuu, sen hallussaan pitämistä käyttöoikeustokeneista voi tulla väylä jokaiseen tiliin, johon se oli linkitetty.

Jazz Securityn kirjoitus tallentaa myös, kuka kunkin tapauksen havaitsi ja missä se on tänään. Lukijoille hyödyllisempi oppi on kunkin tapauksen yhdistäminen valvontaan: johonkin, joka olisi voinut antaa näkyvyyttä toimintaan tai rajoittaa sitä, miten kauas tiedot kulkivat.

Esimerkkejä AI-tietovuodoista: miten jokapäiväinen AI:n käyttö paljasti tietoja

Näissä AI-tietovuotojen esimerkeissä silmiinpistävintä on, miten tavallisia lähtökohdat olivat.

Tekstin liittäminen chatbottiin tuntuu samalta kuin hakukentän tai muistiinpanosovelluksen käyttäminen. Se ei tunnu tietojen lähettämiseltä kolmannelle osapuolelle. Tämä kuilu havainnon ja todellisuuden välillä on paikka, jossa Samsung-tyylinen vuoto tapahtuu. Kun tiedot on lähetetty, sinulla on yleensä rajallinen käsitys siitä, mihin ne tallennetaan tai kuka niihin voi päästä käsiksi palvelun ehtojen mukaisesti.

Yhdistetyt sovellukset toimivat samalla tavalla. Integraatiolle käyttöoikeuden myöntäminen vaatii pari klikkausta, ja lupa jää usein koskemattomaksi kuukausiksi tai vuosiksi. Jos kyseisen integraation taustalla oleva toimittaja murretaan, altistuminen ulottuu tietoihin, joiden jakamisen olet ehkä unohtanut.

AI-avustajat lisäävät kolmannen kerroksen. Kun työkalu voi lukea sähköpostejasi, asiakirjojasi tai viestejäsi ollakseen hyödyllinen, kaikki mitä se voi lukea, on mahdollisesti pelissä, jos työkalu toimii odottamattomalla tavalla. EchoLeak-esimerkki havainnollistaa, miksi käyttöoikeuksien laajuudella on yhtä paljon merkitystä kuin itse AI:n laadulla.

Mitä asianomaiset henkilöt ja organisaatiot menettivät

Yksityiskohdat eroavat tapauskohtaisesti, emmekä arvaa lukuja, joita lähdeyhteenveto ei anna. Yleisesti ottaen altistuminen jakautuu muutamaan kategoriaan:

  • Liikesalaisuudet. Lähdekoodia ja sisäistä materiaalia, joka on syötetty julkiseen chatbottiin, ei voi enää pitää yksityisenä.
  • Liiketoiminta- ja asiakastiedot. Yhdistettyjen sovellusten murrot voivat paljastaa linkitetyissä alustoissa tallennettuja tietoja, mikä vaikuttaa asianomaisten organisaatioiden asiakkaisiin ja kontakteihin, ei vain organisaatioihin itseensä.
  • Hallinta ja näkyvyys. Monissa tapauksissa pysyvä vahinko ei ole vain itse tiedot vaan selkeän käsityksen menettäminen siitä, minne ne menivät.

Tämä malli esiintyy myös yritysympäristöjen ulkopuolella. Suno-tietomurto, joka paljasti yli 55 miljoonan käyttäjän henkilötiedot ja jota ei koskaan ilmoitettu heille, osoittaa, miten käyttäjätietoja hallussaan pitävästä AI-palvelusta voi tulla altistumispiste, vaikka käyttäjät eivät tekisi mitään epätavallista.

Mitä tämä tarkoittaa sinulle

Sinun ei tarvitse työskennellä suuressa yrityksessä, jotta nämä opetukset pätevät. Yksityishenkilöt liittävät henkilökohtaisia asiakirjoja, lääketieteellisiä kysymyksiä, sopimuksia ja työluonnoksia chatbotteihin joka päivä. Monet yhdistävät myös AI-työkaluja ja muita sovelluksia sähköpostiin, kalentereihin ja pilvitallennukseen.

Käytännön pointti on, että altistumisesi riippuu kahdesta hallitsemastasi asiasta: mitä annat AI-palvelulle ja mitä käyttöoikeuksia jätät päälle. Kummankaan hallitseminen ei vaadi teknistä asiantuntemusta. Laajempaa taustaa siitä, miten AI muuttaa uhkakenttää, käsitellään katsauksessamme AI-kiristysohjelmiin ja puutteellisiin testimalleihin, jotka vuotavat tietoja.

Tottumukset, jotka rajoittavat omaa AI-altistumistasi

  • Kohtele chatbot-kehotetta kuin sähköpostia vieraalle. Jos et lähettäisi sitä organisaatiosi tai kotitaloutesi ulkopuolelle, älä liitä sitä.
  • Poista tunnistetiedot ensin. Korvaa nimet, tilinumerot, tunnistetiedot ja asiakastiedot paikkamerkeillä ennen avun pyytämistä.
  • Tarkista työpaikkasi käytäntö. Jos työnantajasi tarjoaa hyväksytyn AI-työkalun, käytä sitä henkilökohtaisen tilin sijaan. Jos käytäntöä ei ole, pyydä sellaista.
  • Tarkista yhdistetyt sovellukset säännöllisesti. Avaa sähköpostisi, pilvitallennuksesi ja työpaikkatiliesi turvallisuus- tai käyttöoikeussivu ja poista integraatiot, joita et enää käytä.
  • Suosi kapeita käyttöoikeuksia. Kun sovellus pyytää laajoja käyttöoikeuksia, tarkista, onko olemassa rajoitetumpi vaihtoehto.
  • Tarkista keskusteluhistoria ja tietoasetukset. Katso, mitä AI-palvelusi säilyttävät ja voitko kieltäytyä koulutuskäytöstä tai poistaa aiempia keskusteluja.
  • Käytä yksilöllisiä salasanoja ja monivaiheista tunnistautumista. Nämä eivät estä kaikkia vuotoja, mutta ne rajoittavat sitä, mihin paljastunut tili voi johtaa.

Keskeiset huomiot

Samsungin, EchoLeakin ja Salesloft Driftin AI-tietovuotoesimerkit johtavat samaan johtopäätökseen: suurimmat altistumiset tulevat usein mukavuudesta, eivät kehittyneistä hyökkäyksistä. Aloita tarkastamalla, mitä liität chatbotteihin, käy sitten läpi yhdistetyt sovelluksesi ja peru tarpeettomat käyttöoikeudet. Toisen esimerkin AI-palvelun tietojen paljastumisesta löydät lukemalla Suno-tietomurrosta, ja laajempaa taustaa AI:hin liittyvistä riskeistä saat AI-kiristysohjelmakatsauksestamme. Muutaman minuutin tarkistus nyt on paljon helpompaa kuin yrittää myöhemmin selvittää, minne tietosi menivät.