Väärin konfiguroitu tallennussäiliö 302.ai:ssa jätti 17,6 miljoonaa tiedostoa avoimiksi kenelle tahansa, joka sen löysi, Cybernewsin tutkimuksen mukaan. Niiden joukossa oli yli 144 000 tekoälykeskustelulokia, jotka sisälsivät henkilötietoja. 302.ai:n tekoälykeskustelulokien tietovuoto on terävä muistutus siitä, että se, mitä kirjoitat tekoälytyökaluun, on yhtä yksityistä kuin sen taustalla oleva tallennus.

Tapauksesta raportoinnin mukaan luvatonta käyttöä ei vahvistettu. Se on rohkaisevaa, mutta se ei tarkoita, että tiedostot olisivat olleet turvassa missään merkityksellisessä mielessä, kuten selitämme alla.

Mitä Cybernews löysi 302.ai:n säiliöstä

Cybernewsin tutkijat havaitsivat, että 302.ai:hin liittyvä tallennussäiliö oli julkisesti saavutettavissa. Paljastus kattoi 17,6 miljoonaa tiedostoa, ja otsikkouutisoinnissa kokonaismääräksi kerrotaan 22,7 TB dataa. Sisällä oli yli 144 000 tekoälykeskustelulokia, jotka sisälsivät henkilötietoja. Tapauksen uutisointi viittaa myös aikuistuotteeseen liittyviin tukilokeihin, mikä havainnollistaa, kuinka intiimiä osa materiaalista voi olla.

Keskeinen yksityiskohta on se, miten paljastus tapahtui. Tätä ei kuvattu kehittyneenä tunkeutumisena. Internetiin avoinna ollut tallennussäiliö tarkoitti, että kuka tahansa sen löytänyt saattoi nähdä sisällön ilman hakkerointia. Raportoinnin mukaan ei ole vahvistettu, että mikään tahallinen taho olisi käyttänyt dataa.

Lähdemateriaali ei anna lisää teknisiä yksityiskohtia, joten ei ole selvää, kuinka kauan säiliö oli avoinna tai sisälsivätkö kaikki tiedostot arkaluontoista sisältöä. Raportoitua on mittakaava ja henkilötietojen läsnäolo keskustelulokeissa.

Miksi paljastuneet tekoälykeskustelulokit ovat yksityisyysriski

Ihmisillä on tapana puhua tekoälytyökaluille eri tavalla kuin hakukoneille. He liittävät työasiakirjoja, kuvailevat terveyshuolia, kysyvät parisuhdeneuvoja ja jakavat yksityiskohtia, joita he epäröisivät laittaa sähköpostiin. Kun nämä keskustelut tallennetaan näkyvästi, sisältö voi paljastaa henkilöstä paljon.

Muutama syy, miksi keskustelulokit ansaitsevat erityistä huomiota:

  • Ne on kirjoitettu luonnollisella kielellä. Nimet, osoitteet ja henkilökohtaiset olosuhteet esiintyvät usein asiayhteydessä, mikä tekee niistä helppolukuisia ja vaikeita poistaa.
  • Ne voidaan yhdistää henkilöön. Ilman nimeäkin keskustelun yksityiskohdat voivat viitata siihen, kuka sen kirjoitti.
  • Niitä harvoin poistetaan. Monet alustat säilyttävät keskusteluhistoriaa pitkiä aikoja, joten paljastus voi ulottua paljon kauemmas kuin viimeaikaiseen toimintaan.
  • Tukilokit lisäävät toisen kerroksen. Asiakaspalvelutietueet voivat yhdistää keskustelun tilaukseen, tiliin tai tuotteeseen, mikä voi olla noloa tai arkaluontoista.

"Ei vahvistettua luvatonta käyttöä" on myös rajallinen vakuus. Ellei palveluntarjoajalla ole täydellisiä käyttölokeja siltä ajalta, jolloin säiliö oli avoinna, voi olla vaikeaa todistaa, ettei kukaan muu katsonut. Automaattiset skannerit etsivät jatkuvasti avoimia säiliöitä, joten paljastunut data löydetään usein nopeasti.

Kuinka usein tekoälyalustat vuotavat dataa väärän konfiguraation kautta

302.ai:n tapaus sopii kaavaan, jossa tekoälyyn liittyvät palvelut paljastavat dataa asennusvirheiden eikä ovelien hyökkäysten kautta. Vibetechin tapaus on tuore esimerkki: suojaamaton repositorio jätti miljoonia tietueita avoimiksi kenelle tahansa internet-yhteyden omaavalle, kuten raportissamme Vibetech-tietokannasta, joka paljasti 13,7 miljoonaa tietuetta kerrotaan.

Tekoälyyrityksiin voivat iskeä myös tavanomaiset tietomurrot. Uutisointimme Sunon tietomurrosta, joka vaikutti 55 miljoonaan käyttäjään osoittaa, kuinka nopeasti nopeasti kasvava tekoälyalusta voi kerätä suuria määriä käyttäjädadaa ja kuinka paljon siitä voi paljastua kerralla.

Yhteinen tekijä on nopeus. Tekoälytuotteita rakennetaan ja skaalataan usein nopeasti, ja yksityiseksi tarkoitettu tallennus voi päätyä julkiseksi yhden väärän asetuksen takia. Tutkijat dokumentoivat edelleen, miten puutteellinen tekoälytyökalujen toteutus voi vuotaa dataa, kuten käsittelemme jutussamme tekoälykiristysohjelmista ja puutteellisista testimalleista, jotka vuotavat dataa.

Mitä tämä tarkoittaa sinulle

Et voi tarkastaa, miten tekoälypalvelun tarjoaja konfiguroi tallennuksensa, joten sinun on oletettava, että mitä tahansa lähettämääsi voi jonain päivänä paljastua. Se ei tarkoita tekoälytyökalujen välttämistä. Se tarkoittaa harkitsevuutta siinä, mitä jaat niille.

Jos olet käyttänyt vähemmän tunnettua tekoälyalustaa tai sellaista, joka jälleenmyy pääsyä muihin malleihin, sinulla voi olla vähemmän näkyvyyttä siihen, kuka tallentaa dataasi ja kuinka kauan. VPN ei auta tässä: se suojaa yhteytesi siirron aikana, mutta ei voi suojata dataa, jonka palveluntarjoaja tallentaa omille palvelimilleen.

Kuinka vähentää sitä, mitä tekoälytyökalut tietävät sinusta

Voit pienentää altistumistasi muutamalla tavalla:

  1. Pidä arkaluontoiset tiedot poissa kehotteista. Vältä salasanojen, taloustietojen, lääketieteellisten tietojen, henkilötunnusten tai luottamuksellisten työasiakirjojen liittämistä.
  2. Käytä paikkamerkkejä. Korvaa oikeat nimet ja osoitteet yleisillä sijaisilla, kun pyydät apua luonnosteluun tai muokkaamiseen.
  3. Tarkista säilytysasetukset. Tarkista, tallentaako palvelu historiaa, ja kytke se pois päältä tai poista vanhat keskustelut, jos vaihtoehto on olemassa.
  4. Poista se, mitä et enää tarvitse. Poista vanhat keskustelut ja ladatut tiedostot sekä sulje tilit, joita et enää käytä.
  5. Käytä yksilöllisiä salasanoja ja kaksivaiheista tunnistautumista. Jos tili paljastuu, tämä rajoittaa vahinkoa muihin palveluihin.
  6. Varo seurantahuijauksia. Vuotaneet henkilötiedot voivat ruokkia vakuuttavia tietojenkalasteluviestejä, joten suhtaudu odottamattomiin pyyntöihin epäluuloisesti.

Keskeiset johtopäätökset

302.ai:n tekoälykeskustelulokien tietovuoto osoittaa, että yksi tallennusasetus voi paljastaa miljoonia tiedostoja, vaikka hyökkääjää ei olisi vahvistettu. Kohtele tekoälykeskusteluja mahdollisesti pysyvinä tietueina, jaa vähemmän ja tyhjennä historia, jota et tarvitse. Lisätietoja siitä, miten tekoälypalvelut käsittelevät ja käsittelevät väärin käyttäjädadaa, löydät uutisoinnistamme Vibetech-tietokannan paljastuksesta ja Sunon tietomurrosta.