A Jazz Security nemrég közzétett írása valós AI-adatszivárgási eseteket mutat be, a Samsung mérnökeitől, akik kódot másoltak be a ChatGPT-be, egészen az EchoLeak és a Salesloft Drift incidensekig. Minden esetnél kitér arra, hogy ki fedezte fel a problémát, mi a jelenlegi státusza, és milyen kontroll lett volna képes észlelni vagy korlátozni a kitettséget. Az esetek technikai részleteikben különböznek, de közös bennük egy téma: a szivárgások nem egzotikus támadásokkal kezdődtek. Rutin viselkedéssel és megbízható kapcsolatokkal indultak.

Ez a bejegyzés arra az összefoglalóra és az annak hátterében álló szerkesztői álláspontra épül. A rendelkezésünkre álló forrásanyag rövid, ezért az általa leírt általános mintáknál maradunk, ahelyett hogy olyan technikai részleteket adnánk hozzá, amelyeket nem tudunk ellenőrizni.

Mi történt a Samsung, az EchoLeak és a Salesloft Drift szivárgásaiban

A három eset az AI-hoz kapcsolódó adatkitettség három különböző módját fedi le.

Samsung. A mérnökök kódot másoltak be a ChatGPT-be. Nem volt szükség hackerre. Az alkalmazottak munkavégzési eszközként használtak egy nyilvános chatbotot, és a bizalmas anyag abban a pillanatban kikerült a vállalat ellenőrzése alól, amikor beküldték.

EchoLeak. Ez az incidens a többi közé van sorolva, mint például az AI-funkciók egy példája, amely a tartalom feldolgozása és más információkkal való összekapcsolása révén adatokat tesz ki. Azt mutatja, hogy a kockázat nem korlátozódik arra, amit egy személy begépel. Az AI-rendszer saját adathozzáférése is számít.

Salesloft Drift. Ez az eset összekapcsolt OAuth-integrációkat érintett. Az OAuth lehetővé teszi, hogy egy alkalmazás hozzáférjen egy másikban lévő adatokhoz anélkül, hogy megosztaná a jelszót. Ez kényelmes, de amikor egy összekapcsolt szolgáltatást kompromittálnak, az általa birtokolt hozzáférési tokenek belépési útvonallá válhatnak minden olyan fiókba, amelyhez kapcsolódott.

A Jazz Security írása minden esetnél rögzíti azt is, hogy ki fedezte fel, és hol áll ma. Az olvasók számára hasznosabb tanulság az, hogy minden eset mellé egy kontroll van párosítva: valami, ami láthatóságot adhatott volna a tevékenységbe, vagy korlátozhatta volna, hogy az adatok milyen messzire jutnak.

Példák AI-adatszivárgásra: hogyan tették ki az adatokat a mindennapi AI-használat során

Ami ezekben az AI-adatszivárgási példákban kiemelkedik, az az, hogy mennyire hétköznapiak voltak a kiindulópontok.

Szöveget beilleszteni egy chatbotba olyan érzés, mint egy keresőmezőt vagy jegyzetalkalmazást használni. Nem olyan érzés, mint adatokat küldeni egy harmadik félnek. Ez a szakadék az érzékelés és a valóság között az, ahol a Samsung-típusú szivárgás megtörténik. Amint az információt beküldik, általában korlátozott rálátásod van arra, hol tárolják, vagy ki férhet hozzá a szolgáltatás feltételei szerint.

Az összekapcsolt alkalmazások ugyanígy működnek. Az integráció hozzáférésének megadása néhány kattintás, és az engedély gyakran hónapokig vagy évekig érintetlenül marad. Ha az integráció mögötti szolgáltatót feltörik, a kitettség eléri azokat az adatokat, amelyeket talán már el is felejtettél, hogy megosztottál.

Az AI-asszisztensek egy harmadik réteget adnak hozzá. Amikor egy eszköz képes olvasni az e-mailjeidet, dokumentumaidat vagy üzeneteidet, hogy segítőkész legyen, minden, amit olvasni tud, potenciálisan érintett lehet, ha az eszköz nem szándékolt módon viselkedik. Az EchoLeak példa szemlélteti, miért számít a hozzáférési hatókör ugyanannyira, mint magának az AI-nak a minősége.

Mit veszítettek az érintett személyek és szervezetek

A részletek esetenként eltérnek, és nem találgatunk olyan számokat, amelyeket a forrás-összefoglaló nem ad meg. Általánosságban a kitettség néhány kategóriába esik:

  • Tulajdonosi információ. A nyilvános chatbotba bevitt forráskód és belső anyag többé nem tekinthető magánjellegűnek.
  • Üzleti és ügyféladatok. Az összekapcsolt alkalmazások kompromittálása kitettsé teheti a kapcsolt platformokon tárolt rekordokat, ami az érintett szervezetek ügyfeleit és kapcsolattartóit érinti, nem csak magukat a szervezeteket.
  • Kontroll és láthatóság. Sok incidensben a tartós kár nem csak maga az adat, hanem annak a világos képnek az elvesztése, hogy hová került.

Ez a minta vállalati környezeten kívül is megjelenik. A Suno adatvédelmi incidens, amely több mint 55 millió felhasználó személyes adatait tette ki, és amelyet soha nem jelentettek be nekik, megmutatja, hogyan válhat egy felhasználói adatokat tároló AI-szolgáltatás kitettségi ponttá akkor is, ha a felhasználók semmi szokatlant nem tettek.

Mit jelent ez a számodra

Nem kell nagyvállalatnál dolgoznod ahhoz, hogy ezek a tanulságok vonatkozzanak rád. Az egyének nap mint nap másolnak be személyes dokumentumokat, orvosi kérdéseket, szerződéseket és munkavázlatokat chatbotokba. Sokan AI-eszközöket és más alkalmazásokat is összekapcsolnak e-maillel, naptárakkal és felhőtárhellyel.

A gyakorlati lényeg az, hogy a kitettséged két általad kontrollált dologtól függ: attól, mit adsz át egy AI-szolgáltatásnak, és attól, milyen hozzáférést hagysz bekapcsolva. Egyik sem igényel technikai szakértelmet a kezeléshez. Az AI fenyegetettségi kép változásáról szóló szélesebb kontextust az AI-zsarolóvírusok és az adatokat kiszivárogtató hibás tesztmodellek című cikkünk tárgyalja.

Szokások, amelyek korlátozzák a saját AI-kitettségedet

  • Kezeld a chatbot-promptot úgy, mint egy idegennek küldött e-mailt. Ha nem küldenéd el a szervezeteden vagy háztartásodon kívülre, ne illeszd be.
  • Először távolítsd el az azonosító részleteket. Helyettesítsd a neveket, számlaszámokat, hitelesítő adatokat és ügyféladatokat helyőrzőkkel, mielőtt segítséget kérsz.
  • Ellenőrizd a munkahelyi szabályzatot. Ha a munkáltatód jóváhagyott AI-eszközt biztosít, azt használd személyes fiók helyett. Ha nincs szabályzat, kérj egyet.
  • Rendszeresen tekintsd át az összekapcsolt alkalmazásokat. Nyisd meg az e-mail-, felhőtárhely- és munkahelyi fiókjaid biztonsági vagy engedélyoldalát, és távolítsd el a már nem használt integrációkat.
  • Részesítsd előnyben a szűk engedélyeket. Amikor egy alkalmazás széles hozzáférést kér, ellenőrizd, létezik-e korlátozottabb lehetőség.
  • Tekintsd át a csevegési előzményeket és adatbeállításokat. Nézd meg, mit őriznek meg az AI-szolgáltatásaid, és hogy le tudsz-e mondani a betanítási felhasználásról, vagy törölni tudod-e a korábbi beszélgetéseket.
  • Használj egyedi jelszavakat és többtényezős hitelesítést. Ezek nem állítanak meg minden szivárgást, de korlátozzák, hogy egy kitett fiók mihez vezethet.

Tanulságok

A Samsung, az EchoLeak és a Salesloft Drift AI-adatszivárgási példái ugyanarra a következtetésre mutatnak: a legnagyobb kitettségek gyakran a kényelemből, nem pedig kifinomult támadásokból erednek. Kezdd azzal, hogy felméred, mit másolsz be chatbotokba, majd menj végig az összekapcsolt alkalmazásaidon, és vonjad vissza, amire nincs szükséged. Az AI-szolgáltatások adatkitettségének egy másik példájáért olvasd el a Suno-incidensről szóló cikkünket, és az AI-hoz kapcsolódó kockázatok szélesebb kontextusáért lásd AI-zsarolóvírus-összefoglalónkat. Néhány percnyi áttekintés most sokkal könnyebb, mint később kideríteni, hová kerültek az adataid.