Nedávný článek od Jazz Security prochází skutečné příklady úniku dat v AI, od inženýrů Samsungu vkládajících kód do ChatGPT až po incidenty EchoLeak a Salesloft Drift. U každého případu pokrývá, kdo problém objevil, jeho současný stav a kontrolu, která mohla odhalit nebo omezit rozsah expozice. Případy se liší v technických detailech, ale sdílejí společné téma: úniky nezačaly exotickými útoky. Začaly rutinním chováním a důvěryhodnými spojeními.

Tento příspěvek vychází z tohoto shrnutí a redakčního úhlu pohledu, který za ním stojí. Zdrojový materiál, který máme k dispozici, je stručný, proto se držíme širokých vzorců, které popisuje, a nepřidáváme technické podrobnosti, které nemůžeme ověřit.

Co se stalo při únicích Samsung, EchoLeak a Salesloft Drift

Tyto tři případy pokrývají tři různé způsoby, jak k expozici dat související s AI dochází.

Samsung. Inženýři vložili kód do ChatGPT. Nebyl zapotřebí žádný hacker. Zaměstnanci použili veřejný chatbot jako pracovní nástroj a citlivý materiál opustil kontrolu společnosti v okamžiku, kdy byl odeslán.

EchoLeak. Tento incident je zařazen k ostatním jako příklad toho, jak funkce AI vystavuje data prostřednictvím způsobu, jakým zpracovává obsah a propojuje se s dalšími informacemi. Ukazuje, že riziko není omezeno na to, co člověk napíše. Záleží také na přístupu samotného AI systému k datům.

Salesloft Drift. Tento případ zahrnoval propojené OAuth integrace. OAuth umožňuje jedné aplikaci přistupovat k datům v jiné bez sdílení hesla. To je pohodlné, ale když je propojená služba kompromitována, přístupové tokeny, které drží, se mohou stát cestou do každého účtu, ke kterému byla propojena.

Článek od Jazz Security také zaznamenává, kdo každý případ objevil a v jakém stavu je dnes. Pro čtenáře je užitečnějším přínosem spárování každého případu s kontrolou: něčím, co mohlo poskytnout přehled o aktivitě nebo omezit, jak daleko se data dostala.

Příklady úniku dat v AI: jak každodenní používání AI vystavilo data

Co vyniká napříč těmito příklady úniku dat v AI, je to, jak obyčejné byly výchozí body.

Vkládání textu do chatbatu působí jako používání vyhledávacího pole nebo aplikace na poznámky. Nepůsobí to jako odesílání dat třetí straně. Právě v této mezeře mezi vnímáním a realitou dochází k úniku typu Samsung. Jakmile jsou informace odeslány, máte obecně omezený přehled o tom, kde jsou uloženy nebo kdo k nim má přístup podle podmínek služby.

Propojené aplikace fungují stejně. Udělení přístupu integraci vyžaduje pár kliknutí a oprávnění často zůstává nedotčeno měsíce nebo roky. Pokud je dodavatel stojící za touto integrací napaden, expozice zasáhne data, která jste možná zapomněli, že jste sdíleli.

AI asistenti přidávají třetí vrstvu. Když nástroj může číst váš e-mail, dokumenty nebo zprávy, aby byl užitečný, vše, co může přečíst, je potenciálně ve hře, pokud se nástroj chová ne zamýšleným způsobem. Příklad EchoLeak ilustruje, proč rozsah přístupu záleží stejně jako kvalita samotné AI.

Co postižení lidé a organizace ztratili

Specifika se liší případ od případu a nebudeme hádat čísla, která zdrojové shrnutí neuvádí. Obecně řečeno, expozice spadá do několika kategorií:

  • Vlastnické informace. Zdrojový kód a interní materiál vložený do veřejného chatbatu již nelze považovat za soukromý.
  • Obchodní data a data zákazníků. Kompromitace propojených aplikací může vystavit záznamy uložené v propojených platformách, což ovlivňuje zákazníky a kontakty zúčastněných organizací, nejen samotné organizace.
  • Kontrola a přehled. V mnoha incidentech není trvalou škodou pouze samotná data, ale ztráta jakéhokoli jasného obrazu o tom, kam se dostala.

Tento vzorec se objevuje i mimo podnikové prostředí. Únik dat Suno, který vystavil osobní informace více než 55 milionů uživatelů a nikdy jim nebyl oznámen, ukazuje, jak se služba AI uchovávající uživatelská data může stát bodem expozice, i když uživatelé neudělali nic neobvyklého.

Co to znamená pro vás

Nemusíte pracovat ve velké společnosti, aby se tyto lekce daly aplikovat. Jednotlivci vkládají osobní dokumenty, lékařské otázky, smlouvy a pracovní koncepty do chatbotů každý den. Mnozí také propojují AI nástroje a další aplikace s e-mailem, kalendáři a cloudovým úložištěm.

Praktickým bodem je, že vaše expozice závisí na dvou věcech, které kontrolujete: co předáváte službě AI a jaký přístup necháváte zapnutý. Ani jedno nevyžaduje technickou odbornost ke správě. Širší kontext o tom, jak AI mění obraz hrozeb, je pokryt v našem přehledu AI ransomware a vadné testovací modely, které unikají data.

Návyky, které omezují vaši vlastní expozici vůči AI

  • Zacházejte s promptem v chatbatu jako s e-mailem cizímu člověku. Pokud byste to neposlali mimo svou organizaci nebo domácnost, nevkládejte to.
  • Nejprve odstraňte identifikační údaje. Nahraďte jména, čísla účtů, přihlašovací údaje a informace o klientech zástupnými znaky, než požádáte o pomoc.
  • Zkontrolujte svou pracovní politiku. Pokud váš zaměstnavatel poskytuje schválený AI nástroj, použijte jej místo osobního účtu. Pokud žádná politika neexistuje, požádejte o ni.
  • Pravidelně kontrolujte propojené aplikace. Otevřete stránku zabezpečení nebo oprávnění svého e-mailu, cloudového úložiště a pracovních účtů a odstraňte integrace, které již nepoužíváte.
  • Upřednostňujte úzká oprávnění. Když aplikace žádá o široký přístup, zkontrolujte, zda existuje omezenější možnost.
  • Zkontrolujte historii chatu a nastavení dat. Podívejte se, co vaše AI služby uchovávají a zda se můžete odhlásit z použití pro trénink nebo smazat minulé konverzace.
  • Používejte jedinečná hesla a vícefaktorové ověřování. Nezastaví to každý únik, ale omezuje to, k čemu může vystavený účet vést.

Hlavní poznatky

Příklady úniku dat v AI od Samsungu, EchoLeak a Salesloft Drift vedou ke stejnému závěru: největší expozice často pocházejí z pohodlí, nikoli ze sofistikovaných útoků. Začněte auditem toho, co vkládáte do chatbotů, poté projděte své propojené aplikace a odeberte to, co nepotřebujete. Pro další příklad expozice dat služby AI si přečtěte o úniku Suno a pro širší kontext o rizicích souvisejících s AI navštivte naše pokrytí AI ransomware. Několik minut kontroly nyní je mnohem snazší než později zjišťovat, kam se vaše data dostala.