Скорошен анализ на Jazz Security преминава през реални примери за изтичане на данни чрез AI — от инженерите на Samsung, които поставят код в ChatGPT, до инцидентите EchoLeak и Salesloft Drift. За всеки случай се разглежда кой е открил проблема, какъв е текущият му статус и какъв контрол е могъл да засече или ограничи излагането. Случаите се различават по технически детайли, но споделят една тема: изтичанията не са започнали с екзотични атаки. Те са започнали с рутинно поведение и доверени връзки.

Тази публикация се основава на онова резюме и редакционния ъгъл зад него. Изходният материал, с който разполагаме, е кратък, затова се придържаме към общите модели, които той описва, вместо да добавяме технически подробности, които не можем да проверим.

Какво се случи при изтичанията на Samsung, EchoLeak и Salesloft Drift

Трите случая обхващат три различни начина, по които се случва излагане на данни, свързано с AI.

Samsung. Инженери поставиха код в ChatGPT. Не беше необходим хакер. Служителите използваха публичен чатбот като работен инструмент и чувствителният материал напусна контрола на компанията в момента, в който беше подаден.

EchoLeak. Този инцидент е групиран с останалите като пример за AI функция, която излага данни чрез начина, по който обработва съдържание и се свързва с друга информация. Той показва, че рискът не се ограничава до това, което човек въвежда. Достъпът на самата AI система до данни също има значение.

Salesloft Drift. Този случай включваше свързани OAuth интеграции. OAuth позволява на едно приложение да достъпва данни в друго, без да се споделя парола. Това е удобно, но когато свързана услуга бъде компрометирана, токените за достъп, които тя държи, могат да се превърнат в път към всеки акаунт, с който е била свързана.

Материалът на Jazz Security също така отбелязва кой е открил всеки случай и какво е положението му днес. За читателите по-полезният извод е съчетаването на всеки случай с контрол: нещо, което е могло да даде видимост върху дейността или да ограничи докъде са стигнали данните.

Примери за изтичане на данни чрез AI: как ежедневната употреба на AI изложи данни

Това, което се откроява в тези примери за изтичане на данни чрез AI, е колко обикновени са били отправните точки.

Поставянето на текст в чатбот се усеща като използване на поле за търсене или приложение за бележки. Не се усеща като изпращане на данни към трета страна. Именно в тази пропаст между възприятие и реалност се случва изтичането от типа на Samsung. След като информацията бъде подадена, обикновено имате ограничена видимост къде се съхранява или кой може да я достъпи съгласно условията на услугата.

Свързаните приложения работят по същия начин. Предоставянето на достъп на интеграция отнема няколко кликвания и разрешението често остава недокоснато месеци или години. Ако доставчикът зад тази интеграция бъде компрометиран, излагането достига до данни, за които може да сте забравили, че сте споделили.

AI асистентите добавят трети слой. Когато един инструмент може да чете имейлите, документите или съобщенията ви, за да бъде полезен, всичко, което може да прочете, е потенциално засегнато, ако инструментът се държи по неочакван начин. Примерът с EchoLeak илюстрира защо обхватът на достъпа има значение точно толкова, колкото и качеството на самия AI.

Какво загубиха засегнатите хора и организации

Спецификите се различават по случай и няма да гадаем цифри, които резюмето на източника не дава. В общи линии излагането попада в няколко категории:

  • Собствена информация. Изходният код и вътрешният материал, въведени в публичен чатбот, вече не могат да се третират като поверителни.
  • Бизнес и клиентски данни. Компрометирането на свързани приложения може да изложи записи, съхранявани в свързаните платформи, което засяга клиентите и контактите на участващите организации, а не само самите организации.
  • Контрол и видимост. При много инциденти трайната вреда не е само самите данни, а загубата на ясна представа къде са отишли.

Този модел се проявява и извън корпоративна среда. Изтичането на данни от Suno, което изложи личната информация на над 55 милиона потребители и никога не беше разкрито пред тях, показва как една AI услуга, съхраняваща потребителски данни, може да се превърне в точка на излагане, дори когато потребителите не са направили нищо необичайно.

Какво означава това за вас

Не е нужно да работите в голяма компания, за да се отнасят до вас тези уроци. Хората всеки ден поставят лични документи, медицински въпроси, договори и работни чернови в чатботове. Мнозина също свързват AI инструменти и други приложения с имейл, календари и облачно хранилище.

Практическият извод е, че излагането ви зависи от две неща, които контролирате: какво предоставяте на AI услуга и какъв достъп оставяте включен. Нито едно от двете не изисква техническа експертиза, за да се управлява. По-широк контекст за това как AI променя картината на заплахите е разгледан в нашия материал за AI ransomware и дефектни тестови модели, които изтичат данни.

Навици, които ограничават собственото ви излагане чрез AI

  • Отнасяйте се към подканата в чатбота като към имейл до непознат. Ако не бихте го изпратили извън организацията или домакинството си, не го поставяйте там.
  • Първо премахнете идентифициращите данни. Заменете имена, номера на сметки, идентификационни данни и клиентска информация със заместители, преди да поискате помощ.
  • Проверете политиката на работното си място. Ако работодателят ви предоставя одобрен AI инструмент, използвайте него вместо личен акаунт. Ако няма политика, поискайте такава.
  • Преглеждайте редовно свързаните приложения. Отворете страницата за сигурност или разрешения на имейла, облачното хранилище и работните си акаунти и премахнете интеграциите, които вече не използвате.
  • Предпочитайте тесни разрешения. Когато дадено приложение поиска широк достъп, проверете дали съществува по-ограничена опция.
  • Прегледайте историята на чатовете и настройките за данни. Вижте какво запазват вашите AI услуги и дали можете да се откажете от използване за обучение или да изтриете минали разговори.
  • Използвайте уникални пароли и многофакторно удостоверяване. Те не спират всяко изтичане, но ограничават до какво може да доведе един изложен акаунт.

Изводи

Примерите за изтичане на данни чрез AI от Samsung, EchoLeak и Salesloft Drift водят до едно и също заключение: най-големите излагания често идват от удобството, а не от сложни атаки. Започнете с одит на това, което поставяте в чатботове, след това прегледайте свързаните си приложения и отменете това, което не ви трябва. За друг пример за излагане на данни от AI услуга прочетете за изтичането от Suno, а за по-широк контекст относно риска, свързан с AI, вижте нашия материал за AI ransomware. Няколко минути преглед сега са далеч по-лесни от опитите по-късно да разберете къде са отишли данните ви.