Атакуващи са изградили AI агент, предназначен за LLMjacking, според доклад на Help Net Security. Агентът поема контрола над изложени AI модели и ги използва за кражба на идентификационни данни и копаене на криптовалута. Разходът пада върху жертвата. За всеки, който управлява самостоятелно хостван модел или притежава платен AI API ключ, LLMjacking на изложени AI модели вече е реален риск, който си струва да бъде разбран.

Какво е LLMjacking и как работи агентът

LLMjacking е отвличане на голям езиков модел (LLM), който някой друг притежава или плаща за него. Вместо да купува изчислителни ресурси или достъп до API, атакуващият намира достъпен модел или изтекъл ключ и го използва безплатно. Жертвата плаща сметката.

Новото тук е автоматизацията. Докладът описва AI агент, създаден за тази цел. Вместо човек да търси ръчно погрешно конфигурирани услуги, софтуерът извършва откриването и поемането на контрол. Посочените цели са кражба на идентификационни данни и копаене на криптовалута, като и двете превръщат отвлечения модел в директна печалба за атакуващия.

Източникът описва инструмента само на високо ниво и ние няма да спекулираме отвъд това. По-широката точка остава валидна: когато откриването и експлоатацията са автоматизирани, една изложена услуга не трябва да бъде интересна, за да бъде намерена. Достатъчно е да бъде достъпна.

Как изложените AI ключове и услуги биват отвличани

Предложеният модел е прям. Агент сканира за изложени AI модели и API крайни точки, след което поема контрол над това, което намери. Два вида излагане имат най-голямо значение:

  • Изложени крайни точки. Самостоятелно хостван модел или AI интерфейс, който е достъпен от интернет, често поради удобна настройка, пренасочен порт или липсващо влизане.
  • Изложени идентификационни данни. API ключове, разположени на места, където не трябва да бъдат, като хранилища за код, споделени конфигурационни файлове или стари проекти, за които никой не помни.

След като атакуващият има едното или другото, моделът работи за него. Изчисленията се извършват на вашия хардуер или вашия акаунт, а използването се появява на вашата фактура или забавя вашата машина.

Аспектът на кражбата на идентификационни данни добавя втори слой на безпокойство. Отвлечената AI услуга не е само безплатен ресурс. Тя може също да стане начин за събиране на още идентификационни данни, поради което един забравен ключ може да се превърне в по-широк проблем.

Какво означава това за вас

Ако използвате AI само чрез потребителско чат приложение, прякото ви излагане е ограничено. Рискът нараства, когато правите повече от следното:

  • Управлявате модели у дома. Ентусиастите на домашни сървъри, които хостват локални LLM, уеб интерфейси или инструменти за автоматизация, са най-очевидните цели. Неавтентикирана AI услуга на пренасочен порт е точно това, което автоматизираният скенер е създаден да намери.
  • Притежавате API ключове. Разработчиците и любителите, които свързват AI услуги със скриптове, разширения за браузър или странични проекти, може да имат ключове, разпръснати на няколко места.
  • Използвате повторно идентификационни данни. Ако отвлечена система разкрие парола, която използвате другаде, щетите се разпространяват отвъд AI услугата. Повторното използване превръща едно компрометиране в много.

Финансовата страна също е лесна за пропускане. Копаенето на криптовалута и тежкото използване на модела консумират ресурси тихо. Може да забележите само когато сметката скочи, хардуерът ви работи горещо или доставчикът сигнализира за необичайна активност.

Това се вписва в по-широка тенденция. Атакуващите все по-често използват AI офанзивно, не само го атакуват. Нашето отразяване на това как руски хакери са използвали Claude AI, за да пресъздадат засечен зловреден софтуер показва същата промяна към AI-подпомогнати инструменти от страна на атакуващите.

Как да защитите API ключове, мрежово излагане и настройки на домашния сървър

Нито една от тези стъпки не е екзотична. Повечето са основна хигиена, приложена към по-нов вид услуга.

Отнасяйте се към API ключовете като към пароли.

  1. Избройте всяка AI услуга, за която плащате или която сте свързали към проект.
  2. Сменете ключовете, които вече не разпознавате или не сте използвали наскоро, и изтрийте тези, които не ви трябват.
  3. Дръжте ключовете далеч от хранилища за код и споделени документи. Използвайте променливи на средата или мениджър на пароли вместо това.
  4. Където доставчикът ви позволява, задайте лимити за разходи и известия за използване, така че отвлечен ключ да бъде забелязан бързо.
  5. Използвайте отделен ключ за всеки проект, така че едно изтичане да не изложи всичко.

Намалете мрежовото излагане.

  1. Проверете рутера си за правила за пренасочване на портове и премахнете всички, които не помните да сте създавали.
  2. Не излагайте самостоятелно хоствани AI интерфейси директно към интернет. Ако се нуждаете от отдалечен достъп, поставете ги зад VPN или друг автентикиран тунел, който контролирате.
  3. Включете автентикация за всеки AI уеб интерфейс или API, който управлявате, дори ако той живее само в домашната ви мрежа.
  4. Поддържайте софтуера на модела и неговите зависимости актуализирани.

Следете за предупредителни знаци.

  1. Неочаквани такси или скокове в използването на AI акаунт.
  2. Продължително високо натоварване на CPU или GPU, когато не изпълнявате нищо.
  3. Регистри, показващи заявки от адреси, които не разпознавате.

Отстранете повторното използване на идентификационни данни. Използвайте уникални пароли за всяка услуга и включете многофакторна автентикация, където е налична. Ако отвлечена услуга някога разкрие парола, уникалните идентификационни данни задържат последствията ограничени.

Изводи

Докладът е кратък, но урокът е ясен. LLMjacking на изложени AI модели се превръща в автоматизирана, мащабируема дейност, а хората, които плащат за нея, са собствениците на изложените ключове и сървъри. Не е нужно да спрете да използвате AI инструменти. Трябва да знаете къде живеят вашите ключове и какво излага вашата мрежа.

Днес отделете няколко минути, за да одитирате вашите AI API ключове, да проверите всички самостоятелно хоствани AI услуги, които управлявате, и да прегледате правилата за пренасочване на портове на рутера си. Ако искате повече контекст за това как атакуващите използват AI, прочетете нашата статия за AI-подпомогнато разработване на зловреден софтуер.