Согласно отчёту Help Net Security, злоумышленники создали AI-агента, предназначенного для LLMjacking. Агент захватывает открытые AI-модели и использует их для кражи учётных данных и майнинга криптовалют. Расходы ложатся на жертву. Для всех, кто запускает самостоятельно размещённую модель или хранит платный ключ AI API, LLMjacking вскрывает AI-модели — теперь это практический риск, который стоит понимать.

Что такое LLMjacking и как работает агент

LLMjacking — это перехват большой языковой модели (LLM), которой владеет или за которую платит кто-то другой. Вместо покупки вычислений или доступа к API злоумышленник находит доступную модель или утёкший ключ и использует её бесплатно. Счёт оплачивает жертва.

Новое здесь — автоматизация. В отчёте описывается AI-агент, созданный для этой цели. Вместо того чтобы человек вручную искал неправильно настроенные сервисы, поиск и захват выполняет программное обеспечение. Заявленные цели — кража учётных данных и майнинг криптовалют, и то и другое превращает перехваченную модель в прямую прибыль для злоумышленника.

Источник описывает инструмент лишь на высоком уровне, и мы не будем строить догадки сверх этого. Более широкая мысль остаётся в силе: когда обнаружение и эксплуатация автоматизированы, открытому сервису не нужно быть интересным, чтобы его нашли. Ему достаточно быть доступным.

Как перехватывают открытые AI-ключи и сервисы

Предполагаемая схема проста. Агент сканирует открытые AI-модели и конечные точки API, а затем берёт под контроль то, что находит. Наиболее важны два вида открытости:

  • Открытые конечные точки. Самостоятельно размещённая модель или AI-интерфейс, доступные из интернета, часто из-за удобной настройки, проброшенного порта или отсутствующего входа.
  • Открытые учётные данные. Ключи API, лежащие там, где их быть не должно, — например, в репозиториях кода, общих конфигурационных файлах или старых проектах, о которых никто не помнит.

Как только у злоумышленника оказывается то или другое, модель работает на него. Вычисления идут на вашем оборудовании или в вашем аккаунте, а использование отражается в вашем счёте или замедляет вашу машину.

Аспект кражи учётных данных добавляет второй уровень тревоги. Перехваченный AI-сервис — это не только бесплатный ресурс. Он также может стать способом собрать больше учётных данных, поэтому один забытый ключ может превратиться в более масштабную проблему.

Что это значит для вас

Если вы используете AI только через потребительское чат-приложение, ваша прямая подверженность риску ограничена. Риск растёт по мере того, как вы делаете больше следующего:

  • Вы запускаете модели дома. Энтузиасты домашних серверов, которые размещают локальные LLM, веб-интерфейсы или инструменты автоматизации, — наиболее очевидные цели. AI-сервис без аутентификации на проброшенном порту — как раз то, что автоматизированный сканер создан находить.
  • Вы храните ключи API. Разработчики и любители, подключающие AI-сервисы к скриптам, расширениям браузера или побочным проектам, могут иметь ключи, разбросанные по нескольким местам.
  • Вы повторно используете учётные данные. Если перехваченная система раскрывает пароль, который вы используете в другом месте, ущерб распространяется за пределы AI-сервиса. Повторное использование превращает одну компрометацию во множество.

Финансовую сторону тоже легко упустить. Майнинг криптовалют и интенсивное использование моделей незаметно потребляют ресурсы. Вы можете заметить это только тогда, когда счёт резко вырастает, оборудование перегревается или провайдер отмечает необычную активность.

Это вписывается в более широкую тенденцию. Злоумышленники всё чаще используют AI в наступательных целях, а не просто атакуют его. Наш материал о том, как российские хакеры использовали Claude AI для пересборки обнаруженного вредоносного ПО, показывает тот же сдвиг в сторону инструментов с поддержкой AI на стороне злоумышленников.

Как защитить ключи API, сетевую доступность и настройки домашнего сервера

Ни один из этих шагов не является экзотическим. Большинство — это базовая гигиена, применённая к более новому виду сервисов.

Относитесь к ключам API как к паролям.

  1. Составьте список каждого AI-сервиса, за который вы платите или который подключён к проекту.
  2. Ротируйте ключи, которые вы больше не узнаёте или не использовали недавно, и удаляйте те, которые вам не нужны.
  3. Держите ключи вне репозиториев кода и общих документов. Используйте переменные окружения или менеджер паролей.
  4. Там, где провайдер это позволяет, установите лимиты расходов и оповещения об использовании, чтобы перехваченный ключ был быстро замечен.
  5. Используйте отдельный ключ для каждого проекта, чтобы одна утечка не раскрывала всё.

Сократите сетевую доступность.

  1. Проверьте маршрутизатор на наличие правил проброса портов и удалите те, о создании которых вы не помните.
  2. Не открывайте самостоятельно размещённые AI-интерфейсы напрямую в интернет. Если нужен удалённый доступ, поместите их за VPN или другой контролируемый вами туннель с аутентификацией.
  3. Включите аутентификацию для каждого AI веб-интерфейса или API, который вы запускаете, даже если он находится только в вашей домашней сети.
  4. Обновляйте программное обеспечение модели и её зависимости.

Следите за предупреждающими признаками.

  1. Неожиданные списания или всплески использования в AI-аккаунте.
  2. Устойчивая высокая нагрузка на CPU или GPU, когда вы ничего не запускаете.
  3. Журналы, показывающие запросы с адресов, которые вы не узнаёте.

Исправьте повторное использование учётных данных. Используйте уникальные пароли для каждого сервиса и включайте многофакторную аутентификацию там, где она доступна. Если перехваченный сервис когда-либо раскроет пароль, уникальные учётные данные помогут сдержать последствия.

Ключевые выводы

Отчёт короткий, но урок ясен. LLMjacking вскрывает AI-модели, и это становится автоматизированной, масштабируемой деятельностью, а платят за неё владельцы открытых ключей и серверов. Вам не нужно прекращать использовать AI-инструменты. Вам нужно знать, где находятся ваши ключи и что раскрывает ваша сеть.

Сегодня найдите несколько минут, чтобы проверить свои ключи AI API, проверить любые самостоятельно размещённые AI-сервисы, которые вы запускаете, и просмотреть правила проброса портов на вашем маршрутизаторе. Если вы хотите получить больше контекста о том, как злоумышленники используют AI, прочитайте наш материал о разработке вредоносного ПО с поддержкой AI.