Зловмисники створили AI-агента, призначеного для LLMjacking, згідно зі звітом Help Net Security. Агент захоплює оголені AI-моделі та використовує їх для викрадення облікових даних і майнінгу криптовалют. Витрати лягають на жертву. Для всіх, хто запускає самостійно розміщену модель або має платний API-ключ AI, LLMjacking оголених AI-моделей тепер є практичним ризиком, який варто розуміти.

Що таке LLMjacking і як працює агент

LLMjacking — це захоплення великої мовної моделі (LLM), якою володіє або за яку платить хтось інший. Замість купівлі обчислювальних ресурсів чи доступу до API зловмисник знаходить модель, до якої можна дістатися, або ключ, що витік, і використовує їх безкоштовно. Жертва оплачує рахунок.

Новим тут є автоматизація. У звіті описано AI-агента, створеного саме для цієї мети. Замість того, щоб людина вручну шукала неправильно налаштовані сервіси, це робить програмне забезпечення — і знаходить, і захоплює. Заявлені цілі — викрадення облікових даних і майнінг криптовалют, і обидві перетворюють захоплену модель на прямий прибуток для зловмисника.

Джерело описує інструмент лише на загальному рівні, і ми не будемо робити припущень поза цим. Ширший висновок залишається незмінним: коли виявлення та експлуатація автоматизовані, оголений сервіс не повинен бути цікавим, щоб його знайшли. Достатньо, щоб до нього можна було дістатися.

Як викрадають оголені AI-ключі та сервіси

Запропонована схема є прямолінійною. Агент сканує на предмет оголених AI-моделей та API-ендпоінтів, потім бере під контроль те, що знаходить. Найбільше значення мають два види оголення:

  • Оголені ендпоінти. Самостійно розміщена модель або AI-інтерфейс, доступний з інтернету, часто через зручне налаштування, перенаправлений порт або відсутність входу.
  • Оголені облікові дані. API-ключі, що лежать там, де їх не повинно бути, наприклад у репозиторіях коду, спільних конфігураційних файлах або старих проєктах, про які ніхто не пам'ятає.

Щойно зловмисник має одне або інше, модель працює на нього. Обчислення виконуються на вашому обладнанні або у вашому обліковому записі, а використання з'являється у вашому рахунку або сповільнює вашу машину.

Аспект викрадення облікових даних додає другий рівень занепокоєння. Захоплений AI-сервіс — це не лише безкоштовний ресурс. Він також може стати способом збору додаткових облікових даних, і саме тому один забутий ключ може перетворитися на ширшу проблему.

Що це означає для вас

Якщо ви використовуєте AI лише через споживчий чат-додаток, ваша пряма експозиція обмежена. Ризик зростає, коли ви робите більше з наступного:

  • Ви запускаєте моделі вдома. Ентузіасти домашніх серверів, які розміщують локальні LLM, веб-інтерфейси або інструменти автоматизації, є найочевиднішими цілями. AI-сервіс без автентифікації на перенаправленому порті — саме те, що автоматизований сканер створений знаходити.
  • Ви маєте API-ключі. Розробники та аматори, які підключають AI-сервіси до скриптів, розширень браузера або побічних проєктів, можуть мати ключі, розкидані в кількох місцях.
  • Ви повторно використовуєте облікові дані. Якщо захоплена система розкриває пароль, який ви використовуєте деінде, збитки поширюються за межі AI-сервісу. Повторне використання перетворює один злом на багато.

Фінансовий бік також легко пропустити. Майнінг криптовалют і інтенсивне використання моделей споживають ресурси непомітно. Ви можете помітити це лише тоді, коли рахунок різко зростає, ваше обладнання перегрівається або провайдер позначає незвичайну активність.

Це вписується в ширшу тенденцію. Зловмисники дедалі частіше використовують AI в наступальних цілях, а не лише атакують його. Наш матеріал про те, як російські хакери використовували Claude AI для перебудови виявленого шкідливого ПЗ, показує той самий зсув до інструментів за підтримки AI на боці зловмисника.

Як захистити API-ключі, мережеву експозицію та налаштування домашнього сервера

Жоден із цих кроків не є екзотичним. Більшість — це базова гігієна, застосована до новішого виду сервісу.

Ставтеся до API-ключів як до паролів.

  1. Складіть список кожного AI-сервісу, за який ви платите або який підключено до проєкту.
  2. Змініть ключі, які ви більше не впізнаєте або не використовували нещодавно, і видаліть ті, які вам не потрібні.
  3. Тримайте ключі поза репозиторіями коду та спільними документами. Використовуйте змінні середовища або менеджер паролів натомість.
  4. Де ваш провайдер це дозволяє, встановіть ліміти витрат і сповіщення про використання, щоб захоплений ключ було помічено швидко.
  5. Використовуйте окремий ключ для кожного проєкту, щоб один витік не розкривав усе.

Зменште мережеву експозицію.

  1. Перевірте ваш маршрутизатор на правила перенаправлення портів і видаліть ті, які ви не пам'ятаєте, що створювали.
  2. Не оголюйте самостійно розміщені AI-інтерфейси безпосередньо в інтернет. Якщо вам потрібен віддалений доступ, розмістіть їх за VPN або іншим автентифікованим тунелем, який ви контролюєте.
  3. Увімкніть автентифікацію для кожного AI-веб-інтерфейсу або API, який ви запускаєте, навіть якщо він існує лише у вашій домашній мережі.
  4. Тримайте програмне забезпечення моделі та її залежності оновленими.

Стежте за попереджувальними знаками.

  1. Неочікувані витрати або сплески використання в AI-акаунті.
  2. Стійке високе навантаження CPU або GPU, коли ви нічого не запускаєте.
  3. Журнали, що показують запити з адрес, які ви не впізнаєте.

Виправте повторне використання облікових даних. Використовуйте унікальні паролі для кожного сервісу та вмикайте багатофакторну автентифікацію, де вона доступна. Якщо захоплений сервіс колись розкриє пароль, унікальні облікові дані допоможуть стримати наслідки.

Ключові висновки

Звіт короткий, але урок зрозумілий. LLMjacking оголених AI-моделей стає автоматизованою, масштабованою діяльністю, і люди, які за це платять, — це власники оголених ключів і серверів. Вам не потрібно припиняти використовувати AI-інструменти. Вам потрібно знати, де зберігаються ваші ключі та що відкриває ваша мережа.

Сьогодні витратьте кілька хвилин, щоб перевірити свої API-ключі AI, переглянути будь-які самостійно розміщені AI-сервіси, які ви запускаєте, і перевірити правила перенаправлення портів вашого маршрутизатора. Якщо ви хочете більше контексту про те, як зловмисники використовують AI, прочитайте наш матеріал про розробку шкідливого ПЗ за підтримки AI.