Útočníci vytvořili agenta AI navrženého pro LLMjacking, podle zprávy od Help Net Security. Agent přebírá odhalené modely AI a využívá je ke krádeži přihlašovacích údajů a těžbě kryptoměn. Náklady dopadají na oběť. Pro každého, kdo provozuje vlastní model nebo drží placený API klíč AI, jsou odhalené modely AI při LLMjacking nyní praktickým rizikem, které stojí za to pochopit.

Co je LLMjacking a jak agent funguje

LLMjacking je únos velkého jazykového modelu (LLM), který vlastní nebo za který platí někdo jiný. Místo nákupu výpočetního výkonu nebo přístupu k API útočník najde model, který je dostupný, nebo klíč, který unikl, a použije ho zdarma. Oběť platí účet.

Nové je zde automatizace. Zpráva popisuje agenta AI vytvořeného pro tento účel. Místo aby člověk ručně hledal špatně nakonfigurované služby, software provádí vyhledávání i převzetí. Uvedenými cíli je krádež přihlašovacích údajů a těžba kryptoměn, což obojí proměňuje unesený model v přímý zisk pro útočníka.

Zdroj popisuje nástroj pouze na vysoké úrovni a my nebudeme spekulovat nad jeho rámec. Širší pointa však stále platí: když jsou objevování a zneužívání automatizované, odhalená služba nemusí být zajímavá, aby byla nalezena. Stačí, aby byla dostupná.

Jak jsou odhalené klíče a služby AI unášeny

Navrhovaný vzorec je přímočarý. Agent skenuje odhalené modely AI a API koncové body a poté převezme kontrolu nad tím, co najde. Nejdůležitější jsou dva druhy odhalení:

  • Odhalené koncové body. Vlastní model nebo rozhraní AI, které je dostupné z internetu, často kvůli pohodlnému nastavení, přesměrovanému portu nebo chybějícímu přihlášení.
  • Odhalené přihlašovací údaje. API klíče umístěné tam, kde by neměly být, například v úložištích kódu, sdílených konfiguračních souborech nebo starých projektech, na které si nikdo nepamatuje.

Jakmile útočník získá jedno nebo druhé, model pracuje pro něj. Výpočet běží na vašem hardwaru nebo vašem účtu a využití se objeví na vaší faktuře nebo zpomalí váš stroj.

Úhel krádeže přihlašovacích údajů přidává druhou vrstvu obav. Unesená služba AI není jen bezplatný zdroj. Může se také stát způsobem, jak shromáždit další přihlašovací údaje, a proto se z jednoho zapomenutého klíče může stát širší problém.

Co to znamená pro vás

Pokud používáte AI pouze prostřednictvím spotřebitelské chatovací aplikace, vaše přímá expozice je omezená. Riziko roste, když děláte více z následujícího:

  • Provozujete modely doma. Nadšenci do domácích serverů, kteří hostují lokální LLM, webová rozhraní nebo automatizační nástroje, jsou nejzřetelnějšími cíli. Neautentizovaná služba AI na přesměrovaném portu je přesně to, co je automatizovaný skener navržen najít.
  • Držíte API klíče. Vývojáři a hobbyisté, kteří připojují služby AI ke skriptům, rozšířením prohlížeče nebo vedlejším projektům, mohou mít klíče roztroušené na několika místech.
  • Znovu používáte přihlašovací údaje. Pokud unesený systém odhalí heslo, které používáte jinde, škody se šíří za službu AI. Opětovné použití proměňuje jediné kompromitování v mnoho.

Finanční stránka je také snadno přehlédnutelná. Těžba kryptoměn a intenzivní používání modelu spotřebovávají zdroje tiše. Můžete si toho všimnout až tehdy, když faktura vyskočí, váš hardware běží horký nebo poskytovatel označí neobvyklou aktivitu.

To zapadá do širšího trendu. Útočníci stále více využívají AI ofenzivně, nejen že na ni cílí. Naše pokrytí toho, jak ruští hackeři použili Claude AI k obnovení detekovaného malwaru, ukazuje stejný posun směrem k nástrojům s asistencí AI na straně útočníka.

Jak zabezpečit API klíče, síťovou expozici a nastavení domácího serveru

Žádný z těchto kroků není exotický. Většina je základní hygienou aplikovanou na novější druh služby.

Zacházejte s API klíči jako s hesly.

  1. Sestavte seznam všech služeb AI, za které platíte nebo které máte připojené k projektu.
  2. Rotujte klíče, které již nepoznáváte nebo které jste nedávno nepoužili, a smažte ty, které nepotřebujete.
  3. Udržujte klíče mimo úložiště kódu a sdílené dokumenty. Místo toho používejte proměnné prostředí nebo správce hesel.
  4. Kde to váš poskytovatel umožňuje, nastavte limity výdajů a upozornění na využití, aby byl unesený klíč rychle zaznamenán.
  5. Používejte samostatný klíč pro každý projekt, aby jeden únik neodhalil vše.

Snižte síťovou expozici.

  1. Zkontrolujte svůj router na pravidla přesměrování portů a odstraňte všechna, která si nepamatujete, že jste vytvořili.
  2. Nevystavujte vlastní rozhraní AI přímo internetu. Pokud potřebujete vzdálený přístup, umístěte je za VPN nebo jiný autentizovaný tunel, který ovládáte.
  3. Zapněte autentizaci pro každé webové rozhraní AI nebo API, které provozujete, i když žije pouze na vaší domácí síti.
  4. Udržujte software modelu a jeho závislosti aktuální.

Sledujte varovné signály.

  1. Neočekávané poplatky nebo skoky ve využití na účtu AI.
  2. Trvalé vysoké zatížení CPU nebo GPU, když nic nespouštíte.
  3. Protokoly zobrazující požadavky z adres, které nepoznáváte.

Opravte opětovné použití přihlašovacích údajů. Používejte jedinečná hesla pro každou službu a zapněte vícefaktorovou autentizaci, kde je k dispozici. Pokud někdy unesená služba odhalí heslo, jedinečné přihlašovací údaje udrží následky pod kontrolou.

Klíčové poznatky

Zpráva je krátká, ale lekce je jasná. LLMjacking odhalené modely AI se stává automatizovanou a škálovatelnou činností a lidé, kteří za to platí, jsou vlastníci odhalených klíčů a serverů. Nemusíte přestat používat nástroje AI. Potřebujete vědět, kde žijí vaše klíče a co vaše síť odhaluje.

Dnes si vezměte několik minut na audit vašich API klíčů AI, zkontrolujte všechny vlastní služby AI, které provozujete, a projděte pravidla přesměrování portů na vašem routeru. Pokud chcete více kontextu o tom, jak útočníci využívají AI, přečtěte si náš článek o vývoji malwaru s asistencí AI.