A Help Net Security jelentése szerint a támadók egy LLMjacking céljára tervezett AI-ágens építettek. Az ágens átveszi az irányítást a leleplezett AI-modellek felett, és hitelesítő adatok lopására, valamint kriptovaluta bányászatra használja őket. A költség a áldozatot terheli. Mindazok számára, akik saját üzemeltetésű modellt futtatnak, vagy fizetős AI API-kulccsal rendelkeznek, az LLMjacking által leleplezett AI-modellek mára olyan gyakorlati kockázatot jelentenek, amelyet érdemes megérteni.

Mi az LLMjacking, és hogyan működik az ágens

Az LLMjacking egy olyan nagy nyelvi modell (LLM) eltérítése, amely valaki más tulajdonában van, vagy amelyért valaki más fizet. Ahelyett, hogy számítási kapacitást vagy API-hozzáférést vásárolna, a támadó talál egy elérhető modellt vagy egy kiszivárgott kulcsot, és ingyen használja. A számlát az áldozat fizeti.

Ami itt új, az az automatizálás. A jelentés egy erre a célra épített AI-ágenst ír le. Ahelyett, hogy egy személy kézzel kutatna rosszul konfigurált szolgáltatások után, a szoftver végzi a felkutatást és az átvételt. A jelentett célok a hitelesítő adatok lopása és a kriptovaluta bányászat, amelyek mindegyike közvetlen hasznot hoz a támadónak az eltérített modellből.

A forrás csak magas szinten írja le az eszközt, és mi nem fogunk ennél tovább spekulálni. A tágabb tanulság továbbra is érvényes: amikor a felderítés és a kihasználás automatizált, egy leleplezett szolgáltatásnak nem kell érdekesnek lennie ahhoz, hogy megtalálják. Csak elérhetőnek kell lennie.

Hogyan térítik el a leleplezett AI-kulcsokat és -szolgáltatásokat

A javasolt minta egyszerű. Az ágens leleplezett AI-modelleket és API-végpontokat keres, majd átveszi az irányítást az általa találtak felett. Kétféle lelepleződés számít a leginkább:

  • Leleplezett végpontok. Egy saját üzemeltetésű modell vagy AI-felület, amely az internetről elérhető, gyakran egy kényelmi beállítás, egy továbbított port vagy egy hiányzó bejelentkezés miatt.
  • Leleplezett hitelesítő adatok. Olyan helyeken tárolt API-kulcsok, ahol nem kellene lenniük, például kódtárakban, megosztott konfigurációs fájlokban vagy olyan régi projektekben, amelyekre senki sem emlékszik.

Amint a támadó bármelyikkel rendelkezik, a modell neki dolgozik. A számítási kapacitás a te hardvereden vagy a te fiókodon fut, és a használat a számládon jelenik meg, vagy lelassítja a gépedet.

A hitelesítő adatok lopásának szempontja egy második aggodalmi réteget ad hozzá. Egy eltérített AI-szolgáltatás nem csak ingyenes erőforrás. Azzá is válhat, amellyel további hitelesítő adatokat gyűjtenek, ezért egy elfelejtett kulcs szélesebb problémává válhat.

Mit jelent ez számodra

Ha csak fogyasztói csevegőalkalmazáson keresztül használsz AI-t, a közvetlen kitettséged korlátozott. A kockázat növekszik, ahogy egyre többet teszel az alábbiakból:

  • Modelleket futtatsz otthon. Az otthoni szerverek rajongói, akik helyi LLM-eket, webes felületeket vagy automatizálási eszközöket üzemeltetnek, a legnyilvánvalóbb célpontok. Egy hitelesítés nélküli AI-szolgáltatás egy továbbított porton pontosan az, amit egy automatizált szkenner megtalálásra terveztek.
  • API-kulcsokkal rendelkezel. A fejlesztők és hobbielemek, akik AI-szolgáltatásokat kapcsolnak szkriptekhez, böngészőbővítményekhez vagy mellékprojektekhez, kulcsokat szórhatnak szét több helyen.
  • Hitelesítő adatokat használsz újra. Ha egy eltérített rendszer olyan jelszót tesz közzé, amelyet máshol is használsz, a kár túlterjed az AI-szolgáltatáson. Az újrafelhasználás egyetlen kompromittálódást sokká változtat.

A pénzügyi oldalt is könnyű figyelmen kívül hagyni. A kriptovaluta bányászat és a nagy modellhasználat csendesen emészti az erőforrásokat. Talán csak akkor veszed észre, amikor a számla megugrik, a hardvered felforrósodik, vagy a szolgáltató szokatlan tevékenységet jelez.

Ez egy szélesebb trendbe illeszkedik. A támadók egyre inkább támadó módon használják az AI-t, nem csak célpontként tekintenek rá. A orosz hackerek hogyan használták a Claude AI-t az észlelt malware újraépítésére című cikkünk ugyanezt az elmozdulást mutatja a támadói oldalon az AI-asszisztált eszközök felé.

Hogyan védd meg az API-kulcsokat, a hálózati kitettséget és az otthoni szerver beállításait

Egyik lépés sem egzotikus. A legtöbb alapvető higiénia, amelyet egy újabb típusú szolgáltatásra alkalmazunk.

Kezeld az API-kulcsokat jelszavakként.

  1. Sorolj fel minden AI-szolgáltatást, amiért fizetsz, vagy amelyet egy projekthez kapcsoltál.
  2. Forgass kulcsokat, amelyeket már nem ismersz fel, vagy amelyeket nemrég nem használtál, és töröld azokat, amelyekre nincs szükséged.
  3. Tartsd a kulcsokat távol a kódtáraktól és a megosztott dokumentumoktól. Használj környezeti változókat vagy jelszókezelőt helyette.
  4. Ahol a szolgáltatód engedi, állíts be költési limiteket és használati riasztásokat, hogy egy eltérített kulcsot gyorsan észrevegyenek.
  5. Használj külön kulcsot minden projekthez, hogy egy szivárgás ne tegyen ki mindent.

Csökkentsd a hálózati kitettséget.

  1. Ellenőrizd az útválasztód porttovábbítási szabályait, és távolítsd el azokat, amelyeket nem emlékszel, hogy létrehoztál.
  2. Ne tedd ki a saját üzemeltetésű AI-felületeket közvetlenül az internetre. Ha távoli hozzáférésre van szükséged, tedd VPN vagy egy általad ellenőrzött hitelesített alagút mögé.
  3. Kapcsold be a hitelesítést minden AI-webes felületen vagy API-n, amelyet futtatsz, még akkor is, ha csak az otthoni hálózatodon él.
  4. Tartsd naprakészen a modell szoftverét és annak függőségeit.

Figyelj a figyelmeztető jelekre.

  1. Váratlan terhek vagy használati csúcsok egy AI-fiókon.
  2. Tartósan magas CPU- vagy GPU-terhelés, amikor nem futtatsz semmit.
  3. Naplók, amelyek olyan címekről érkező kéréseket mutatnak, amelyeket nem ismersz fel.

Javítsd a hitelesítő adatok újrafelhasználását. Használj egyedi jelszavakat minden szolgáltatáshoz, és kapcsold be a többtényezős hitelesítést, ahol elérhető. Ha egy eltérített szolgáltatás valaha közzétesz egy jelszót, az egyedi hitelesítő adatok korlátozzák a következményeket.

Tanulságok

A jelentés rövid, de a tanulság világos. Az LLMjacking által leleplezett AI-modellek automatizált, skálázható tevékenységgé válnak, és akik ezért fizetnek, azok a leleplezett kulcsok és szerverek tulajdonosai. Nem kell abbahagynod az AI-eszközök használatát. Tudnod kell azonban, hol vannak a kulcsaid, és mit tesz ki a hálózatod.

Ma szánj néhány percet az AI API-kulcsaid auditálására, ellenőrizd a futtatott saját üzemeltetésű AI-szolgáltatásokat, és nézd át az útválasztód porttovábbítási szabályait. Ha több kontextust szeretnél arról, hogyan használják a támadók az AI-t, olvasd el az AI-asszisztált malware-fejlesztésről szóló cikkünket.