Napadači su izradili AI agenta namijenjenog za LLMjacking, prema izvješću Help Net Securityja. Agent preuzima izložene AI modele i koristi ih za krađu vjerodajnica i rudarenje kriptovaluta. Trošak pada na žrtvu. Za svakoga tko hosta vlastiti model ili posjeduje plaćeni AI API ključ, LLMjacking izloženih AI modela sada je praktičan rizik koji vrijedi razumjeti.

Što je LLMjacking i kako agent funkcionira

LLMjacking je otimanje velikog jezičnog modela (LLM) koji netko drugi posjeduje ili plaća. Umjesto kupnje računalnih resursa ili API pristupa, napadač pronalazi model koji je dostupan ili ključ koji je procurio i koristi ga besplatno. Žrtva plaća račun.

Ono što je ovdje novo jest automatizacija. Izvješće opisuje AI agenta izrađenog u tu svrhu. Umjesto da osoba ručno traži pogrešno konfigurirane servise, softver obavlja pronalaženje i preuzimanje. Navedeni ciljevi su krađa vjerodajnica i rudarenje kriptovaluta, a oboje oteti model pretvara u izravan profit za napadača.

Izvor opisuje alat samo na visokoj razini i nećemo nagađati izvan toga. Šira poanta i dalje stoji: kada su otkrivanje i iskorištavanje automatizirani, izloženi servis ne mora biti zanimljiv da bi bio pronađen. Dovoljno je da bude dostupan.

Kako se izloženi AI ključevi i servisi otimaju

Predloženi obrazac je jednostavan. Agent skenira izložene AI modele i API krajnje točke, zatim preuzima kontrolu nad onim što pronađe. Dvije vrste izloženosti su najvažnije:

  • Izložene krajnje točke. Vlastiti model ili AI sučelje dostupno s interneta, često zbog prikladne postavke, proslijeđenog porta ili nedostajuće prijave.
  • Izložene vjerodajnice. API ključevi koji se nalaze na mjestima gdje ne bi trebali biti, poput repozitorija koda, dijeljenih konfiguracijskih datoteka ili starih projekata kojih se nitko ne sjeća.

Kada napadač ima jedno ili drugo, model radi za njega. Računalni resursi rade na vašem hardveru ili vašem računu, a korištenje se pojavljuje na vašem računu ili usporava vaše računalo.

Aspekt krađe vjerodajnica dodaje drugi sloj zabrinutosti. Oteti AI servis nije samo besplatan resurs. Može postati i način za prikupljanje više vjerodajnica, zbog čega se jedan zaboravljeni ključ može pretvoriti u širi problem.

Što to znači za vas

Ako AI koristite samo putem potrošačke chat aplikacije, vaša izravna izloženost je ograničena. Rizik raste kako radite više sljedećega:

  • Pokrećete modele kod kuće. Entuzijasti kućnih poslužitelja koji hostaju lokalne LLM-ove, web sučelja ili alate za automatizaciju najočitije su mete. Neautentificirani AI servis na proslijeđenom portu upravo je ono što je automatizirani skener napravljen da pronađe.
  • Posjedujete API ključeve. Developeri i hobisti koji povezuju AI servise sa skriptama, proširenjima preglednika ili sporednim projektima mogu imati ključeve razasute na nekoliko mjesta.
  • Ponovno koristite vjerodajnice. Ako oteti sustav otkrije lozinku koju koristite negdje drugdje, šteta se širi izvan AI servisa. Ponovno korištenje jedan kompromis pretvara u mnoge.

Financijska strana također se lako propušta. Rudarenje kriptovaluta i intenzivno korištenje modela tiho troše resurse. Možete to primijetiti tek kada račun skoči, hardver se pregrije ili pružatelj usluga označi neuobičajenu aktivnost.

To se uklapa u širi trend. Napadači sve više koriste AI ofenzivno, ne samo kao metu. Naše izvještavanje o tome kako su ruski hakeri koristili Claude AI za obnovu otkrivenog zlonamjernog softvera pokazuje isti pomak prema AI-potpomognutim alatima na strani napadača.

Kako zaključati API ključeve, mrežnu izloženost i postavke kućnog poslužitelja

Nijedan od ovih koraka nije egzotičan. Većina je osnovna higijena primijenjena na noviju vrstu servisa.

Tretirajte API ključeve kao lozinke.

  1. Popišite svaki AI servis koji plaćate ili koji ste povezali s projektom.
  2. Rotirajte ključeve koje više ne prepoznajete ili niste nedavno koristili i izbrišite one koji vam nisu potrebni.
  3. Držite ključeve izvan repozitorija koda i dijeljenih dokumenata. Umjesto toga koristite varijable okruženja ili upravitelj lozinki.
  4. Gdje vaš pružatelj usluga to dopušta, postavite ograničenja potrošnje i upozorenja o korištenju kako bi se oteti ključ brzo primijetio.
  5. Koristite zaseban ključ za svaki projekt kako jedno curenje ne bi izložilo sve.

Smanjite mrežnu izloženost.

  1. Provjerite svoj router za pravila prosljeđivanja portova i uklonite sve koje se ne sjećate da ste stvorili.
  2. Ne izlažite vlastita AI sučelja izravno internetu. Ako vam je potreban daljinski pristup, stavite ih iza VPN-a ili drugog autentificiranog tunela koji kontrolirate.
  3. Uključite autentifikaciju za svako AI web sučelje ili API koji pokrećete, čak i ako se nalazi samo na vašoj kućnoj mreži.
  4. Redovito ažurirajte softver modela i njegove ovisnosti.

Pazite na znakove upozorenja.

  1. Neočekivani troškovi ili skokovi u korištenju na AI računu.
  2. Dugotrajno visoko opterećenje CPU-a ili GPU-a kada ništa ne pokrećete.
  3. Zapisi koji pokazuju zahtjeve s adresa koje ne prepoznajete.

Riješite ponovno korištenje vjerodajnica. Koristite jedinstvene lozinke za svaki servis i uključite višefaktorsku autentifikaciju gdje je dostupna. Ako oteti servis ikada otkrije lozinku, jedinstvene vjerodajnice ograničavaju posljedice.

Ključni zaključci

Izvješće je kratko, ali lekcija je jasna. LLMjacking izloženih AI modela postaje automatizirana aktivnost koja se može skalirati, a ljudi koji to plaćaju su vlasnici izloženih ključeva i poslužitelja. Ne morate prestati koristiti AI alate. Morate znati gdje se nalaze vaši ključevi i što vaša mreža izlaže.

Danas odvojite nekoliko minuta da pregledate svoje AI API ključeve, provjerite sve vlastite AI servise koje pokrećete i pregledajte pravila prosljeđivanja portova na svom routeru. Ako želite više konteksta o tome kako napadači koriste AI, pročitajte naš članak o AI-potpomognutom razvoju zlonamjernog softvera.