Angripere har bygget en AI-agent designet for LLMjacking, ifølge en rapport fra Help Net Security. Agenten tar over eksponerte AI-modeller og bruker dem til å stjele legitimasjon og mine kryptovaluta. Regningen havner hos offeret. For alle som kjører en selvhostet modell eller har en betalt AI-API-nøkkel, er LLMjacking avslørte AI-modeller nå en praktisk risiko det er verdt å forstå.

Hva LLMjacking er, og hvordan agenten fungerer

LLMjacking er kapring av en stor språkmodell (LLM) som noen andre eier eller betaler for. I stedet for å kjøpe datakraft eller API-tilgang, finner en angriper en modell som er tilgjengelig, eller en nøkkel som har lekket, og bruker den gratis. Offeret betaler regningen.

Det nye her er automatisering. Rapporteringen beskriver en AI-agent bygget for dette formålet. I stedet for at en person leter etter feilkonfigurerte tjenester manuelt, gjør programvare jobben med å finne og ta over. De rapporterte målene er å stjele legitimasjon og mine kryptovaluta, som begge gjør en kapret modell til direkte profitt for angriperen.

Kilden beskriver verktøyet bare på et overordnet nivå, og vi vil ikke spekulere utover det. Det bredere poenget står fortsatt: når oppdagelse og utnyttelse er automatisert, trenger ikke en eksponert tjeneste å være interessant for å bli funnet. Den trenger bare å være tilgjengelig.

Hvordan eksponerte AI-nøkler og tjenester blir kapret

Mønsteret som antydes, er enkelt. En agent skanner etter eksponerte AI-modeller og API-endepunkter, og tar deretter kontroll over det den finner. To typer eksponering betyr mest:

  • Eksponerte endepunkter. En selvhostet modell eller AI-grensesnitt som er tilgjengelig fra internett, ofte på grunn av en praktisk innstilling, en videresendt port eller en manglende innlogging.
  • Eksponert legitimasjon. API-nøkler som ligger på steder de ikke burde være, som i kodelagre, delte konfigurasjonsfiler eller gamle prosjekter ingen husker.

Når en angriper har én av disse, jobber modellen for dem. Datakraften kjører på maskinvaren din eller kontoen din, og bruken dukker opp på fakturaen din eller gjør maskinen din tregere.

Legitimasjonstyveriet legger til et ekstra bekymringslag. En kapret AI-tjeneste er ikke bare en gratis ressurs. Den kan også bli en måte å samle inn mer legitimasjon, og det er derfor én glemt nøkkel kan bli til et større problem.

Hva dette betyr for deg

Hvis du bare bruker AI gjennom en forbruker-chatapp, er din direkte eksponering begrenset. Risikoen øker jo mer du gjør følgende:

  • Du kjører modeller hjemme. Hjemmeserverentusiaster som hoster lokale LLM-er, nettgrensesnitt eller automatiseringsverktøy, er de mest åpenbare målene. En AI-tjeneste uten autentisering på en videresendt port er nettopp det en automatisert skanner er bygget for å finne.
  • Du har API-nøkler. Utviklere og hobbyister som kobler AI-tjenester til skript, nettleserutvidelser eller sideprosjekter, kan ha nøkler spredt på flere steder.
  • Du gjenbruker legitimasjon. Hvis et kapret system eksponerer et passord du bruker andre steder, sprer skaden seg utover AI-tjenesten. Gjenbruk gjør én kompromittering til mange.

Den økonomiske siden er også lett å overse. Kryptovalutamining og tung modellbruk bruker ressurser i det stille. Du merker det kanskje først når en regning skyter i været, maskinvaren blir varm eller en leverandør flagger uvanlig aktivitet.

Dette passer inn i en bredere trend. Angripere bruker i økende grad AI offensivt, ikke bare retter seg mot det. Vår dekning av hvordan russiske hackere brukte Claude AI til å gjenoppbygge oppdaget skadevare viser samme dreining mot AI-assisterte verktøy på angripersiden.

Slik sikrer du API-nøkler, netteksponering og hjemmeserverinnstillinger

Ingen av disse trinnene er eksotiske. De fleste er grunnleggende hygiene anvendt på en nyere type tjeneste.

Behandle API-nøkler som passord.

  1. List opp hver AI-tjeneste du betaler for eller har koblet til et prosjekt.
  2. Roter nøkler du ikke lenger kjenner igjen eller ikke har brukt nylig, og slett dem du ikke trenger.
  3. Hold nøkler borte fra kodelagre og delte dokumenter. Bruk miljøvariabler eller en passordbehandler i stedet.
  4. Der leverandøren tillater det, sett forbruksgrenser og bruksvarsler slik at en kapret nøkkel blir lagt merke til raskt.
  5. Bruk en egen nøkkel for hvert prosjekt, slik at én lekkasje ikke eksponerer alt.

Reduser netteksponering.

  1. Sjekk ruteren for portvideresendingsregler og fjern dem du ikke husker at du opprettet.
  2. Ikke eksponer selvhostede AI-grensesnitt direkte mot internett. Hvis du trenger ekstern tilgang, sett det bak en VPN eller en annen autentisert tunnel du kontrollerer.
  3. Slå på autentisering for hvert AI-nettgrensesnitt eller API du kjører, selv om det bare ligger på hjemmenettverket ditt.
  4. Hold modellprogramvaren og avhengighetene oppdatert.

Vær oppmerksom på varseltegn.

  1. Uventede kostnader eller brukstopper på en AI-konto.
  2. Vedvarende høy CPU- eller GPU-belastning når du ikke kjører noe.
  3. Logger som viser forespørsler fra adresser du ikke kjenner igjen.

Fiks gjenbruk av legitimasjon. Bruk unike passord for hver tjeneste og slå på flerfaktorautentisering der det er tilgjengelig. Hvis en kapret tjeneste noen gang eksponerer et passord, holder unik legitimasjon skadevirkningene begrenset.

Hovedpoeng

Rapporten er kort, men lærdommen er tydelig. LLMjacking av avslørte AI-modeller blir en automatisert og skalerbar aktivitet, og de som betaler for det, er eierne av de eksponerte nøklene og serverne. Du trenger ikke slutte å bruke AI-verktøy. Du trenger å vite hvor nøklene dine ligger og hva nettverket ditt eksponerer.

Bruk noen minutter i dag på å revidere AI-API-nøklene dine, sjekke eventuelle selvhostede AI-tjenester du kjører, og gjennomgå ruterens portvideresendingsregler. Hvis du vil ha mer kontekst om hvordan angripere setter AI i arbeid, les vår artikkel om AI-assistert skadevareutvikling.