Angribere har bygget en AI-agent designet til LLMjacking, ifølge en rapport fra Help Net Security. Agenten overtager eksponerede AI-modeller og bruger dem til at stjæle legitimationsoplysninger og mine kryptovaluta. Regningen lander hos offeret. For alle, der kører en selvhostet model eller ligger inde med en betalt AI-API-nøgle, er LLMjacking blotlagte AI-modeller nu en praktisk risiko, der er værd at forstå.

Hvad LLMjacking er, og hvordan agenten fungerer

LLMjacking er kapring af en stor sprogmodel (LLM), som en anden ejer eller betaler for. I stedet for at købe regnekraft eller API-adgang finder en angriber en model, der er tilgængelig, eller en nøgle, der er lækket, og bruger den gratis. Offeret betaler regningen.

Det nye her er automatiseringen. Rapporteringen beskriver en AI-agent bygget til netop dette formål. I stedet for at en person jagter fejlkonfigurerede tjenester i hånden, finder og overtager software dem. De rapporterede mål er at stjæle legitimationsoplysninger og mine kryptovaluta, hvilket begge gør en kapret model til direkte profit for angriberen.

Kilden beskriver kun værktøjet på et overordnet niveau, og vi vil ikke spekulere ud over det. Den bredere pointe holder stadig: Når opdagelse og udnyttelse er automatiseret, behøver en eksponeret tjeneste ikke være interessant for at blive fundet. Den skal blot være tilgængelig.

Hvordan eksponerede AI-nøgler og -tjenester kapres

Mønstret er ligetil. En agent scanner for eksponerede AI-modeller og API-endpoints og tager derefter kontrol over det, den finder. To slags eksponering betyder mest:

  • Eksponerede endpoints. En selvhostet model eller AI-grænseflade, der er tilgængelig fra internettet, ofte på grund af en bekvem indstilling, en videresendt port eller en manglende login.
  • Eksponerede legitimationsoplysninger. API-nøgler, der ligger steder, hvor de ikke burde være, såsom kodelagre, delte konfigurationsfiler eller gamle projekter, som ingen husker.

Når angriberen har en af delene, arbejder modellen for dem. Regnekraften kører på din hardware eller din konto, og brugen dukker op på din faktura eller gør din maskine langsommere.

Vinklen med tyveri af legitimationsoplysninger tilføjer et ekstra lag af bekymring. En kapret AI-tjeneste er ikke kun en gratis ressource. Den kan også blive en måde at indsamle flere legitimationsoplysninger på, hvilket er grunden til, at én glemt nøgle kan udvikle sig til et større problem.

Hvad det betyder for dig

Hvis du kun bruger AI gennem en forbruger-chatapp, er din direkte eksponering begrænset. Risikoen vokser, jo mere du gør følgende:

  • Du kører modeller derhjemme. Entusiaster med hjemmeservere, der hoster lokale LLM'er, web-frontends eller automatiseringsværktøjer, er de mest oplagte mål. En AI-tjeneste uden godkendelse på en videresendt port er netop den slags, en automatiseret scanner er bygget til at finde.
  • Du har API-nøgler. Udviklere og hobbyister, der forbinder AI-tjenester til scripts, browserudvidelser eller sideprojekter, kan have nøgler spredt over flere steder.
  • Du genbruger legitimationsoplysninger. Hvis et kapret system afslører en adgangskode, du bruger andre steder, spreder skaden sig ud over AI-tjenesten. Genbrug gør et enkelt kompromis til mange.

Den økonomiske side er også let at overse. Kryptovalutamining og tung modelbrug bruger ressourcer i det stille. Du bemærker det måske først, når en regning stiger, din hardware bliver varm, eller en udbyder flagger usædvanlig aktivitet.

Det passer ind i en bredere tendens. Angribere bruger i stigende grad AI offensivt, ikke kun som mål. Vores dækning af, hvordan russiske hackere brugte Claude AI til at genopbygge opdaget malware, viser samme bevægelse mod AI-assisteret værktøj på angribersiden.

Sådan sikrer du API-nøgler, netværkseksponering og hjemmeserverindstillinger

Ingen af disse trin er eksotiske. De fleste er basal hygiejne anvendt på en nyere slags tjeneste.

Behandl API-nøgler som adgangskoder.

  1. Lav en liste over alle AI-tjenester, du betaler for, eller har forbundet til et projekt.
  2. Rotér nøgler, du ikke længere genkender, eller som du ikke har brugt for nylig, og slet dem, du ikke har brug for.
  3. Hold nøgler ude af kodelagre og delte dokumenter. Brug miljøvariabler eller en password manager i stedet.
  4. Hvor din udbyder tillader det, skal du sætte forbrugsgrænser og brugsalarmer, så en kapret nøgle bliver bemærket hurtigt.
  5. Brug en separat nøgle til hvert projekt, så en enkelt lækage ikke afslører alt.

Reducer netværkseksponering.

  1. Tjek din router for port-forwarding-regler, og fjern dem, du ikke husker at have oprettet.
  2. Eksponer ikke selvhostede AI-grænseflader direkte til internettet. Hvis du har brug for fjernadgang, skal du sætte det bag en VPN eller en anden godkendt tunnel, du kontrollerer.
  3. Slå godkendelse til for hver AI-webgrænseflade eller API, du kører, selv om den kun ligger på dit hjemmenetværk.
  4. Hold modelsoftwaren og dens afhængigheder opdateret.

Hold øje med advarselstegn.

  1. Uventede gebyrer eller brugsstigninger på en AI-konto.
  2. Vedvarende høj CPU- eller GPU-belastning, når du ikke kører noget.
  3. Logs, der viser forespørgsler fra adresser, du ikke genkender.

Ret genbrug af legitimationsoplysninger. Brug unikke adgangskoder til hver tjeneste, og slå multifaktor-godkendelse til, hvor det er muligt. Hvis en kapret tjeneste på et tidspunkt afslører en adgangskode, holder unikke legitimationsoplysninger følgerne begrænset.

Konklusioner

Rapporten er kort, men lektionen er klar. LLMjacking af blotlagte AI-modeller er ved at blive en automatiseret, skalerbar aktivitet, og dem, der betaler for det, er ejerne af de eksponerede nøgler og servere. Du behøver ikke stoppe med at bruge AI-værktøjer. Du skal til gengæld vide, hvor dine nøgler ligger, og hvad dit netværk eksponerer.

Brug et par minutter i dag på at revidere dine AI-API-nøgler, tjekke eventuelle selvhostede AI-tjenester, du kører, og gennemgå din routers port-forwarding-regler. Hvis du vil have mere kontekst om, hvordan angribere sætter AI i arbejde, kan du læse vores artikel om AI-assisteret malwareudvikling.