Aanvallers hebben een AI-agent gebouwd die is ontworpen voor LLMjacking, volgens een rapport van Help Net Security. De agent neemt blootgestelde AI-modellen over en gebruikt ze om inloggegevens te stelen en cryptovaluta te minen. De kosten komen bij het slachtoffer terecht. Voor iedereen die een zelfgehost model draait of een betaalde AI-API-sleutel bezit, is LLMjacking van blootgestelde AI-modellen nu een praktisch risico dat het begrijpen waard is.

Wat LLMjacking is en hoe de agent werkt

LLMjacking is het kapen van een groot taalmodel (LLM) dat iemand anders bezit of betaalt. In plaats van rekenkracht of API-toegang te kopen, vindt een aanvaller een model dat bereikbaar is of een sleutel die is uitgelekt, en gebruikt dat gratis. Het slachtoffer betaalt de rekening.

Wat hier nieuw is, is automatisering. Het rapport beschrijft een AI-agent die voor dit doel is gebouwd. In plaats van dat een persoon met de hand zoekt naar verkeerd geconfigureerde diensten, doet software het vinden en het overnemen. De gerapporteerde doelen zijn het stelen van inloggegevens en het minen van cryptovaluta, die beide een gekaapt model omzetten in directe winst voor de aanvaller.

De bron beschrijft het hulpmiddel alleen op hoofdlijnen, en we gaan niet verder speculeren. Het bredere punt blijft gelden: wanneer ontdekking en misbruik geautomatiseerd zijn, hoeft een blootgestelde dienst niet interessant te zijn om gevonden te worden. Hij hoeft alleen bereikbaar te zijn.

Hoe blootgestelde AI-sleutels en -diensten worden gekaapt

Het gesuggereerde patroon is eenvoudig. Een agent scant naar blootgestelde AI-modellen en API-eindpunten en neemt vervolgens de controle over wat hij vindt. Twee soorten blootstelling zijn het belangrijkst:

  • Blootgestelde eindpunten. Een zelfgehost model of AI-interface die bereikbaar is vanaf het internet, vaak door een handige instelling, een doorgestuurde poort of een ontbrekende login.
  • Blootgestelde inloggegevens. API-sleutels die op plekken staan waar ze niet horen, zoals codeopslagplaatsen, gedeelde configuratiebestanden of oude projecten die niemand zich meer herinnert.

Zodra een aanvaller een van beide heeft, werkt het model voor hen. De rekenkracht draait op jouw hardware of jouw account, en het gebruik verschijnt op je factuur of vertraagt je machine.

De invalshoek van diefstal van inloggegevens voegt een tweede laag van zorg toe. Een gekaapte AI-dienst is niet alleen een gratis hulpbron. Het kan ook een manier worden om meer inloggegevens te verzamelen, en daarom kan één vergeten sleutel uitgroeien tot een groter probleem.

Wat dit voor jou betekent

Als je AI alleen via een consumentenchat-app gebruikt, is je directe blootstelling beperkt. Het risico groeit naarmate je meer van het volgende doet:

  • Je draait modellen thuis. Liefhebbers van homeservers die lokale LLM's, webinterfaces of automatiseringshulpmiddelen hosten, zijn de meest voor de hand liggende doelwitten. Een AI-dienst zonder authenticatie op een doorgestuurde poort is precies het soort ding dat een geautomatiseerde scanner is gebouwd om te vinden.
  • Je bezit API-sleutels. Ontwikkelaars en hobbyisten die AI-diensten verbinden met scripts, browserextensies of nevenprojecten, hebben mogelijk sleutels verspreid over verschillende plekken.
  • Je hergebruikt inloggegevens. Als een gekaapt systeem een wachtwoord blootlegt dat je elders gebruikt, verspreidt de schade zich voorbij de AI-dienst. Hergebruik verandert één compromis in vele.

De financiële kant is ook makkelijk te missen. Cryptocurrency-mining en zwaar modelgebruik verbruiken stilletjes hulpbronnen. Je merkt het misschien pas wanneer een rekening piekt, je hardware heet wordt of een provider ongebruikelijke activiteit markeert.

Dit past bij een bredere trend. Aanvallers gebruiken AI steeds vaker offensief, niet alleen als doelwit. Onze berichtgeving over hoe Russische hackers Claude AI gebruikten om gedetecteerde malware opnieuw op te bouwen laat dezelfde verschuiving zien naar AI-ondersteunde hulpmiddelen aan de kant van de aanvaller.

Hoe je API-sleutels, netwerkblootstelling en homeserver-instellingen beveiligt

Geen van deze stappen is exotisch. De meeste zijn basishygiëne toegepast op een nieuwer soort dienst.

Behandel API-sleutels als wachtwoorden.

  1. Maak een lijst van elke AI-dienst die je betaalt of aan een project hebt gekoppeld.
  2. Roteer sleutels die je niet meer herkent of recent niet hebt gebruikt, en verwijder de sleutels die je niet nodig hebt.
  3. Houd sleutels buiten codeopslagplaatsen en gedeelde documenten. Gebruik in plaats daarvan omgevingsvariabelen of een wachtwoordmanager.
  4. Stel waar je provider dit toestaat bestedingslimieten en gebruiksalerts in, zodat een gekaapte sleutel snel wordt opgemerkt.
  5. Gebruik een aparte sleutel voor elk project, zodat één lek niet alles blootlegt.

Beperk netwerkblootstelling.

  1. Controleer je router op port-forwarding-regels en verwijder regels waarvan je je niet herinnert dat je ze hebt aangemaakt.
  2. Stel zelfgehoste AI-interfaces niet rechtstreeks bloot aan het internet. Als je externe toegang nodig hebt, zet ze dan achter een VPN of een andere geauthenticeerde tunnel die je beheert.
  3. Schakel authenticatie in voor elke AI-webinterface of API die je draait, zelfs als die alleen op je thuisnetwerk staat.
  4. Houd de modelsoftware en de bijbehorende afhankelijkheden up-to-date.

Let op waarschuwingssignalen.

  1. Onverwachte kosten of gebruikspieken op een AI-account.
  2. Aanhoudend hoge CPU- of GPU-belasting wanneer je niets draait.
  3. Logs die verzoeken tonen van adressen die je niet herkent.

Los hergebruik van inloggegevens op. Gebruik unieke wachtwoorden voor elke dienst en schakel waar beschikbaar multifactorauthenticatie in. Als een gekaapte dienst ooit een wachtwoord blootlegt, houden unieke inloggegevens de gevolgen beperkt.

Belangrijkste punten

Het rapport is kort, maar de les is duidelijk. LLMjacking van blootgestelde AI-modellen wordt een geautomatiseerde, schaalbare activiteit, en degenen die ervoor betalen zijn de eigenaren van de blootgestelde sleutels en servers. Je hoeft AI-hulpmiddelen niet op te geven. Je moet wel weten waar je sleutels staan en wat je netwerk blootlegt.

Neem vandaag een paar minuten de tijd om je AI-API-sleutels te controleren, eventuele zelfgehoste AI-diensten die je draait na te kijken en de port-forwarding-regels van je router te bekijken. Als je meer context wilt over hoe aanvallers AI inzetten, lees ons stuk over AI-ondersteunde malwareontwikkeling.