Laut einem Bericht von Help Net Security haben Angreifer einen KI-Agenten entwickelt, der für LLMjacking konzipiert ist. Der Agent übernimmt offengelegte KI-Modelle und nutzt sie, um Zugangsdaten zu stehlen und Kryptowährungen zu schürfen. Die Kosten landen beim Opfer. Für alle, die ein selbst gehostetes Modell betreiben oder einen bezahlten KI-API-Schlüssel besitzen, ist LLMjacking, das KI-Modelle offenlegt, inzwischen ein praktisches Risiko, das es zu verstehen gilt.

Was LLMjacking ist und wie der Agent funktioniert

LLMjacking ist die Übernahme eines großen Sprachmodells (LLM), das jemand anderes besitzt oder bezahlt. Statt Rechenleistung oder API-Zugang zu kaufen, findet ein Angreifer ein erreichbares Modell oder einen durchgesickerten Schlüssel und nutzt es kostenlos. Das Opfer zahlt die Rechnung.

Das Neue hier ist die Automatisierung. Der Bericht beschreibt einen KI-Agenten, der zu diesem Zweck gebaut wurde. Statt dass eine Person von Hand nach falsch konfigurierten Diensten sucht, erledigen Software das Finden und die Übernahme. Die berichteten Ziele sind das Stehlen von Zugangsdaten und das Schürfen von Kryptowährungen – beides macht ein gekapertes Modell zu direktem Profit für den Angreifer.

Die Quelle beschreibt das Werkzeug nur auf hoher Ebene, und wir werden nicht darüber hinaus spekulieren. Der übergeordnete Punkt bleibt bestehen: Wenn Entdeckung und Ausnutzung automatisiert sind, muss ein offengelegter Dienst nicht interessant sein, um gefunden zu werden. Er muss nur erreichbar sein.

Wie offengelegte KI-Schlüssel und -Dienste gekapert werden

Das beschriebene Muster ist unkompliziert. Ein Agent scannt nach offengelegten KI-Modellen und API-Endpunkten und übernimmt dann die Kontrolle über das, was er findet. Zwei Arten der Offenlegung sind am wichtigsten:

  • Offengelegte Endpunkte. Ein selbst gehostetes Modell oder eine KI-Schnittstelle, die aus dem Internet erreichbar ist, oft wegen einer praktischen Einstellung, eines weitergeleiteten Ports oder einer fehlenden Anmeldung.
  • Offengelegte Zugangsdaten. API-Schlüssel, die an Orten liegen, wo sie nicht hingehören, etwa in Code-Repositories, gemeinsam genutzten Konfigurationsdateien oder alten Projekten, an die sich niemand mehr erinnert.

Sobald ein Angreifer eines von beidem hat, arbeitet das Modell für ihn. Die Rechenleistung läuft auf Ihrer Hardware oder Ihrem Konto, und die Nutzung erscheint auf Ihrer Rechnung oder verlangsamt Ihre Maschine.

Der Aspekt des Zugangsdaten-Diebstahls fügt eine zweite Sorge hinzu. Ein gekapertes KI-Service ist nicht nur eine kostenlose Ressource. Er kann auch zu einem Weg werden, weitere Zugangsdaten zu sammeln – weshalb ein vergessener Schlüssel zu einem größeren Problem werden kann.

Was das für Sie bedeutet

Wenn Sie KI nur über eine Consumer-Chat-App nutzen, ist Ihre direkte Exposition begrenzt. Das Risiko wächst, je mehr Sie Folgendes tun:

  • Sie betreiben Modelle zu Hause. Home-Server-Enthusiasten, die lokale LLMs, Web-Frontends oder Automatisierungswerkzeuge hosten, sind die offensichtlichsten Ziele. Ein nicht authentifizierter KI-Dienst auf einem weitergeleiteten Port ist genau die Art von Sache, für deren Auffindung ein automatisierter Scanner gebaut wird.
  • Sie besitzen API-Schlüssel. Entwickler und Hobbyisten, die KI-Dienste mit Skripten, Browser-Erweiterungen oder Nebenprojekten verbinden, haben möglicherweise Schlüssel an mehreren Stellen verstreut.
  • Sie verwenden Zugangsdaten wieder. Wenn ein gekapertes System ein Passwort offenlegt, das Sie auch anderswo verwenden, breitet sich der Schaden über den KI-Dienst hinaus aus. Wiederverwendung verwandelt eine einzelne Kompromittierung in viele.

Auch die finanzielle Seite ist leicht zu übersehen. Kryptowährungs-Mining und intensive Modellnutzung verbrauchen Ressourcen still und leise. Sie bemerken es möglicherweise erst, wenn eine Rechnung in die Höhe schnellt, Ihre Hardware heiß läuft oder ein Anbieter ungewöhnliche Aktivitäten meldet.

Dies fügt sich in einen breiteren Trend ein. Angreifer setzen KI zunehmend offensiv ein und zielen nicht nur darauf ab. Unsere Berichterstattung darüber, wie russische Hacker Claude AI nutzten, um erkannte Malware neu zu erstellen, zeigt dieselbe Verschiebung hin zu KI-unterstützten Werkzeugen auf der Angreiferseite.

Wie Sie API-Schlüssel, Netzwerkexposition und Home-Server-Einstellungen absichern

Keiner dieser Schritte ist exotisch. Die meisten sind grundlegende Hygiene, angewandt auf eine neuere Art von Dienst.

Behandeln Sie API-Schlüssel wie Passwörter.

  1. Listen Sie jeden KI-Dienst auf, den Sie bezahlen oder mit einem Projekt verbunden haben.
  2. Rotieren Sie Schlüssel, die Sie nicht mehr erkennen oder kürzlich nicht verwendet haben, und löschen Sie die, die Sie nicht brauchen.
  3. Halten Sie Schlüssel aus Code-Repositories und gemeinsam genutzten Dokumenten heraus. Verwenden Sie stattdessen Umgebungsvariablen oder einen Passwort-Manager.
  4. Legen Sie, wo Ihr Anbieter es erlaubt, Ausgabenlimits und Nutzungswarnungen fest, damit ein gekaperter Schlüssel schnell bemerkt wird.
  5. Verwenden Sie einen separaten Schlüssel für jedes Projekt, damit ein Leck nicht alles offenlegt.

Reduzieren Sie die Netzwerkexposition.

  1. Prüfen Sie Ihren Router auf Port-Forwarding-Regeln und entfernen Sie alle, an deren Erstellung Sie sich nicht erinnern.
  2. Legen Sie selbst gehostete KI-Schnittstellen nicht direkt ins Internet offen. Wenn Sie Fernzugriff benötigen, stellen Sie ihn hinter ein VPN oder einen anderen authentifizierten Tunnel, den Sie kontrollieren.
  3. Aktivieren Sie die Authentifizierung für jede KI-Weboberfläche oder API, die Sie betreiben, auch wenn sie nur in Ihrem Heimnetzwerk läuft.
  4. Halten Sie die Modellsoftware und ihre Abhängigkeiten aktuell.

Achten Sie auf Warnsignale.

  1. Unerwartete Gebühren oder Nutzungsspitzen bei einem KI-Konto.
  2. Anhaltend hohe CPU- oder GPU-Last, wenn Sie nichts ausführen.
  3. Protokolle, die Anfragen von Adressen zeigen, die Sie nicht erkennen.

Beheben Sie die Wiederverwendung von Zugangsdaten. Verwenden Sie eindeutige Passwörter für jeden Dienst und aktivieren Sie Multi-Faktor-Authentifizierung, wo verfügbar. Wenn ein gekapertes Service jemals ein Passwort offenlegt, halten eindeutige Zugangsdaten die Auswirkungen begrenzt.

Wichtigste Erkenntnisse

Der Bericht ist kurz, aber die Lehre ist klar. LLMjacking, das KI-Modelle offenlegt, wird zu einer automatisierten, skalierbaren Aktivität, und diejenigen, die dafür zahlen, sind die Besitzer der offengelegten Schlüssel und Server. Sie müssen nicht aufhören, KI-Werkzeuge zu nutzen. Sie müssen aber wissen, wo Ihre Schlüssel liegen und was Ihr Netzwerk offenlegt.

Nehmen Sie sich heute ein paar Minuten Zeit, um Ihre KI-API-Schlüssel zu prüfen, alle selbst gehosteten KI-Dienste, die Sie betreiben, zu kontrollieren und die Port-Forwarding-Regeln Ihres Routers zu überprüfen. Wenn Sie mehr Hintergrund dazu möchten, wie Angreifer KI einsetzen, lesen Sie unseren Beitrag zur KI-unterstützten Malware-Entwicklung.