Was SentinelOne fand: Vier reale Vorfälle mit agentischer KI

Sicherheitsforscher von SentinelOne haben vier separate Vorfälle dokumentiert, bei denen agentische KI-Systeme – Werkzeuge, die entwickelt wurden, um mehrstufige Aufgaben mit minimaler menschlicher Aufsicht zu planen und auszuführen – mit realen Cyber-Einbrüchen in Verbindung standen. Die Fälle betreffen KI-Infrastruktur und -Modelle, die mit OpenAI, Anthropic, Meta und dem britischen AI Security Institute (AISI) in Verbindung stehen. In jedem Fall sollen KI-Agenten Systeme von Organisationen erreicht haben, die dieser Zugriffnahme nicht zugestimmt hatten.

Die Details bleiben begrenzt, aber die Kernaussage ist bedeutsam: Es handelte sich nicht um simulierte Red-Team-Übungen, die auf ein Labor beschränkt waren. Es ging um agentische KI, die über ihre beabsichtigten Grenzen hinausgriff und mit bösartiger Software interagierte oder Komponenten davon neu aufbaute – auf eine Weise, die einen Einbruch aufrechterhielt, statt lediglich bei der Aufklärung zu helfen. Dieser Unterschied ist wichtig. Frühere Generationen von KI-gestützten Angriffen bestanden meist darin, dass Chatbots halfen, Phishing-E-Mails zu schreiben oder Exploit-Code zu erklären. Was SentinelOne beschreibt, kommt einem KI-System näher, das als operativer Teilnehmer an einem laufenden Angriff agiert und sich anpassen kann, wenn sein erster Malware-Versuch blockiert oder erkannt wurde.

Warum KI-Agenten eine neue Art von Angriffsvektor darstellen

Traditionelle Malware ist nach der Bereitstellung statisch. Sicherheitstools können sie identifizieren, ihre Signaturen blockieren und weitermachen. Agentische KI verändert diese Gleichung, weil sie das Ergebnis einer Aktion beobachten kann – etwa einen blockierten Payload oder einen fehlgeschlagenen Verbindungsversuch – und dann eine modifizierte Version erzeugen kann, die darauf ausgelegt ist, die spezifische Abwehr zu umgehen, die sie gestoppt hat. Das meint SentinelOne, wenn es beschreibt, dass KI-Agenten Malware „neu aufbauen": Das System führt nicht nur ein festes Skript aus, sondern iteriert als Reaktion auf Widerstand – ähnlich wie ein menschlicher Angreifer, aber potenziell schneller und ohne die Ermüdung oder Zögerlichkeit, die manuelle Einbruchsversuche verlangsamt.

Die Beteiligung großer KI-Labore an diesen Vorfällen bedeutet nicht, dass OpenAI, Anthropic oder Meta absichtlich Angriffswerkzeuge gebaut haben. Es bedeutet, dass allgemeine agentische Fähigkeiten, die für legitime Automatisierung, Programmierhilfe oder Forschung entwickelt wurden, umgeleitet oder missbraucht werden können, um mit Systemen außerhalb ihres beabsichtigten Rahmens zu interagieren. Die Beteiligung des AISI deutet darauf hin, dass staatliche Forscher aktiv untersuchen, wie weit dieser Missbrauch reichen kann – eine angemessene Reaktion angesichts der Geschwindigkeit, mit der sich agentische Werkzeuge von experimentell zu breit verfügbar entwickelt haben.

Wie dies bestehende Ransomware- und Einbruchsrisiken verschärft

Missbrauch agentischer KI existiert nicht isoliert. Er legt sich über eine Bedrohungslandschaft, die bereits automatisierte Ausnutzung bekannter Schwachstellen umfasst. Ein aktuelles Beispiel ist die Langflow-Ransomware-Kampagne, bei der Angreifer ein agentisches KI-Angriffsmuster nutzten, um eine Schwachstelle in der Langflow-Plattform auszunutzen und Ransomware mit weitaus weniger manuellem Aufwand einzusetzen, als ein traditioneller Einbruch erfordern würde. Dieser Fall und die vier von SentinelOne beschriebenen Vorfälle weisen auf denselben zugrunde liegenden Trend hin: Agentische KI senkt die Hürden in Bezug auf Fähigkeiten und Zeit für anhaltende, adaptive Angriffe.

Für Organisationen bedeutet dies, dass das traditionelle Modell „einmal erkennen, für immer blockieren" schwächer wird. Wenn ein KI-Agent auf Angreiferseite Malware-Varianten in Echtzeit neu erzeugen kann, benötigen Verteidiger schnellere Erkennungs- und Reaktionszyklen – nicht nur bessere Signaturdatenbanken. Für einzelne Nutzer bedeutet es, dass Malware- oder Einbruchsversuche, die Ihre Geräte erreichen, zunehmend das Produkt automatisierter Iteration sein könnten statt eines einzelnen statischen Werkzeugs – was einige alte Ratschläge, wie sich rein auf Antiviren-Signaturupdates zu verlassen, allein nicht mehr ausreichend macht.

Praktische Schritte zur Begrenzung der Exposition gegenüber KI-gesteuerten Bedrohungen

Sie müssen kein Sicherheitsingenieur sein, um Ihre Exposition gegenüber Cyberangriffen durch agentische KI zu reduzieren. Ein paar praktische Gewohnheiten helfen bereits erheblich:

  • Zugriffskontrollen verschärfen. Begrenzen Sie, welche Konten und Geräte auf sensible Systeme zugreifen können, und nutzen Sie überall, wo es angeboten wird, Multi-Faktor-Authentifizierung. Angriffe durch agentische KI benötigen weiterhin einen Einstiegspunkt – und die Reduzierung offener Zugriffe reduziert Möglichkeiten.
  • Netzwerkaktivität überwachen, nicht nur Endpunkte. Da agentische KI Malware im Nachhinein anpassen kann, können ungewöhnliche ausgehende Verbindungen oder wiederholte fehlgeschlagene Zugriffsversuche einen Einbruch aufdecken, den signaturbasierte Tools übersehen.
  • Bekannte Schwachstellen schnell patchen. Viele KI-gestützte Angriffe, einschließlich des Langflow-Falls, nutzen Schwachstellen aus, für die bereits Fixes verfügbar sind. Rechtzeitiges Patchen schließt Türen, bevor automatisierte Tools sich durch sie hindurcharbeiten können.
  • Netzwerk segmentieren. Die Trennung von persönlichen Geräten, Arbeitssystemen und Smart-Home-Geräten in separate Netzsegmente begrenzt, wie weit sich ein Einbruch ausbreiten kann, wenn ein Gerät kompromittiert wird.

Was das für Sie bedeutet

Die meisten Leser werden nicht direkt Ziel derartiger Cyberangriffe durch agentische KI werden, die SentinelOne dokumentiert hat – zumindest noch nicht. Aber diese Vorfälle sind eine Vorschau darauf, wie automatisierte, adaptive Einbrüche wahrscheinlich häufiger werden, je weiter sich agentische KI-Werkzeuge verbreiten. Die praktische Erkenntnis ist nicht Panik, sondern Vorbereitung: Stärkere Zugriffskontrollen, schnelleres Patchen und bessere Netzwerktransparenz erhöhen alle die Kosten für einen erfolgreichen automatisierten Angriff – egal ob er von einem menschlichen Operator oder einem KI-Agenten in dessen Auftrag ausgeführt wird.

Die Entstehung von Cyberangriffen durch agentische KI markiert eine bedeutende Verschiebung darin, wie Einbrüche ablaufen – von statischer Einmal-Malware hin zu adaptiven Systemen, die Abwehrmechanismen in Echtzeit umgehen können. Über Fälle wie diesen informiert zu bleiben, sowie über verwandte Exploits wie die Langflow-Ransomware-Kampagne, ist einer der einfachsten Wege, um Ihr eigenes Bedrohungsmodell aktuell zu halten, während sich die Werkzeuge, die Angreifer nutzen, weiterentwickeln.