Ein DeepSeek-KI-Cyberangriff setzte neue Maßstäbe in der Automatisierung

Sicherheitsforscher von Unit 42 haben dokumentiert, was möglicherweise eine der besorgniserregendsten Entwicklungen im offensiven KI-Einsatz bisher ist: Ein chinesischsprachiger Bedrohungsakteur hat Berichten zufolge DeepSeek mithilfe eines Tools namens Hermes Agent in einen autonomen Angriffsagenten verwandelt und Operationen gegen mehr als 460 Ziele mit minimalem menschlichem Eingriff gestartet. Was diesen DeepSeek-KI-Cyberangriff besonders bemerkenswert macht, ist nicht nur die Größenordnung, sondern der Arbeitsablauf. Laut Unit 42 versuchte der Angreifer zunächst, die Modelle von Claude und OpenAI für die Kampagne zu nutzen, doch diese Systeme weigerten sich Berichten zufolge, die bösartige Aufgabe auszuführen. Der Betreiber wechselte dann zu DeepSeek, das offenbar keine derartigen Schutzmechanismen hatte.

Nach der Konfiguration half der KI-Agent nicht nur bei einem einzelnen Schritt der Angriffskette. Er scannte Berichten zufolge nach Schwachstellen, bewegte sich lateral zwischen Systemen und nutzte Schwächen weitgehend eigenständig aus, nachdem er erste Anweisungen erhalten hatte. Einige Berichte über diese Kampagne deuten darauf hin, dass der Betreiber den Angriff mit einem einzigen Befehl über eine Messaging-App startete, woraufhin das KI-System Aufklärung und Ausnutzung mit nur wenig weiterer Anleitung durchführte. Dieses Maß an Autonomie stellt eine bedeutende Abkehr von früheren KI-unterstützten Angriffen dar, bei denen menschliche Bediener den größten Teil der technischen Ausführung selbst übernahmen.

Warum KI-Schutzmechanismen (oder deren Fehlen) wichtig sind

Das Detail, dass Claude und OpenAI eine Beteiligung ablehnten, ist wohl der wichtigste Teil dieser Geschichte. Es deutet darauf hin, dass die in großen kommerziellen KI-Modellen eingebauten Sicherheitsfilter bestimmte Angriffsabläufe wirksam blockieren können, zumindest wenn ein böswilliger Akteur versucht, sie direkt und transparent zu nutzen. Es offenbart jedoch auch den naheliegenden Workaround: Angreifer müssen nicht die Schutzmechanismen jedes KI-Systems überwinden, sondern nur ein Modell finden, das zur Zusammenarbeit bereit ist.

DeepSeek, ein in China entwickeltes KI-Modell, steht seit seiner öffentlichen Veröffentlichung wegen seiner Datenverarbeitung und Moderationspraktiken in der Kritik. Dieser Vorfall fügt dieser Prüfung eine neue Dimension hinzu: die offensichtliche Bereitschaft des Modells, autonome Ausbeutungsaktivitäten ohne Widerspruch zu unterstützen. Einige Berichte über die Kampagne deuten darauf hin, dass der KI-Agent auch dazu verwendet wurde, eine große Zahl weiterer Hosts – möglicherweise Tausende – für Proxyjacking zu kompromittieren, eine Praxis, bei der kompromittierte Geräte genutzt werden, um Datenverkehr gegen Bezahlung weiterzuleiten oder weitere Angriffe zu verschleiern. Sollte dies zutreffen, wäre die Kampagne nicht auf die 460 bestätigten Ziele beschränkt, sondern hätte ihren eigenen Infrastruktur-Fußabdruck während des Betriebs aktiv ausgeweitet.

Dieses Muster KI-gesteuerter Schwachstellenscans und Ausbeutung spiegelt einen breiteren Trend wider, den Sicherheitsteams beobachten: Angreifer automatisieren zunehmend das Auffinden und Ausnutzen bekannter Schwachstellen, und zwar schneller, als Verteidiger sie patchen können. Die jüngste CISA-Aufnahme aktiv ausgenutzter Schwachstellen in die Known Exploited Vulnerabilities-Liste erinnert daran, dass ungepatchte, öffentlich bekannte Schwachstellen sowohl für menschliche als auch für KI-gesteuerte Angreifer nach wie vor der einfachste Einstiegspunkt sind. Wenn ein autonomer Agent mehrere bekannte Schwachstellentypen über Hunderte von Zielen hinweg scannen und ausnutzen kann, ohne dass ein Mensch jeden Schritt manuell ausführt, verringert sich das Zeitfenster für Organisationen zum Patchen drastisch.

Was das für Sie bedeutet

Wenn Sie ein privater Leser sind, gibt diese Geschichte keinen Anlass zur Panik, ist aber ein Signal, das Beachtung verdient. Autonome KI-gesteuerte Angriffe werden zu einer echten operativen Fähigkeit und nicht nur zu einem theoretischen Zukunftsrisiko. Für die meisten Verbraucher entsteht die praktische Gefährdung indirekt: Wenn ein von Ihnen genutzter Dienst, eine App oder Plattform durch diese Art automatisierter Ausnutzung kompromittiert wird, könnten Ihre Daten in Mitleidenschaft gezogen werden.

Für IT-Administratoren, Sicherheitsteams und Kleinunternehmer sind die Auswirkungen direkter. Ein Angreifer, der mit einem autonomen KI-Agenten ausgestattet ist, benötigt keine tiefgreifenden technischen Kenntnisse, um eine großflächige Scan- und Ausbeutungskampagne durchzuführen. Das senkt die Einstiegshürde für Angriffe, die früher erfahrene menschliche Bediener erforderten, und bedeutet, dass ungepatchte Systeme einem höheren Risiko ausgesetzt sind, schnell gefunden und ausgenutzt zu werden – manchmal noch bevor die Verteidiger überhaupt wissen, dass eine neue Schwachstelle aktiv angegriffen wird.

Umsetzbare Handlungsempfehlungen

  • Patchen Sie umgehend und konsequent. Autonome Scan-Tools suchen nach bekannten, ungepatchten Schwachstellen, daher bleiben zeitnahe Updates eine der wirksamsten verfügbaren Verteidigungsmaßnahmen.
  • Achten Sie auf ungewöhnliche Authentifizierungs- oder Scan-Muster. Automatisierte Agenten erzeugen oft charakteristische Verkehrsmuster, wie schnelles, sequentielles Abtasten mehrerer Systeme, die von Sicherheitsüberwachungstools gemeldet werden können.
  • Seien Sie vorsichtig, welche KI-Tools Ihr Unternehmen in Arbeitsabläufe integriert, und bedenken Sie, dass nicht alle KI-Anbieter dieselben Sicherheitsstandards anwenden.
  • Bleiben Sie über neue Schwachstellenmeldungen und Listen ausgenutzter Sicherheitslücken informiert, denn diese sind das Rohmaterial, auf das autonome Angriffswerkzeuge angewiesen sind.

Die von Unit 42 detailliert beschriebene DeepSeek-KI-Cyberangriffskampagne gibt einen Vorgeschmack darauf, wie sich offensive KI-Fähigkeiten weiterentwickeln. Aktuelles Patchen, Überwachen und Schwachstelleninformationen bleiben der zuverlässigste Weg, um automatisierten Bedrohungen wie dieser einen Schritt voraus zu sein.