Russische Hacker nutzten Claude AI, um erkannte Malware neu zu erstellen

Staatlich unterstützte russische Gruppe machte Claude zu einem Malware-Entwicklungswerkzeug

Anthropic hat eine russische staatlich unterstützte Operation mit der internen Bezeichnung GTG-20006 gestört, die sein Claude-KI-Modell als Teil einer aktiven Malware-Entwicklungspipeline nutzte. Laut Anthropic bat die Gruppe Claude nicht nur einmal um das Schreiben von Code und zog sich dann zurück. Stattdessen nutzte sie das Modell in einer fortlaufenden Schleife: Malware generieren, sie gegen Sicherheitsprodukte testen und, wenn die Malware erkannt wurde, die Erkennung zurück in Claude einspeisen, um eine neu erstellte Version zu erzeugen, die dieselben Abwehrmechanismen umgehen soll.

Berichte, die mit der Kampagne in Verbindung gebracht werden, verknüpfen den Akteur mit Midnight Blizzard, einer Bedrohungsgruppe, die mit russischen Staatsinteressen in Verbindung steht und eine lange Geschichte spionageorientierter Operationen hat. Die Aktivität zielte Berichten zufolge auf ukrainische und europäische Organisationen ab, was mit dem typischen Fokus der Gruppe auf Informationsbeschaffung statt finanziell motivierter Cyberkriminalität übereinstimmt. Anthropic gibt an, die mit der Operation verbundenen Konten identifiziert und abgeschaltet zu haben, sobald der Missbrauch entdeckt wurde.

Wie der KI-gestützte Malware-Workflow funktionierte

Was diesen Fall bemerkenswert macht, ist nicht, dass Hacker einen KI-Chatbot verwendet haben. Es ist der Workflow selbst. Traditionell passen Malware-Autoren ihren Code manuell an, nachdem Antivirenhersteller oder Endpoint-Detection-Tools eine Probe erkannt haben. Dieser Prozess erfordert Zeit, Können und Iteration. Indem GTG-20006 Claude in diese Schleife einfügte, scheint die Gruppe den Zyklus verkürzt zu haben: Statt dass ein menschlicher Entwickler erkannten Code Zeile für Zeile überarbeitet, wurde das KI-Modell zu einem schnellen Werkzeug auf Abruf, um Varianten zu erzeugen, die Erkennungssignaturen umgehen konnten.

Dies spiegelt ein breiteres Muster wider, vor dem Sicherheitsforscher warnen: KI-Codierungsassistenten sind leistungsfähig, weil sie die technische Hürde senken, schnell funktionierenden Code zu schreiben, und dieselbe Effizienz gilt, egal ob das Endziel eine legitime App oder ein Stück Malware ist. Die Offenlegung von Anthropic deutet darauf hin, dass die eigenen Überwachungssysteme des Unternehmens den Missbrauch erkennen und darauf reagieren konnten, was ein bedeutendes Signal dafür ist, dass KI-Anbieter aktiv nach dieser Art von Verhalten Ausschau halten, statt es als hypothetisches Risiko zu behandeln.

Sie fällt außerdem mit anderen jüngsten Erkenntnissen über Schwachstellen in KI-Assistenten-Ökosystemen zusammen. Forscher von Zenity haben kürzlich Zero-Click-Schwachstellen in Claude und ChatGPT Atlas offengelegt, die es Angreifern ermöglichen könnten, KI-Browserwerkzeuge ganz ohne Benutzerinteraktion zu übernehmen. Zusammengenommen weisen diese Geschichten auf dasselbe zugrunde liegende Thema hin: Während KI-Werkzeuge in alltägliche Workflows eingebettet werden, werden sowohl die Werkzeuge selbst als auch die Art und Weise, wie Bedrohungsakteure sie nutzen, zu Angriffsflächen, die es wert sind, genau geprüft zu werden.

Warum das über die Schlagzeile hinaus wichtig ist

Es lohnt sich, präzise zu sein darüber, was hier geschah und was nicht. Claude wurde nicht „gehackt“, um heimlich Angreifern zu helfen, und es gibt keine Hinweise darauf, dass alltägliche Nutzer von Claude über die App selbst Malware ausgesetzt waren. Dies war ein Fall, in dem eine sophisticated, staatlich verbundene Gruppe ein legitimes KI-Produkt als Entwicklungswerkzeug nutzte, so wie sie jede Codierungssoftware nutzen könnte, und es für die bösartige Codegenerierung missbrauchte. Die Reaktion von Anthropic, das Muster zu erkennen und den Zugang zu sperren, ist die Art von Durchsetzungsmaßnahme, die wichtig ist, um zu verhindern, dass KI-Plattformen zu Standard-Toolkits für offensive Cyberoperationen werden.

Dennoch ist der Vorfall eine Erinnerung daran, dass KI-gestützte Malware-Entwicklung nicht länger theoretisch ist. Staatlich unterstützte Akteure experimentieren mit diesen Werkzeugen, um ihre Operationen zu beschleunigen, und Verteidiger werden Malware berücksichtigen müssen, die schneller als zuvor neu generiert und verändert werden kann. Für Organisationen in der Ukraine und Europa, die offenbar im Fokus dieser speziellen Kampagne standen, unterstreicht dies zudem, dass spionagegetriebene Gruppen weiterhin die Informationsbeschaffung über schnellen finanziellen Gewinn stellen.

Was das für Sie bedeutet

Für die meisten einzelnen Nutzer stellt diese spezifische Kampagne keine direkte neue Bedrohung dar. GTG-20006 konzentrierte sich Berichten zufolge auf gezielte Spionage gegen Organisationen, nicht auf Massenangriffe auf Verbraucher. Doch der breitere Trend, KI-Werkzeuge, die Malware-Entwicklung und -Umgehung beschleunigen, hat Auswirkungen auf alle. Schnellere Malware-Iteration bedeutet, dass Sicherheitsanbieter und Antivirenwerkzeuge Erkennungssignaturen möglicherweise häufiger aktualisieren müssen, und es erhöht den Wert verhaltensbasierter Sicherheitswerkzeuge gegenüber solchen, die sich rein auf bekannte Malware-Signaturen verlassen.

Es ist auch ein guter Moment, grundlegende Sicherheitshygiene zu überdenken, da KI-gestützte Malware weiterhin auf dieselben Verbreitungsmethoden angewiesen ist: Phishing-E-Mails, bösartige Anhänge und kompromittierte Software. Kein KI-Werkzeug ändert etwas daran, wie Malware überhaupt auf ein Gerät gelangt.

Wichtigste Erkenntnisse

• Halten Sie Betriebssysteme, Browser und Sicherheitssoftware aktuell, damit Erkennungswerkzeuge neuere Malware-Varianten schnell erfassen können.
• Seien Sie skeptisch gegenüber unerwarteten Anhängen oder Links, selbst von scheinbar vertrauten Absendern, da die Verbreitungsmethoden unverändert bleiben.
• Organisationen, insbesondere in Branchen, die wahrscheinlich von staatlich unterstützten Akteuren ins Visier genommen werden, sollten verhaltensbasierte Erkennung gegenüber reinen Signaturwerkzeugen priorisieren.
• Verfolgen Sie, wie große KI-Anbieter auf Missbrauchsmeldungen reagieren. Anthropics Störung von GTG-20006 zeigt, dass Durchsetzung auf Plattformebene ein aktiver Teil der Sicherheitsgleichung ist und nicht nur ein nachträglicher Gedanke.

Da KI-Codierungswerkzeuge leistungsfähiger werden, dürften Vorfälle wie dieser eher häufiger als seltener werden. Informiert zu bleiben darüber, wie diese Werkzeuge sowohl verteidigt als auch missbraucht werden, ist eine der einfachsten Möglichkeiten, wie Nutzer und Organisationen einen Schritt voraus bleiben können.