Cisco Talos entdeckt KI-Hive-Mind-Malware CLOSEDQUORUM

Ein neues Framework zur Verfolgung KI-integrierter Bedrohungen

Sicherheitsforscher warnen seit den letzten Jahren davor, dass Kriminelle irgendwann Malware entwickeln könnten, die künstliche Intelligenz eigenständig nutzen kann, ohne dass ein Mensch hinter den Kulissen Befehle eintippt. Diese Warnung ist nun dokumentierte Realität geworden. Cisco-Talos-Forscher entwickelten ein neues Erkennungs-Framework, das speziell darauf ausgelegt ist, Malware und Hacking-Tools zu identifizieren, die sich für Entscheidungen auf KI-Chatbots stützen. Beim Testen des Tools fanden sie etwas, das sie nicht erwartet hatten: Schadsoftware, die mehrere große Sprachmodelle konsultiert, um zu entscheiden, was als Nächstes zu tun ist, ohne dass ein Operator sie in Echtzeit steuert.

Das Framework, das entwickelt wurde, um KI-integrierte Malware zu klassifizieren und zu analysieren, gab Talos die Möglichkeit, Muster zu erkennen, die traditionelle Antiviren-Signaturen und Verhaltensanalysen tendenziell übersehen. Statt nur nach bekanntem schädlichem Code zu suchen, sucht das Tool nach den verräterischen Anzeichen von Software, die während der Ausführung KI-Modelle abfragt und im Wesentlichen einen Chatbot fragt, welchen Schritt sie als Nächstes in einem kompromittierten System ausführen soll.

Im Inneren von CLOSEDQUORUM: Malware mit eigenem KI-Rat

Die bemerkenswerteste Entdeckung aus dieser Forschung ist ein Stück Malware, das die Forscher CLOSEDQUORUM genannt haben. Statt sich für Anweisungen auf ein einziges KI-Modell zu verlassen, kontaktiert CLOSEDQUORUM Berichten zufolge mehrere verschiedene große Sprachmodelle und wägt deren Antworten ab, bevor es handelt, und funktioniert fast wie ein kleiner Ausschuss von KI-Beratern, die gemeinsam Entscheidungen treffen. Dieses Design hat dazu geführt, dass einige in der Sicherheitsgemeinschaft es als einen KI-„Hive Mind“ beschreiben, der bösartige Aktivitäten steuert.

Das ist wichtig, weil es eine der größten Einschränkungen der Cyberkriminalität beseitigt: die Notwendigkeit, dass ein Mensch involviert bleibt. Traditionelle Malware benötigt oft einen Operator, der neue Befehle sendet, Taktiken anpasst, wenn sich Verteidigungen ändern, oder entscheidet, wie auf ein unerwartetes Hindernis reagiert werden soll. Malware, die mehrere KI-Systeme abfragen und deren Eingaben zusammenführen kann, kann sich potenziell selbst anpassen, mit Maschinengeschwindigkeit, ohne darauf zu warten, dass sich eine Person anmeldet und Anweisungen erteilt.

Diese Entdeckung erscheint zusammen mit anderen jüngsten Erkenntnissen, die in dieselbe Richtung weisen. Anfang dieses Jahres bestätigte Googles Threat Intelligence Group, dass KI bereits zur Unterstützung der Entwicklung von Zero-Day-Exploits eingesetzt wird, was zeigt, dass die Rolle von KI in offensiven Cyberoperationen weit über theoretische Diskussionen hinausgegangen ist. Talos’ Entdeckung von CLOSEDQUORUM fügt einen weiteren Datenpunkt hinzu: KI hilft Angreifern nicht nur, Code schneller zu schreiben, sie wird direkt in die operative Logik von Malware eingebettet.

Datenschutzimplikationen autonomer Malware

Für alltägliche Internetnutzer wirft das Auftauchen KI-gesteuerter Malware wie CLOSEDQUORUM echte Datenschutzbedenken auf, auch wenn die unmittelbaren technischen Details auf Unternehmensverteidiger ausgerichtet sind. Malware, die unabhängig entscheiden kann, wie sie sich durch ein Netzwerk bewegt, welche Daten wertvoll erscheinen oder wie sie Erkennung vermeidet, könnte weit effizienter darin sein, persönliche Informationen zu lokalisieren und zu exfiltrieren als Malware, die von einem menschlichen Operator abhängt, der sich regelmäßig meldet.

Autonome Entscheidungsfindung erschwert auch Attribution und Reaktion. Wenn ein menschlicher Operator einen Angriff steuert, können Sicherheitsteams manchmal Verhalten anhand bekannter Muster vorhersagen, die mit einer bestimmten Gruppe verbunden sind. Malware, die KI-Modelle spontan konsultiert, kann weniger vorhersehbar handeln und neuartige Angriffspfade erzeugen, die keiner zuvor katalogisierten Technik entsprechen. Genau diese Unvorhersehbarkeit ist der Grund, warum Talos ein eigenes Framework entwickelt hat, statt sich auf bestehende Erkennungsmethoden zu verlassen; das Ziel ist, KI-integrierte Bedrohungen abzufangen, bevor sie still und leise Anmeldedaten, Finanzdaten oder persönliche Dateien erbeuten können.

Was das für Sie bedeutet

Die meisten einzelnen Nutzer werden kurzfristig nicht direkt von hochmoderner KI-gesteuerter Malware wie CLOSEDQUORUM ins Visier genommen. Tools wie dieses tauchen tendenziell zuerst bei gezielten Eindringlingen gegen Unternehmen, Infrastruktur oder hochwertige Netzwerke auf. Aber der zugrunde liegende Trend betrifft alle: Da KI die technische Hürde für den Bau anpassungsfähiger schädlicher Software senkt, dürfte das Volumen und die Raffinesse von Angriffen, die normale Verbraucher erreichen, im Laufe der Zeit zunehmen. Phishing-E-Mails, gefälschte Login-Seiten und schädliche Downloads könnten zunehmend mit KI-Unterstützung erzeugt oder feinabgestimmt werden, was sie schwerer erkennbar macht mit dem alten Rat, nach Tippfehlern und schlechter Grammatik zu suchen.

Die Tatsache, dass Forscher speziell Erkennungs-Frameworks für KI-integrierte Bedrohungen entwickeln, ist ein positives Zeichen. Es bedeutet, dass die Sicherheitsgemeinschaft dies jetzt als Priorität behandelt, statt erst zu reagieren, nachdem KI-gesteuerte Malware weit verbreitet ist.

Umsetzbare Erkenntnisse

• Halten Sie Betriebssysteme, Browser und Sicherheitssoftware aktuell, denn gepatchte Systeme bleiben die erste Verteidigungslinie gegen traditionelle und KI-unterstützte Malware.
• Seien Sie skeptisch gegenüber unerwarteten Nachrichten oder Links, selbst wenn sie gut geschrieben und fehlerfrei erscheinen, da KI Angreifern jetzt helfen kann, überzeugende Inhalte in großem Umfang zu erstellen.
• Verwenden Sie einen seriösen Passwortmanager und aktivieren Sie nach Möglichkeit Multi-Faktor-Authentifizierung, um den Wert jeder einzelnen gestohlenen Anmeldeinformation zu verringern.
• Verfolgen Sie Berichte etablierter Sicherheitsforscher, um zu verstehen, wie KI die Bedrohungslandschaft verändert, statt sich auf Annahmen darüber zu verlassen, was Malware kann oder nicht kann.

KI-gesteuerte Malware wie CLOSEDQUORUM ist eine Erinnerung daran, dass sich Cybersicherheitsbedrohungen kontinuierlich weiterentwickeln, und neue Erkennungs-Frameworks gehören zu den stärksten Werkzeugen, die Forscher haben, um voraus zu bleiben. Über Entwicklungen wie diese informiert zu bleiben, ist eine der einfachsten Möglichkeiten, Ihre eigene Privatsphäre in den kommenden Monaten zu schützen.