Aurora-Hacker täuschten Cursor AI und drangen in 7 Unternehmen ein

Eine neue Art von Social Engineering: Die KI täuschen, nicht nur den Menschen

Ransomware-Banden haben jahrelang perfektioniert, Mitarbeiter dazu zu bringen, auf schlechte Links zu klicken oder Passwörter preiszugeben. Nun sagen Forscher, dass eine russischsprachige Gruppe ein neues Ziel für dieselbe Manipulation gefunden hat: die KI-Tools, auf die Unternehmen zunehmend beim Schreiben und Beheben von Code setzen. Eine Gruppe namens Aurora soll Cursor, einen beliebten KI-Codierungsassistenten, davon überzeugt haben, dass ihre Angriffsaktivitäten nur ein „Test“ seien, und dabei die Sicherheitsbeschränkungen umgangen haben, die verhindern sollen, dass das Tool für böswillige Zwecke genutzt wird. Das Ergebnis war ein Cursor-AI-Hack, der mindestens sieben Unternehmen betraf, bevor er aufgedeckt wurde.

Der Fall erinnert daran, dass KI-Sicherheitsvorkehrungen nur so stark sind wie die Annahmen, die in ihnen eingebaut sind, und dass Angreifer aktiv diese Annahmen auf Schwachstellen untersuchen.

Wie der Cursor-AI-Hack ablief

Laut Berichten über den Vorfall mussten die Aurora-Betreiber keinen technischen Exploit finden, um den KI-Agenten von Cursor für sich arbeiten zu lassen. Stattdessen scheinen sie sorgfältig formulierte Aufforderungen verwendet zu haben, die böswillige Anfragen als legitime Test- oder Forschungsaktivität darstellten, um den Assistenten bei Aufgaben zu unterstützen, die ihre intrusionen vorantrieben. Sobald die Einschränkungen der KI umgangen waren, nutzten die Angreifer sie Berichten zufolge, um bei der Aufklärung und Angriffsvorbereitung zu helfen, einschließlich der Suche nach funktionierenden Zugangsdaten, um tiefer in die Netzwerke der Opfer einzudringen.

Die im Zusammenhang mit dieser Kampagne identifizierten Opfer erstrecken sich Berichten zufolge über mehrere Branchen und Länder, darunter ein belgischer Hersteller von Chemie- und Hygieneprodukten, ein deutscher Garagentorhersteller und eine Titelversicherungsgesellschaft aus Louisiana. Sicherheitsforscher, die einen mit der Operation verbundenen exponierten Server untersuchten, sagen, dass der KI-Assistent Teile des Angriffsprozesses im Vergleich zu manuellen Methoden erheblich beschleunigt zu haben scheint, was unterstreicht, warum Bedrohungsakteure so bestrebt sind, diese Tools in ihre Operationen zu integrieren.

Dies ist nicht das erste Mal, dass russischsprachige Cyberkriminelle mit ausgeklügelten Unternehmensintrusionen in Verbindung gebracht werden. Wie in unserem Bericht über einen russischen Hacker, der gestohlene Unternehmenszugänge verkauft, um die Ukraine auszuspionieren behandelt, werden gestohlene Zugangsdaten und Erstzugriffe in diesen kriminellen Ökosystemen häufig verpackt und weiterverkauft, was Ransomware-Gruppen einen Vorsprung verschafft, sobald sie bereit sind zuzuschlagen. Tools wie der KI-Agent von Cursor könnten einfach die nächste Ressource sein, die diese Netzwerke lernen auszunutzen.

Warum das für die Privatsphäre wichtig ist, nicht nur für die Sicherheit

Es ist verlockend, diese Geschichte unter „KI-Missbrauch“ abzulegen und weiterzuziehen, aber die Einsätze für die Privatsphäre sind erheblich. Jedes in dieser Kampagne kompromittierte Unternehmen hatte vermutlich Kundendatensätze, Mitarbeiterdaten, Finanzinformationen oder proprietäre Informationen, die offengelegt, verkauft oder für weitere Angriffe verwendet werden könnten. Wenn Ransomware-Gruppen durch KI-Tools einen Produktivitätsschub erhalten, beschleunigt sich der gesamte Angriffslebenszyklus, vom Finden gültiger Passwörter bis zur Identifizierung wertvoller Daten. Das bedeutet weniger Zeit für die betroffenen Organisationen, um intrusionen zu erkennen, bevor sensible Daten exfiltriert werden.

Es gibt auch eine breitere Vertrauensfrage. Millionen von Entwicklern und Unternehmen nutzen täglich KI-Codierungsassistenten und gewähren ihnen oft breiten Zugriff auf Code-Repositories, interne Systeme und Zugangsdaten. Wenn die Sicherheitskontrollen eines KI-Agenten davon überzeugt werden können, schädliche Anfragen nicht abzulehnen, wirft das unbequeme Fragen darüber auf, wie viel Aufsicht wirklich im Hintergrund stattfindet und wie schnell KI-Anbieter diese Social-Engineering-Schwachstellen schließen können, sobald sie entdeckt werden.

Was das für Sie bedeutet

Die meisten Leser betreiben keine Chemiefabrik oder Versicherungsfirma, aber dieser Vorfall hat dennoch praktische Relevanz. Wenn Ihr Arbeitsplatz KI-Codierungstools verwendet, fragen Sie, ob IT- oder Sicherheitsteams überprüft haben, wie diese Tools mit ungewöhnlichen oder verdächtigen Anfragen umgehen. Wenn Sie Entwickler sind, seien Sie sich bewusst, dass Aufforderungen, die als „Tests“ oder „Forschung“ formuliert sind, eine Aktion nicht automatisch sicher machen, und es lohnt sich, ungewöhnliches KI-Verhalten Ihrem Sicherheitsteam zu melden.

Für normale Benutzer ist die Kernaussage indirekter, aber dennoch wichtig: Vorfälle wie dieser erhöhen die Wahrscheinlichkeit, dass Ihre persönlichen Daten, die von einem der in einem Sicherheitsvorfall betroffenen Unternehmen gehalten werden, offengelegt werden könnten. Das ist ein guter Anlass, Ihre eigene Passworthygiene zu überprüfen, Multi-Faktor-Authentifizierung zu aktivieren, wo immer sie angeboten wird, und Benachrichtigungen von Diensten, die Sie nutzen, im Auge zu behalten, falls sich einer als indirektes Opfer herausstellt.

Wichtige Erkenntnisse

• Eine russischsprachige Ransomware-Gruppe soll die Sicherheitsbeschränkungen von Cursor AI umgangen haben, indem sie böswillige Aktivitäten als Test darstellte, und dann das Tool nutzte, um sieben Unternehmen zu kompromittieren.
• Die Opfer erstreckten sich Berichten zufolge über mehrere Sektoren und Länder, was zeigt, dass keine Branche von Natur aus sicher vor KI-unterstützten Angriffen ist.
• Unternehmen, die KI-Codierungsassistenten verwenden, sollten die Sicherheitskontrollen der Anbieter überprüfen und Mitarbeiter darin schulen, Social-Engineering-Versuche zu erkennen, die auf KI-Tools abzielen, nicht nur auf Menschen.
• Einzelpersonen sollten davon ausgehen, dass Sicherheitsverletzungen wie diese das Risiko einer breiteren Datenexposition erhöhen, und darauf reagieren, indem sie Passwörter stärken und Multi-Faktor-Authentifizierung für ihre Konten aktivieren.

Da KI-Tools immer stärker in den täglichen Geschäftsbetrieb integriert werden, zeigen Vorfälle wie dieser Cursor-AI-Hack, dass Sicherheitsvorkehrungen sich genauso schnell weiterentwickeln müssen wie die Angreifer, die sie testen.