Un groupe parrainé par l'État russe a transformé Claude en outil de développement de logiciels malveillants
Anthropic a démantelé une opération parrainée par l'État russe, suivie en interne sous le nom de GTG-20006, qui utilisait son modèle Claude AI dans le cadre d'un pipeline actif de développement de logiciels malveillants. Selon Anthropic, le groupe n'a pas simplement demandé à Claude d'écrire du code une fois avant de passer à autre chose. Il a plutôt utilisé le modèle dans une boucle continue : générer un logiciel malveillant, le tester contre des produits de sécurité, et lorsque le logiciel malveillant était signalé, réinjecter la détection dans Claude pour produire une version reconstruite conçue pour contourner ces mêmes défenses.
Les rapports liés à cette campagne relient l'acteur à Midnight Blizzard, un groupe de menaces associé aux intérêts de l'État russe, connu pour ses opérations d'espionnage de longue date. L'activité aurait ciblé des organisations ukrainiennes et européennes, ce qui correspond à l'orientation habituelle du groupe vers la collecte de renseignements plutôt que vers la cybercriminalité à motivation financière. Anthropic indique avoir identifié et fermé les comptes associés à l'opération dès que l'abus a été détecté.
Comment fonctionnait le flux de travail de logiciels malveillants assisté par IA
Ce qui rend ce cas notable, ce n'est pas que des pirates aient utilisé un chatbot IA. C'est le flux de travail lui-même. Traditionnellement, les auteurs de logiciels malveillants adaptent leur code manuellement après que les éditeurs d'antivirus ou les outils de détection des terminaux ont signalé un échantillon. Ce processus prend du temps, des compétences et des itérations. En insérant Claude dans cette boucle, GTG-20006 semble avoir compressé le cycle : au lieu qu'un développeur humain retravaille le code signalé ligne par ligne, le modèle d'IA est devenu un outil rapide et à la demande pour générer des variantes capables d'échapper aux signatures de détection.
Cela reflète un schéma plus large contre lequel les chercheurs en sécurité mettent en garde depuis un certain temps : les assistants de codage IA sont puissants parce qu'ils abaissent la barrière technique pour écrire rapidement du code fonctionnel, et cette même efficacité s'applique que l'objectif final soit une application légitime ou un logiciel malveillant. La divulgation d'Anthropic suggère que les systèmes de surveillance de l'entreprise ont pu détecter l'usage abusif et agir en conséquence, ce qui est un signal significatif que les fournisseurs d'IA surveillent activement ce type de comportement plutôt que de le traiter comme un risque hypothétique.
Cela s'accompagne également d'autres découvertes récentes sur les faiblesses des écosystèmes d'assistants IA. Des chercheurs de Zenity ont récemment divulgué des failles zero-click dans Claude et ChatGPT Atlas qui pourraient permettre à des attaquants de détourner des outils de navigation IA sans aucune interaction de l'utilisateur. Pris ensemble, ces articles pointent vers le même thème sous-jacent : à mesure que les outils d'IA s'intègrent dans les flux de travail quotidiens, tant les outils eux-mêmes que la manière dont les acteurs malveillants les utilisent deviennent des surfaces d'attaque dignes d'examen.
Pourquoi cela compte au-delà du titre
Il convient d'être précis sur ce qui s'est produit et ce qui ne s'est pas produit ici. Claude n'a pas été « piraté » pour aider secrètement des attaquants, et rien n'indique que les utilisateurs ordinaires de Claude aient été exposés à des logiciels malveillants via l'application elle-même. Il s'agissait d'un groupe sophistiqué, lié à un État, utilisant un produit d'IA légitime comme outil de développement, de la même manière qu'il pourrait utiliser n'importe quel logiciel de codage, et en abusant pour générer du code malveillant. La réponse d'Anthropic, détecter le schéma et couper l'accès, est le type de mesure d'application qui compte pour empêcher les plateformes d'IA de devenir des boîtes à outils par défaut pour les opérations cyber offensives.
Néanmoins, l'incident rappelle que le développement de logiciels malveillants assisté par IA n'est plus théorique. Des acteurs parrainés par des États expérimentent ces outils pour accélérer leurs opérations, et les défenseurs devront tenir compte de logiciels malveillants pouvant être régénérés et modifiés plus rapidement qu'auparavant. Pour les organisations en Ukraine et en Europe, qui semblent avoir été la cible de cette campagne particulière, cela renforce également que les groupes motivés par l'espionnage continuent de privilégier la collecte de renseignements plutôt qu'un gain financier rapide.
Ce que cela signifie pour vous
Pour la plupart des utilisateurs individuels, cette campagne spécifique ne représente pas une nouvelle menace directe. GTG-20006 se serait concentré sur l'espionnage ciblé contre des organisations, et non sur des attaques de masse contre les consommateurs. Mais la tendance plus large, les outils d'IA accélérant le développement et l'évasion des logiciels malveillants, a des effets en aval sur tout le monde. Une itération plus rapide des logiciels malveillants signifie que les éditeurs de sécurité et les outils antivirus devront peut-être mettre à jour les signatures de détection plus fréquemment, et cela accroît la valeur des outils de sécurité basés sur le comportement par rapport à ceux qui reposent uniquement sur des signatures de logiciels malveillants connus.
C'est aussi le bon moment pour revoir les bases de l'hygiène de sécurité, car les logiciels malveillants assistés par IA reposent toujours sur les mêmes méthodes de livraison : courriels d'hameçonnage, pièces jointes malveillantes et logiciels compromis. Aucun outil d'IA ne change la manière dont un logiciel malveillant arrive sur un appareil au départ.
Points clés à retenir
- Maintenez les systèmes d'exploitation, les navigateurs et les logiciels de sécurité à jour afin que les outils de détection puissent repérer rapidement les nouvelles variantes de logiciels malveillants.
- Soyez sceptique face aux pièces jointes ou aux liens non sollicités, même provenant d'expéditeurs apparemment familiers, car les méthodes de livraison restent inchangées.
- Les organisations, en particulier celles des secteurs susceptibles d'être ciblés par des acteurs parrainés par des États, devraient privilégier la détection basée sur le comportement plutôt que les outils fondés uniquement sur les signatures.
- Suivez la manière dont les principaux fournisseurs d'IA réagissent aux signalements d'abus. Le démantèlement de GTG-20006 par Anthropic montre que l'application au niveau de la plateforme fait partie intégrante de l'équation de sécurité, et non d'une simple réflexion après coup.
À mesure que les outils de codage IA deviennent plus performants, des incidents comme celui-ci deviendront probablement plus courants plutôt que moins. Rester informé sur la manière dont ces outils sont à la fois défendus et détournés est l'un des moyens les plus simples pour les utilisateurs et les organisations de garder une longueur d'avance.
