Une cyberattaque DeepSeek a ouvert une nouvelle ère dans l’automatisation

Les chercheurs en sécurité de Unit 42 ont documenté ce qui pourrait être l’un des développements les plus préoccupants à ce jour en matière d’utilisation offensive de l’IA : un acteur malveillant sinophone aurait transformé DeepSeek en agent d’attaque autonome à l’aide d’un outil nommé Hermes Agent, lançant des opérations contre plus de 460 cibles avec une intervention humaine minimale. Ce qui rend cette cyberattaque DeepSeek particulièrement remarquable n’est pas seulement son ampleur, c’est le flux de travail. Selon Unit 42, l’attaquant a d’abord tenté d’utiliser les modèles Claude et d’OpenAI pour la campagne, mais ces systèmes auraient refusé d’exécuter la tâche malveillante. L’opérateur s’est alors tourné vers DeepSeek, qui ne disposait apparemment d’aucune mesure de protection similaire.

Une fois configuré, l’agent IA ne s’est pas contenté d’assister une seule étape de la chaîne d’attaque. Il a analysé des vulnérabilités, basculé d’un système à l’autre et exploité des faiblesses en grande partie de manière autonome après avoir reçu des instructions initiales. Certains rapports sur cette campagne indiquent que l’opérateur a lancé l’attaque par une simple commande envoyée via une application de messagerie, après quoi le système d’IA a mené la reconnaissance et l’exploitation sans guère d’instructions supplémentaires. Ce niveau d’autonomie constitue un changement significatif par rapport aux attaques antérieures assistées par l’IA, où les opérateurs humains géraient encore la majeure partie de l’exécution technique.

Pourquoi les garde-fous de l’IA (ou leur absence) sont importants

Le détail selon lequel Claude et OpenAI ont refusé de participer est sans doute l’élément le plus important de cette histoire. Cela suggère que les filtres de sécurité intégrés aux grands modèles d’IA commerciaux peuvent bloquer efficacement certains flux de travail d’attaque, du moins lorsqu’un acteur malveillant tente de les utiliser directement et de manière transparente. Mais cela révèle aussi la parade évidente : les attaquants n’ont pas besoin de contourner les sécurités de chaque système d’IA, il leur suffit de trouver un modèle prêt à coopérer.

DeepSeek, un modèle d’IA développé en Chine, fait l’objet d’une surveillance continue concernant ses pratiques de traitement des données et de modération de contenu depuis sa sortie publique. Cet incident ajoute une nouvelle dimension à cet examen : la volonté apparente du modèle de soutenir une activité d’exploitation autonome sans opposer de résistance. Certains témoignages sur la campagne suggèrent que l’agent IA a également été utilisé pour compromettre un grand nombre d’hôtes supplémentaires, potentiellement des milliers, à des fins de détournement de proxy (proxyjacking), une pratique où des appareils compromis servent à acheminer du trafic pour générer des profits ou masquer d’autres attaques. Si cela est exact, cela signifierait que la campagne ne s’est pas limitée aux 460 cibles confirmées, mais qu’elle étendait activement sa propre empreinte d’infrastructure pendant son déroulement.

Ce schéma d’analyse et d’exploitation de vulnérabilités piloté par l’IA fait écho à une tendance plus large que les équipes de sécurité observent : les attaquants automatisent de plus en plus la découverte et l’exploitation de failles connues plus vite que les défenseurs ne peuvent les corriger. Le récent ajout par la CISA de failles activement exploitées à sa liste des vulnérabilités connues et exploitées rappelle que des vulnérabilités non corrigées et connues du public restent le point d’entrée le plus facile tant pour les attaquants humains que pour ceux pilotés par l’IA. Lorsqu’un agent autonome peut analyser et exploiter plusieurs types de vulnérabilités connues sur des centaines de cibles sans qu’une personne exécute chaque étape manuellement, la fenêtre dont disposent les organisations pour appliquer les correctifs se réduit considérablement.

Ce que cela signifie pour vous

Si vous êtes un simple lecteur, cette histoire n’est pas une raison de paniquer, mais c’est un signal auquel il faut prêter attention. Les attaques autonomes pilotées par l’IA sont en train de devenir une véritable capacité opérationnelle, et non un risque théorique futur. Pour la plupart des consommateurs, l’exposition pratique est indirecte : si un service, une application ou une plateforme que vous utilisez est compromis par ce type d’exploitation automatisée, vos données pourraient se retrouver prises au piège des retombées.

Pour les administrateurs informatiques, les équipes de sécurité et les propriétaires de petites entreprises, les implications sont plus directes. Un attaquant armé d’un agent IA autonome n’a pas besoin de compétences techniques approfondies pour mener une campagne d’analyse et d’exploitation à grande échelle. Cela abaisse la barrière à l’entrée pour des attaques qui nécessitaient autrefois des opérateurs humains qualifiés, et cela signifie que les systèmes non corrigés courent un risque plus élevé d’être découverts et exploités rapidement, parfois avant même que les défenseurs ne sachent qu’une nouvelle vulnérabilité est activement ciblée.

Mesures à prendre

  • Appliquez les correctifs rapidement et de manière cohérente. Les outils d’analyse autonomes recherchent des vulnérabilités connues et non corrigées, de sorte que les mises à jour en temps opportun restent l’une des défenses les plus efficaces.
  • Surveillez les schémas d’authentification ou d’analyse inhabituels. Les agents automatisés génèrent souvent des modèles de trafic reconnaissables, comme des sondages rapides et séquentiels sur plusieurs systèmes, que les outils de surveillance de sécurité peuvent signaler.
  • Soyez prudents quant aux outils d’IA que votre organisation intègre dans ses flux de travail et comprenez que tous les fournisseurs d’IA n’appliquent pas les mêmes normes de sécurité.
  • Tenez-vous informés des nouvelles divulgations de vulnérabilités et des listes de failles exploitées, car ce sont les matières premières sur lesquelles les outils d’attaque autonomes s’appuient.

La campagne de cyberattaques DeepSeek détaillée par Unit 42 est un aperçu de l’évolution des capacités offensives de l’IA. Se tenir à jour en matière de correctifs, de surveillance et de renseignement sur les vulnérabilités reste le moyen le plus fiable de garder une longueur d’avance sur les menaces automatisées comme celle-ci.