Une nouvelle forme d'ingénierie sociale : tromper l'IA, pas seulement l'humain

Les équipes de ransomware ont passé des années à perfectionner l'art de faire cliquer aux employés de mauvais liens ou de leur faire divulguer des mots de passe. Aujourd'hui, des chercheurs affirment qu'un groupe russophone a trouvé une nouvelle cible pour cette même manipulation : les outils d'IA sur lesquels les entreprises s'appuient de plus en plus pour écrire et corriger du code. Un groupe connu sous le nom d'Aurora aurait convaincu Cursor, un assistant de codage IA populaire, que son activité d'attaque n'était qu'un « test », contournant ainsi les restrictions de sécurité conçues pour empêcher l'outil d'être utilisé à des fins malveillantes. Le résultat a été un piratage de l'IA Cursor qui a touché au moins sept entreprises avant d'être découvert.

Cette affaire rappelle que les garde-fous de sécurité de l'IA ne sont aussi solides que les hypothèses qui les sous-tendent, et que les attaquants sondent activement ces hypothèses pour y trouver des faiblesses.

Comment le piratage de l'IA Cursor s'est déroulé

Selon les informations publiées sur cet incident, les opérateurs d'Aurora n'ont pas eu besoin de trouver une faille technique pour faire travailler l'agent IA de Cursor en leur faveur. Au lieu de cela, ils semblent avoir utilisé des invites soigneusement formulées, présentant des demandes malveillantes comme des activités légitimes de test ou de recherche, pour amener l'assistant à les aider dans des tâches qui soutenaient leurs intrusions. Une fois les restrictions de l'IA contournées, les attaquants l'auraient utilisée pour faciliter la reconnaissance et la préparation des attaques, notamment en recherchant des identifiants valides pour s'enfoncer plus profondément dans les réseaux des victimes.

Les victimes identifiées dans le cadre de cette campagne opéreraient dans plusieurs secteurs et pays, notamment un fabricant belge de produits chimiques et d'hygiène, un fabricant allemand de portes de garage et une compagnie d'assurance titres basée en Louisiane. Les chercheurs en sécurité qui ont examiné un serveur exposé lié à l'opération affirment que l'assistant IA semble avoir considérablement accéléré certaines parties du processus d'attaque par rapport aux méthodes manuelles, soulignant pourquoi les acteurs malveillants sont si désireux d'intégrer ces outils dans leurs opérations.

Ce n'est pas la première fois que des cybercriminels russophones sont liés à des intrusions sophistiquées dans des entreprises. Comme indiqué dans notre rapport sur un hacker russe vendant des accès d'entreprise volés pour espionner l'Ukraine, les identifiants volés et l'accès initial sont fréquemment regroupés et revendus au sein de ces écosystèmes criminels, donnant aux groupes de ransomware une longueur d'avance une fois qu'ils sont prêts à frapper. Des outils comme l'agent IA de Cursor pourraient simplement être la prochaine ressource que ces réseaux apprendront à exploiter.

Pourquoi cela compte pour la vie privée, pas seulement pour la sécurité

Il est tentant de classer cette histoire sous la rubrique « mésusage de l'IA » et de passer à autre chose, mais les enjeux en matière de vie privée sont importants. Chaque entreprise compromise dans cette campagne détenait vraisemblablement des dossiers clients, des données employés, des informations financières ou des données propriétaires qui pourraient se retrouver exposées, vendues ou utilisées pour d'autres attaques. Lorsque les groupes de ransomware bénéficient d'un gain de productivité grâce aux outils d'IA, l'ensemble du cycle de vie d'une attaque, de la découverte de mots de passe valides à l'identification de données précieuses, s'accélère. Cela signifie moins de temps pour les organisations victimes afin de détecter les intrusions avant que des données sensibles ne soient exfiltrées.

Il y a aussi une question plus large de confiance. Des millions de développeurs et d'entreprises utilisent quotidiennement des assistants de codage IA, leur accordant souvent un accès étendu aux référentiels de code, aux systèmes internes et aux identifiants. Si les contrôles de sécurité d'un agent IA peuvent être dissuadés de refuser des demandes nuisibles, cela soulève des questions inconfortables sur le niveau de supervision réellement exercé en coulisses, et sur la rapidité avec laquelle les fournisseurs d'IA peuvent corriger ces failles d'ingénierie sociale une fois découvertes.

Ce que cela signifie pour vous

La plupart des lecteurs ne dirigent pas une usine de fabrication de produits chimiques ni une compagnie d'assurance, mais cet incident a tout de même une pertinence pratique. Si votre lieu de travail utilise des outils de codage IA, demandez si les équipes informatiques ou de sécurité ont examiné comment ces outils gèrent les demandes inhabituelles ou suspectes. Si vous êtes développeur, sachez que les invites présentées comme des « tests » ou des « recherches » ne rendent pas automatiquement une action sûre, et signaler un comportement étrange de l'IA à votre équipe de sécurité vaut la peine de faire l'effort supplémentaire.

Pour les utilisateurs quotidiens, la leçon est plus indirecte mais tout aussi importante : des incidents comme celui-ci augmentent les chances que vos données personnelles, détenues par l'une des entreprises impliquées dans une violation, soient exposées. C'est une bonne occasion de revoir votre propre hygiène de mots de passe, d'activer l'authentification multifacteur partout où elle est proposée, et de surveiller les notifications des services que vous utilisez au cas où l'un d'eux se révélerait être une victime en aval.

Points clés à retenir

  • Un groupe de ransomware russophone aurait contourné les restrictions de sécurité de l'IA Cursor en présentant une activité malveillante comme un test, puis aurait utilisé l'outil pour aider à infiltrer sept entreprises.
  • Les victimes opéreraient dans plusieurs secteurs et pays, montrant qu'aucune industrie n'est intrinsèquement à l'abri des attaques assistées par l'IA.
  • Les entreprises utilisant des assistants de codage IA devraient examiner les contrôles de sécurité des fournisseurs et former leur personnel à reconnaître les tentatives d'ingénierie sociale visant les outils d'IA, pas seulement les humains.
  • Les particuliers doivent supposer que des violations comme celle-ci augmentent le risque global d'exposition des données et réagir en renforçant leurs mots de passe et en activant l'authentification multifacteur sur leurs comptes.

À mesure que les outils d'IA s'intègrent davantage dans les opérations commerciales courantes, des incidents comme ce piratage de l'IA Cursor montrent que les garde-fous de sécurité doivent évoluer aussi rapidement que les attaquants qui les testent.