Un récent article de Jazz Security passe en revue des exemples concrets de fuites de données liées à l'IA, depuis des ingénieurs de Samsung collant du code dans ChatGPT jusqu'aux incidents EchoLeak et Salesloft Drift. Pour chaque cas, il couvre qui a découvert le problème, son statut actuel et le contrôle qui aurait pu détecter ou limiter l'exposition. Les cas diffèrent par leurs détails techniques, mais ils partagent un thème : les fuites n'ont pas commencé par des attaques exotiques. Elles ont commencé par des comportements routiniers et des connexions de confiance.

Cet article s'appuie sur ce résumé et sur l'angle éditorial qui le sous-tend. La source dont nous disposons est brève, nous nous en tenons donc aux grands schémas qu'elle décrit plutôt que d'ajouter des détails techniques que nous ne pouvons pas vérifier.

Ce qui s'est passé dans les fuites Samsung, EchoLeak et Salesloft Drift

Les trois cas couvrent trois manières différentes dont une exposition de données liée à l'IA se produit.

Samsung. Des ingénieurs ont collé du code dans ChatGPT. Aucun pirate n'était nécessaire. Des employés ont utilisé un chatbot public comme outil de travail, et des éléments sensibles sont sortis du contrôle de l'entreprise au moment même où ils ont été soumis.

EchoLeak. Cet incident est regroupé avec les autres comme exemple d'une fonctionnalité d'IA exposant des données par la manière dont elle traite du contenu et se connecte à d'autres informations. Il montre que le risque ne se limite pas à ce qu'une personne tape. L'accès du système d'IA lui-même aux données compte aussi.

Salesloft Drift. Ce cas impliquait des intégrations OAuth connectées. OAuth permet à une application d'accéder aux données d'une autre sans partager de mot de passe. C'est pratique, mais lorsqu'un service connecté est compromis, les jetons d'accès qu'il détient peuvent devenir un chemin vers chaque compte auquel il était lié.

L'article de Jazz Security consigne également qui a découvert chaque cas et où il en est aujourd'hui. Pour les lecteurs, l'enseignement le plus utile est l'association de chaque cas à un contrôle : quelque chose qui aurait pu offrir une visibilité sur l'activité ou limiter la portée des données.

Exemples de fuites de données liées à l'IA : comment l'usage quotidien de l'IA a exposé des données

Ce qui ressort de ces exemples de fuites de données liées à l'IA, c'est à quel point les points de départ étaient ordinaires.

Coller du texte dans un chatbot, c'est comme utiliser une barre de recherche ou une application de notes. Cela ne donne pas l'impression d'envoyer des données à un tiers. C'est dans cet écart entre la perception et la réalité que se produit la fuite de type Samsung. Une fois l'information soumise, vous avez généralement une visibilité limitée sur l'endroit où elle est stockée ou sur qui peut y accéder selon les conditions du service.

Les applications connectées fonctionnent de la même manière. Accorder l'accès à une intégration prend quelques clics, et l'autorisation reste souvent intacte pendant des mois ou des années. Si le fournisseur derrière cette intégration est compromis, l'exposition atteint des données que vous avez peut-être oublié avoir partagées.

Les assistants d'IA ajoutent une troisième couche. Lorsqu'un outil peut lire vos e-mails, documents ou messages pour être utile, tout ce qu'il peut lire est potentiellement en jeu si l'outil se comporte de manière imprévue. L'exemple EchoLeak illustre pourquoi l'étendue des accès compte autant que la qualité de l'IA elle-même.

Ce que les personnes et organisations affectées ont perdu

Les détails varient selon les cas, et nous ne spéculerons pas sur des chiffres que le résumé source ne fournit pas. En termes généraux, l'exposition se répartit en quelques catégories :

  • Informations propriétaires. Le code source et les éléments internes saisis dans un chatbot public ne peuvent plus être considérés comme privés.
  • Données commerciales et clients. Les compromissions d'applications connectées peuvent exposer des enregistrements stockés dans les plateformes liées, ce qui affecte les clients et contacts des organisations concernées, et pas seulement les organisations elles-mêmes.
  • Contrôle et visibilité. Dans de nombreux incidents, le dommage durable ne concerne pas seulement les données elles-mêmes, mais la perte de toute vision claire de l'endroit où elles sont allées.

Ce schéma apparaît aussi en dehors des environnements d'entreprise. La fuite de données de Suno, qui a exposé les informations personnelles de plus de 55 millions d'utilisateurs sans jamais le leur divulguer, montre comment un service d'IA détenant des données utilisateurs peut devenir un point d'exposition même lorsque les utilisateurs n'ont rien fait d'inhabituel.

Ce que cela signifie pour vous

Vous n'avez pas besoin de travailler dans une grande entreprise pour que ces leçons s'appliquent. Les particuliers collent chaque jour des documents personnels, des questions médicales, des contrats et des brouillons professionnels dans des chatbots. Beaucoup connectent aussi des outils d'IA et d'autres applications à leur e-mail, leur calendrier et leur stockage cloud.

Le point pratique est que votre exposition dépend de deux choses que vous contrôlez : ce que vous confiez à un service d'IA, et l'accès que vous laissez activé. Ni l'un ni l'autre ne nécessite d'expertise technique pour être géré. Un contexte plus large sur la façon dont l'IA transforme le paysage des menaces est couvert dans notre analyse des rançongiciels IA et des modèles de test défectueux qui fuient des données.

Des habitudes qui limitent votre propre exposition à l'IA

  • Traitez une requête de chatbot comme un e-mail à un inconnu. Si vous ne l'enverriez pas en dehors de votre organisation ou de votre foyer, ne le collez pas.
  • Retirez d'abord les détails identifiants. Remplacez les noms, numéros de compte, identifiants et informations clients par des espaces réservés avant de demander de l'aide.
  • Vérifiez la politique de votre entreprise. Si votre employeur fournit un outil d'IA approuvé, utilisez-le plutôt qu'un compte personnel. S'il n'y a pas de politique, demandez-en une.
  • Examinez régulièrement les applications connectées. Ouvrez la page de sécurité ou d'autorisations de vos comptes de messagerie, de stockage cloud et professionnels, et supprimez les intégrations que vous n'utilisez plus.
  • Privilégiez les autorisations restreintes. Lorsqu'une application demande un accès étendu, vérifiez s'il existe une option plus limitée.
  • Vérifiez l'historique des conversations et les paramètres de données. Regardez ce que vos services d'IA conservent et si vous pouvez refuser l'utilisation à des fins d'entraînement ou supprimer les conversations passées.
  • Utilisez des mots de passe uniques et l'authentification multifacteur. Ils n'arrêtent pas toutes les fuites, mais ils limitent les conséquences d'un compte exposé.

À retenir

Les exemples de fuites de données liées à l'IA de Samsung, EchoLeak et Salesloft Drift mènent à la même conclusion : les plus grandes expositions proviennent souvent de la commodité, pas d'attaques sophistiquées. Commencez par auditer ce que vous collez dans les chatbots, puis passez en revue vos applications connectées et révoquez ce dont vous n'avez pas besoin. Pour un autre exemple d'exposition de données d'un service d'IA, lisez notre article sur la fuite de Suno, et pour un contexte plus large sur les risques liés à l'IA, consultez notre couverture des rançongiciels IA. Quelques minutes de vérification maintenant sont bien plus faciles que d'essayer de découvrir plus tard où sont allées vos données.