Les chercheurs de Huntress rapportent que des attaquants abusent de la fonctionnalité Custom GPT de ChatGPT pour usurper l'identité de produits d'IA et inciter les gens à installer un cheval de Troie d'accès à distance (RAT) sophistiqué. Cette découverte est un rappel utile qu'une interface familière et digne de confiance peut porter une menace. Cette campagne de logiciel malveillant par Custom GPT sous forme de cheval de Troie d'accès à distance ne repose pas sur une faille de votre ordinateur. Elle repose sur votre confiance envers la fenêtre de chat qui se trouve devant vous.
Comment fonctionne le leurre de logiciel malveillant par Custom GPT
Les Custom GPT sont des versions personnalisées de ChatGPT que n'importe qui peut créer et publier. Cette ouverture est ce qui rend la fonctionnalité utile, et c'est aussi ce que les attaquants exploitent. Selon Huntress, les acteurs malveillants créent des Custom GPT qui se font passer pour des produits d'IA légitimes, puis orientent les visiteurs vers l'installation de logiciels malveillants.
L'article source est bref sur les détails techniques, il vaut donc la peine de séparer ce qui est confirmé de ce qui ne l'est pas. La partie confirmée est le schéma central : un Custom GPT usurpe l'identité d'un produit d'IA, et la victime est persuadée d'installer un RAT. D'autres articles sur la même activité décrivent le leurre atteignant les gens via des résultats Google sponsorisés et utilisant des tactiques de type ClickFix, où l'utilisateur est amené à exécuter lui-même des commandes PowerShell. Ce détail provient de reportages secondaires, il faut donc le considérer comme du contexte plutôt que comme une parole définitive.
Le fil conducteur est que la victime fait le travail. Au lieu d'exploiter un logiciel, l'attaquant fournit une histoire convaincante et un ensemble d'instructions, et l'utilisateur les exécute.
Ce qu'un cheval de Troie d'accès à distance peut faire à votre appareil
Un cheval de Troie d'accès à distance donne à un attaquant un moyen caché de contrôler une machine à distance. Une fois qu'il est en cours d'exécution, la personne qui se trouve derrière peut souvent agir comme si elle était assise à votre clavier. Les éditeurs de sécurité décrivent généralement les capacités d'un RAT comme incluant :
- Consulter et copier des fichiers
- Surveiller l'activité et lire les messages
- Capturer les frappes au clavier et les identifiants
- Activer une webcam ou un microphone
- Installer des logiciels malveillants supplémentaires
Lesquelles de ces capacités un RAT donné prend en charge dépend de la souche, et Huntress décrit celle-ci comme sophistiquée. La conclusion pratique est qu'une infection par RAT est rarement un simple désagrément. Parce qu'il peut s'exécuter discrètement, vous pouvez ne rien remarquer d'anormal pendant que vos mots de passe enregistrés, vos documents professionnels et vos données de session sont exposés.
Pour toute personne utilisant un ordinateur portable professionnel, les enjeux dépassent les données personnelles. Un appareil compromis peut devenir un point d'ancrage vers les comptes et systèmes de l'entreprise.
Pourquoi les plateformes d'IA de confiance constituent des canaux de diffusion convaincants
Les gens ont passé des années à apprendre à se méfier des pièces jointes étranges et des sites de téléchargement inconnus. Bien moins nombreux sont ceux qui ont appris à remettre en question une interface de chat hébergée sur une plateforme d'IA bien connue. Un Custom GPT apparaît dans le même environnement que les gens utilisent déjà pour rédiger des e-mails ou résumer des documents, et ce contexte lui confère une crédibilité empruntée.
Plusieurs raisons expliquent pourquoi cela fonctionne bien pour les attaquants :
- Un environnement familier. La page ressemble et donne l'impression du vrai service, donc la méfiance reste faible.
- La pression conversationnelle. Un chatbot peut répondre aux objections, sembler utile et guider une personne étape par étape.
- L'usurpation de marque. Nommer un Custom GPT d'après un produit d'IA que les gens veulent essayer donne au leurre un public tout trouvé.
Cela s'inscrit dans un schéma plus large d'outils d'IA intégrés à la panoplie des attaquants. Pour un contexte plus large, notre article sur le rapport de 154 pages d'Anthropic sur les logiciels malveillants et les zero-days créés par IA examine comment l'usage détourné de l'IA évolue au-delà d'une seule astuce.
Comment vérifier les outils d'IA avant d'installer quoi que ce soit
Vous n'avez pas besoin d'éviter les outils d'IA. Vous avez besoin de quelques habitudes qui interrompent ce type d'attaque.
- Remettez en question toute demande de télécharger ou d'exécuter un logiciel. Un assistant de chat qui vous demande d'installer un programme, ou de coller des commandes dans PowerShell ou un terminal, mérite une méfiance immédiate.
- Rendez-vous directement à la source. Si vous voulez un produit d'IA spécifique, tapez vous-même l'adresse officielle ou utilisez les canaux propres du fournisseur plutôt que de cliquer sur un résultat de recherche sponsorisé.
- Vérifiez qui l'a créé. Un Custom GPT est publié par un individu ou une organisation, pas nécessairement par la marque figurant dans son nom. Consultez les détails du créateur avant de lui faire confiance.
- Ne collez jamais de commandes que vous ne comprenez pas. Si vous ne pouvez pas expliquer ce que fait une commande, ne l'exécutez pas.
- Gardez vos logiciels de sécurité à jour. Une protection des points de terminaison peut intercepter une charge utile même lorsque le leurre fonctionne.
Ce que cela signifie pour vous
Si vous utilisez ChatGPT, la plateforme elle-même n'est pas le problème. Le risque est que n'importe quel Custom GPT public peut dire n'importe quoi, y compris prétendre être ce qu'il n'est pas. Le fait d'être sur un site digne de confiance ne rend pas le contenu digne de confiance.
Si vous avez déjà suivi les instructions d'un Custom GPT pour installer un logiciel ou exécuter des commandes, déconnectez l'appareil du réseau, lancez une analyse complète avec un logiciel de sécurité réputé et changez les mots de passe importants depuis un autre appareil propre. S'il s'agit d'une machine professionnelle, prévenez immédiatement votre équipe informatique ou de sécurité. Elle peut enquêter d'une manière qu'un particulier ne peut pas.
À retenir
La campagne de logiciel malveillant par Custom GPT sous forme de cheval de Troie d'accès à distance décrite par Huntress montre comment les attaquants s'adaptent aux endroits où les gens accordent déjà leur confiance. Traitez avec méfiance tout outil d'IA qui vous demande de télécharger ou d'exécuter un logiciel, vérifiez l'éditeur et accédez aux produits par les canaux officiels. Pour voir comment ces menaces s'inscrivent dans le tableau général, lisez notre résumé du rapport de renseignement sur les menaces d'Anthropic concernant l'usage détourné de l'IA.
