Huntress 研究人员报告称,攻击者正在滥用 ChatGPT 的定制 GPT 功能,冒充 AI 产品,诱骗人们安装复杂的远程访问木马(RAT)。这一发现是一个有用的提醒:一个熟悉、可信的界面也可能携带威胁。这场定制 GPT 恶意软件远程访问木马活动并不依赖你电脑中的漏洞。它依赖的是你相信眼前那个聊天窗口。

定制 GPT 恶意软件诱饵是如何运作的

定制 GPT 是 ChatGPT 的定制版本,任何人都可以构建和发布。正是这种开放性让该功能变得有用,也正是这一点被攻击者利用。据 Huntress 称,威胁行为者构建冒充合法 AI 产品的定制 GPT,然后引导访问者安装恶意软件。

源文章对技术细节的说明很简短,因此有必要区分哪些已确认、哪些尚未确认。已确认的部分是核心模式:定制 GPT 冒充 AI 产品,受害者被说服安装 RAT。其他关于同一活动的报道描述了该诱饵通过赞助的 Google 搜索结果触达人们,并使用 ClickFix 式策略,即诱导用户自己运行 PowerShell 命令。该细节来自二手报道,因此应将其视为背景信息,而非最终定论。

共同点在于,受害者自己完成了这项工作。攻击者不是利用软件漏洞,而是提供一套令人信服的说辞和一组指令,然后由用户执行。

远程访问木马能对你的设备做什么

远程访问木马为攻击者提供了一种远程控制机器的隐蔽方式。一旦运行起来,其背后的人往往可以像坐在你的键盘前一样操作。安全厂商通常将 RAT 的能力描述为包括:

  • 查看和复制文件
  • 监控活动并读取消息
  • 捕获击键和凭据
  • 激活网络摄像头或麦克风
  • 安装额外恶意软件

某个特定 RAT 究竟支持其中哪些功能取决于其变种,而 Huntress 将这一个描述为复杂。实际结论是,RAT 感染很少只是小麻烦。由于它可以安静运行,在保存的密码、工作文档和会话数据被暴露时,你可能不会注意到任何异常。

对于任何使用工作笔记本电脑的人来说,风险不仅限于个人数据。受感染的设备可能成为进入公司账户和系统的立足点。

为什么可信 AI 平台会成为有说服力的投递渠道

人们花了多年时间学会不信任奇怪的电子邮件附件和陌生下载网站。但很少有人学会质疑位于知名 AI 平台上的聊天界面。定制 GPT 出现在人们已经用于起草电子邮件或总结文档的同一环境中,而这种语境赋予了它借来的可信度。

这对攻击者之所以奏效,有几个原因:

  • 熟悉的环境。 页面看起来和感觉上都像真正的服务,因此怀疑度较低。
  • 对话式施压。 聊天机器人可以回应异议、听起来很有帮助,并一步一步引导一个人操作。
  • 品牌冒充。 用人们想尝试的 AI 产品来命名定制 GPT,为诱饵提供了现成受众。

这符合 AI 工具被拉入攻击者工具箱的更大模式。若要了解更广泛的背景,我们对 Anthropic 关于 AI 构建恶意软件和零日漏洞的 154 页报告 的报道探讨了 AI 滥用如何超越单一手法并不断演变。

在安装任何东西之前如何审查 AI 工具

你不需要避开 AI 工具。你需要一些能打断这类攻击的习惯。

  1. 质疑任何下载或运行软件的请求。 一个要求你安装程序,或把命令粘贴到 PowerShell 或终端中的聊天助手,应立即引起怀疑。
  2. 直接前往来源。 如果你想要某个特定 AI 产品,请自己输入官方地址,或使用厂商自己的渠道,而不是点击赞助的搜索结果。
  3. 检查是谁构建的。 定制 GPT 由个人或组织发布,未必由其名称中的品牌发布。在信任它之前,查看创建者详情。
  4. 永远不要粘贴你不理解的命令。 如果你无法解释某个命令的作用,就不要运行它。
  5. 保持安全软件为最新状态。 即使诱饵奏效,端点保护也可能拦截载荷。

这对你意味着什么

如果你使用 ChatGPT,平台本身不是问题。风险在于,任何公开的定制 GPT 都可以说任何话,包括声称自己是它并不真是的东西。身处可信网站并不意味着内容可信。

如果你已经按照某个定制 GPT 的指示安装了软件或运行了命令,请断开设备与网络的连接,使用信誉良好的安全软件运行完整扫描,并在另一台干净的设备上更改重要密码。如果这是工作机器,请立即告诉你的 IT 或安全团队。他们可以以个人无法做到的方式进行调查。

要点

Huntress 所描述的定制 GPT 恶意软件远程访问木马活动显示了攻击者如何适应人们已经给予信任的地方。对任何要求你下载或运行软件的 AI 工具保持怀疑,核实发布者,并通过官方渠道访问产品。若要了解这些威胁如何融入更大的图景,请阅读我们对 Anthropic 关于 AI 滥用的威胁情报报告 的摘要。