追踪AI集成威胁的新框架

安全研究人员在过去几年中一直警告称，犯罪分子最终会构建出能够自行使用人工智能的恶意软件，无需幕后有人输入命令。这一警告如今已成为有据可查的现实。思科Talos的研究人员开发了一个新的检测框架，专门用于识别依赖AI聊天机器人进行决策的恶意软件和黑客工具。在测试该工具时，他们发现了意想不到的东西：一种恶意软件会咨询多个大型语言模型来决定下一步行动，而没有操作员实时指挥。

该框架旨在对AI集成恶意软件进行分类和分析，为Talos提供了一种发现传统杀毒特征和行为分析往往遗漏的模式的方法。该工具不仅寻找已知的恶意代码，还寻找软件在执行过程中查询AI模型的典型迹象，本质上是在受感染的系统内询问聊天机器人下一步该采取什么行动。

深入CLOSEDQUORUM：拥有自己AI委员会的恶意软件

这项研究中最引人注目的发现是一款被研究人员命名为CLOSEDQUORUM的恶意软件。据报道，CLOSEDQUORUM并非依赖单一AI模型提供指导，而是联系多个不同的大型语言模型，在采取行动前权衡它们的回复，其运作方式几乎像一个小型AI顾问委员会共同做出决策。正是这种设计让安全界的一些人将其描述为引导恶意活动的AI“蜂群思维”。

这一点之所以重要，是因为它消除了网络犯罪最大的限制之一：需要人类持续参与。传统恶意软件通常需要操作员发送新命令、在防御变化时调整策略，或决定如何应对意外障碍。能够查询多个AI系统并综合其输入的恶意软件，有可能以机器速度自行适应，而无需等待人工登录并发出指令。

这一发现与其他近期指向同一方向的发现同时出现。今年早些时候，谷歌威胁情报小组证实，AI已被用于推动零日漏洞利用开发，表明AI在网络攻击行动中的角色早已远超理论讨论。Talos对CLOSEDQUORUM的发现又增添了一个数据点：AI不仅帮助攻击者更快地编写代码，还正被直接嵌入恶意软件的运作逻辑中。

自主恶意软件的隐私影响

对于日常互联网用户而言，像CLOSEDQUORUM这样的AI引导恶意软件的出现带来了真实的隐私担忧，即使其直接技术细节针对的是企业防御者。能够独立决定如何在网络中移动、哪些数据看起来有价值，或如何避免检测的恶意软件，在定位和窃取个人信息方面可能远比依赖人工操作员定期查看的恶意软件高效得多。

自主决策也使归因和响应变得更加复杂。当人类操作员指挥攻击时，安全团队有时可以根据与特定组织相关的已知模式来预判行为。即时咨询AI模型的恶意软件可能表现得更加不可预测，生成与任何先前已编目技术都不匹配的新攻击路径。这种不可预测性正是Talos构建专用框架而非依赖现有检测方法的原因；目标是能在AI集成威胁悄然窃取凭证、财务数据或个人文件之前将其捕获。

这对你意味着什么

大多数个人用户短期内不会直接成为像CLOSEDQUORUM这样尖端AI引导恶意软件的目标。此类工具往往首先出现在针对企业、基础设施或高价值网络的定向入侵中。但潜在趋势对每个人都重要：随着AI降低构建自适应恶意软件的技术门槛，到达普通消费者的攻击数量和复杂程度可能会随时间增加。钓鱼邮件、虚假登录页面和恶意下载可能会越来越多地借助AI生成或微调，使它们更难用“寻找拼写错误和语法问题”这样的老建议来识别。

研究人员正在专门为AI集成威胁构建检测框架，这是一个积极信号。这意味着安全界现在正将此视为优先事项，而不是在AI引导恶意软件变得普遍之后才做出反应。

可操作的建议

  • 保持操作系统、浏览器和安全软件更新，因为已修补的系统仍然是抵御传统和AI辅助恶意软件的第一道防线。
  • 对意外的消息或链接保持怀疑，即使它们看起来文笔流畅且没有错误，因为AI现在可以帮助攻击者大规模生成具有说服力的内容。
  • 使用信誉良好的密码管理器，并尽可能启用多因素认证，以降低任何单一被盗凭证的价值。
  • 关注知名安全研究人员的报告，以了解AI如何改变威胁格局，而不是依赖关于恶意软件能做什么或不能做什么的假设。

像CLOSEDQUORUM这样的AI引导恶意软件提醒我们，网络安全威胁不断演变，而新的检测框架是研究人员保持领先的最有力工具之一。了解此类发展动态是未来几个月保护自己隐私的最简单方法之一。