俄罗斯黑客将AI安全护栏武器化，对抗安全工具

一项新报告的恶意软件活动与俄罗斯黑客有关，其逃避检测的手法不同寻常：在恶意VBS脚本中嵌入虚假的核武器请求。其目的并非制造武器，而是迷惑越来越多用于分析可疑代码的AI系统。通过插入模仿核武器信息请求的语言，攻击者似乎试图触发AI模型中内置的安全护栏，导致这些系统拒绝处理或无法完整分析该文件。

这一策略凸显了网络安全领域日益加剧的紧张关系：随着越来越多的安全团队依赖AI工具进行大规模恶意软件分类和分析，攻击者正在学习利用那些旨在让这些工具值得信赖的安全机制。

核武器提示词骗局如何运作

AI安全护栏的存在有其充分理由。大型语言模型经过训练，会拒绝可能促进现实世界伤害的请求，包括与大规模杀伤性武器相关的详细指令。当AI辅助安全工具扫描文件时，它通常会读取文件内容（包括任何嵌入文本）作为分析过程的一部分。

通过在VBS脚本中植入类似核武器请求的语言，黑客似乎指望AI模型内置的拒绝行为被触发。AI可能不会将该文件标记为恶意软件，而是戛然而止，拒绝继续分析，或产生不完整或不可靠的评估。实际上，恶意内容变成了某种诱饵，利用AI自身的伦理训练来反制它。

这并非某个供应商或产品独有的缺陷。它反映了一个更广泛的挑战：安全护栏通常围绕内容审核和危害预防设计，而非针对恶意软件分析中的对抗性规避。当这两个目标发生冲突时，攻击者便获得了可乘之机。

为何这对AI驱动的安全分析至关重要

安全团队已迅速采用AI工具，以帮助处理每天遇到的海量可疑文件、钓鱼尝试和脚本。这些工具承诺更快的分类速度，并能标记人类分析师可能遗漏的模式。但这一事件提醒我们，用于安全流程的AI系统自带攻击面，这是传统恶意软件检测未曾预料到的。

如果AI模型仅仅因为文件中包含某些触发词就被操纵，从而跳过或弱化分析，那便是一个重大的盲区。这也引发了一个问题：在没有人工监督的情况下，组织应在多大程度上依赖AI驱动的分析，尤其是在涉及文件是否可以安全打开或执行等高风险的决策上。

此类策略符合攻击者不断调整技术以应对防守方（无论是人还是系统）的更大模式。正如勒索软件运营者已将社会工程攻击目标从高管转向中年管理人员一样，恶意软件作者现在也在针对挡在他们与目标之间的特定系统（包括AI模型）定制逃避技术。

这对你意味着什么

对大多数个人用户而言，这一特定技术针对的是企业安全基础设施，而非直接针对个人设备。你在自己的电脑上不太可能遇到这种特定的VBS脚本技巧，以至于影响日常浏览或邮件习惯。但其基本教训具有广泛适用性：自动化工具（无论是基于AI的恶意软件扫描器、垃圾邮件过滤器还是杀毒软件）并非万无一失，攻击者正在积极研究利用其盲区的方法。

如果你的工作场所使用AI辅助安全工具，这是一个询问这些工具如何被验证、以及人类分析师是否仍会审查被标记或未被标记文件的好时机。对于个人而言，启示更为普遍：不要因为文件未被自动扫描器标记，就认为它自动安全。分层防御、对意外脚本或附件保持警惕，以及基本的安全卫生习惯，仍然一如既往地重要。

可操作建议

  • 避免打开未经请求的VBS文件、脚本或启用宏的文档，无论自动扫描是否已将其清除。
  • 如果你在工作中管理安全工具，请询问AI辅助恶意软件分析是否包括针对触发拒绝或不完整扫描文件的备用人工审查。
  • 保留传统检测层（如基于签名的杀毒软件和网络监控）与新型AI工具并行使用，而不是完全替换。
  • 及时了解攻击者如何适应AI驱动的防御，因为此类技术很可能会演进而非消失。

随着AI在网络安全流程中嵌入日益加深，此类事件表明，旨在确保AI系统安全运行的护栏本身也可能成为攻击目标。及时了解这些新兴策略，并维持分层、人工审查的防御体系，仍是领先于不断探测新弱点以利用的攻击者的最佳方式。