Российские хакеры используют защитные механизмы ИИ против инструментов безопасности

Недавно выявленная вредоносная кампания, связанная с российскими хакерами, применила необычный подход к обходу обнаружения: внедрение поддельного запроса на ядерное оружие в вредоносный VBS-скрипт. Цель не в том, чтобы создать оружие, а в том, чтобы запутать ИИ-системы, которые всё чаще используются для анализа подозрительного кода. Вставляя язык, имитирующий запрос на получение информации о ядерном оружии, злоумышленники, по-видимому, пытаются сработать защитные механизмы, встроенные в ИИ-модели, заставляя эти системы отказываться обрабатывать или полностью анализировать файл.

Эта тактика подчёркивает растущее напряжение в кибербезопасности: по мере того как всё больше команд специалистов по безопасности полагаются на ИИ-инструменты для сортировки и анализа вредоносных программ в масштабе, злоумышленники учатся эксплуатировать те самые механизмы безопасности, которые призваны делать эти инструменты надёжными.

Как работает трюк с ядерным запросом

Защитные механизмы ИИ существуют не просто так. Большие языковые модели обучены отказывать в ответах на запросы, которые могут способствовать реальному вреду, включая подробные инструкции, связанные с оружием массового уничтожения. Когда ИИ-инструмент безопасности сканирует файл, он обычно читает содержимое, включая встроенный текст, как часть процесса анализа.

Внедряя язык, напоминающий запрос на ядерное оружие, в VBS-скрипт, хакеры, по-видимому, рассчитывают на то, что встроенное поведение отказа ИИ-модели сработает. Вместо того чтобы пометить файл как вредоносный, ИИ может остановиться, отказаться продолжать анализ или выдать неполную или ненадёжную оценку. По сути, вредоносное содержимое становится своего рода приманкой, использующей этическую обученность самого ИИ против него.

Это не недостаток, уникальный для одного вендора или продукта. Это отражает более широкую проблему: защитные механизмы обычно разрабатываются вокруг модерации контента и предотвращения вреда, а не вокруг противодействия уклонению при техническом анализе вредоносных программ. Когда эти две цели сталкиваются, злоумышленники получают возможность.

Почему это важно для анализа безопасности на основе ИИ

Команды специалистов по безопасности быстро внедрили ИИ-инструменты, чтобы справляться с огромным объёмом подозрительных файлов, фишинговых попыток и скриптов, с которыми они сталкиваются ежедневно. Эти инструменты обещают более быструю сортировку и могут выявлять закономерности, которые аналитики-люди могли бы пропустить. Но этот инцидент напоминает, что ИИ-системы, используемые в рабочих процессах безопасности, несут собственную поверхность атаки, которую традиционное обнаружение вредоносных программ не было рассчитано предвидеть.

Если ИИ-модель можно манипулировать, чтобы она пропускала или смягчала свой анализ просто потому, что файл содержит определённые слова-триггеры, это значительное слепое пятно. Это также поднимает вопросы о том, насколько организации должны полагаться на ИИ-ориентированный анализ без контроля человека, особенно для решений с высокими ставками, таких как безопасность открытия или выполнения файла.

Эта тактика вписывается в более широкую модель адаптации злоумышленников к тому, кто или что бы ни выполняло функции защиты. Так же как операторы программ-вымогателей сместили цели социальной инженерии на менеджеров среднего звена вместо руководителей, авторы вредоносных программ теперь подстраивают свои методы уклонения под конкретные системы, включая ИИ-модели, которые стоят между ними и их целями.

Что это значит для вас

Для большинства отдельных пользователей эта конкретная техника нацелена на корпоративную инфраструктуру безопасности, а не напрямую на личные устройства. Вряд ли вы столкнётесь с этим конкретным трюком с VBS-скриптом на своём компьютере так, чтобы это повлияло на ваши повседневные привычки просмотра или электронной почты. Но лежащий в основе урок применим широко: автоматизированные инструменты, будь то ИИ-сканеры вредоносных программ, спам-фильтры или антивирусное ПО, не безошибочны, и злоумышленники активно исследуют способы эксплуатации их слепых пятен.

Если на вашем рабочем месте используются инструменты безопасности на основе ИИ, это полезный момент, чтобы спросить, как эти инструменты проходят валидацию и проверяют ли аналитики-люди отмеченные или неотмеченные файлы. Для отдельных пользователей вывод более общий: не предполагайте, что файл автоматически безопасен только потому, что автоматический сканер его не пометил. Многоуровневая защита, скептицизм по отношению к неожиданным скриптам или вложениям и базовая гигиена безопасности остаются такими же важными, как и раньше.

Практические выводы

  • Избегайте открытия не запрошенных VBS-файлов, скриптов или документов с макросами, независимо от того, очистил ли их автоматический сканер.
  • Если вы управляете инструментами безопасности на работе, спросите, включает ли анализ вредоносных программ на основе ИИ дополнительную проверку человеком для файлов, которые вызывают отказы или неполные сканирования.
  • Поддерживайте традиционные уровни обнаружения, такие как сигнатурный антивирус и мониторинг сети, наряду с более новыми ИИ-инструментами, а не заменяйте их полностью.
  • Будьте в курсе того, как злоумышленники адаптируются к ИИ-ориентированным защитам, поскольку такие техники, как эта, скорее всего, будут эволюционировать, а не исчезнут.

По мере того как ИИ всё глубже внедряется в рабочие процессы кибербезопасности, такие инциденты, как этот, показывают, что защитные механизмы, призванные обеспечивать безопасность ИИ-систем, могут сами стать целью. Оставаться в курсе этих новых тактик и поддерживать многоуровневую защиту с проверкой человеком остаётся лучшим способом опережать злоумышленников, которые постоянно ищут новые слабости для эксплуатации.