Спонсируемая российским государством группировка превратила Claude в инструмент разработки вредоносного ПО

Anthropic пресекла спонсируемую российским государством операцию, отслеживаемую внутренне как GTG-20006, в рамках которой её модель Claude AI использовалась как часть активного конвейера разработки вредоносного ПО. По данным Anthropic, группировка не просто один раз попросила Claude написать код и отошла в сторону. Вместо этого она использовала модель в непрерывном цикле: генерировать вредоносное ПО, тестировать его против средств защиты, а когда вредоносное ПО обнаруживалось, передавать данные об обнаружении обратно в Claude, чтобы получить переработанную версию, предназначенную для обхода тех же самых защитных механизмов.

Отчёты, связанные с этой кампанией, связывают действующего субъекта с Midnight Blizzard — угрозовой группировкой, ассоциируемой с российскими государственными интересами и имеющей долгую историю операций, ориентированных на шпионаж. Сообщается, что деятельность была нацелена на украинские и европейские организации, что соответствует типичной для этой группировки направленности на сбор разведданных, а не на финансово мотивированную киберпреступность. Anthropic заявляет, что выявила и заблокировала учётные записи, связанные с операцией, как только злоупотребление было обнаружено.

Как работал рабочий процесс разработки вредоносного ПО с помощью ИИ

Что делает этот случай примечательным, так это не то, что хакеры использовали чат-бот с ИИ. Примечателен сам рабочий процесс. Традиционно авторы вредоносного ПО адаптируют свой код вручную после того, как производители антивирусов или инструменты обнаружения на конечных точках отметят образец как вредоносный. Этот процесс требует времени, навыков и итераций. Встроив Claude в этот цикл, GTG-20006, по всей видимости, сжала цикл: вместо того чтобы разработчик-человек перерабатывал помеченный код строка за строкой, модель ИИ стала быстрым инструментом по запросу для генерации вариантов, способных обходить сигнатуры обнаружения.

Это отражает более широкую тенденцию, о которой предупреждают исследователи безопасности: помощники по программированию на базе ИИ мощны, потому что снижают технический барьер для быстрого написания функционального кода, и эта же эффективность применима независимо от того, является ли конечная цель легитимным приложением или частью вредоносного ПО. Раскрытие информации Anthropic говорит о том, что собственные системы мониторинга компании смогли выявить злоупотребление и отреагировать на него, что является значимым сигналом того, что поставщики ИИ активно следят за таким поведением, а не рассматривают его как гипотетический риск.

Это также совпадает с другими недавними находками о слабых местах в экосистемах ИИ-ассистентов. Исследователи из Zenity недавно раскрыли уязвимости нулевого клика в Claude и ChatGPT Atlas, которые могли позволить злоумышленникам перехватывать инструменты ИИ-браузера вообще без какого-либо взаимодействия с пользователем. В совокупности эти истории указывают на одну и ту же основополагающую тему: по мере того как инструменты ИИ встраиваются в повседневные рабочие процессы, и сами инструменты, и то, как их используют угрозовые субъекты, становятся поверхностями атаки, заслуживающими тщательного изучения.

Почему это важно за пределами заголовка

Стоит быть точными в отношении того, что здесь произошло, а что нет. Claude не был «взломан», чтобы тайно помогать злоумышленникам, и нет никаких признаков того, что обычные пользователи Claude подвергались воздействию вредоносного ПО через само приложение. Это был случай, когда изощрённая группировка, связанная с государством, использовала легитимный ИИ-продукт в качестве инструмента разработки — так же, как она могла бы использовать любое программное обеспечение для программирования, — и злоупотребила им для генерации вредоносного кода. Реакция Anthropic — обнаружение этой схемы и отключение доступа — представляет собой именно те меры принуждения, которые важны для того, чтобы ИИ-платформы не становились инструментами по умолчанию для наступательных киберопераций.

Тем не менее этот инцидент служит напоминанием о том, что разработка вредоносного ПО с помощью ИИ больше не является теоретической. Спонсируемые государством субъекты экспериментируют с этими инструментами, чтобы ускорить свои операции, и защитникам придётся учитывать вредоносное ПО, которое можно регенерировать и модифицировать быстрее, чем раньше. Для организаций в Украине и Европе, которые, судя по всему, были в фокусе этой конкретной кампании, это также подчёркивает, что группировки, движимые шпионажем, продолжают отдавать приоритет сбору разведданных, а не быстрой финансовой выгоде.

Что это значит для вас

Для большинства отдельных пользователей эта конкретная кампания не представляет собой прямой новой угрозы. GTG-20006, по сообщениям, была нацелена на адресный шпионаж против организаций, а не на массовые атаки на потребителей. Но более широкая тенденция — ускорение разработки и обхода вредоносного ПО с помощью ИИ — имеет косвенные последствия для всех. Более быстрая итерация вредоносного ПО означает, что производителям средств защиты и антивирусным инструментам, возможно, придётся чаще обновлять сигнатуры обнаружения, и это повышает ценность инструментов безопасности, основанных на поведении, по сравнению с теми, что полагаются исключительно на известные сигнатуры вредоносного ПО.

Это также хороший момент, чтобы пересмотреть базовую гигиену безопасности, поскольку вредоносное ПО, разработанное с помощью ИИ, всё ещё опирается на те же способы доставки: фишинговые письма, вредоносные вложения и скомпрометированное программное обеспечение. Никакой инструмент ИИ не меняет того, как вредоносное ПО изначально попадает на устройство.

Ключевые выводы

  • Поддерживайте операционные системы, браузеры и средства защиты в актуальном состоянии, чтобы инструменты обнаружения могли быстро выявлять новые варианты вредоносного ПО.
  • Относитесь скептически к нежелательным вложениям или ссылкам, даже от, казалось бы, знакомых отправителей, поскольку способы доставки остаются неизменными.
  • Организациям, особенно в секторах, которые с высокой вероятностью могут стать целью спонсируемых государством субъектов, следует отдавать приоритет обнаружению на основе поведения, а не инструментам, работающим только по сигнатурам.
  • Следите за тем, как крупные поставщики ИИ реагируют на сообщения о злоупотреблениях. Пресечение Anthropic операции GTG-20006 показывает, что правоприменение на уровне платформы является активной частью уравнения безопасности, а не просто запоздалой мыслью.

По мере того как инструменты программирования на базе ИИ становятся всё более capable, подобные инциденты, вероятно, будут становиться более частыми, а не более редкими. Осведомлённость о том, как эти инструменты одновременно защищают и используют во вред, — один из самых простых способов для пользователей и организаций оставаться на шаг впереди.