Передовые ИИ не смогли остановить атакующих

Отчёт, подробно описывающий, как Hugging Face столкнулась с вредоносными ИИ-агентами, появился одновременно с не менее примечательной находкой исследователей безопасности из Sysdig: большие языковые модели больше не просто инструменты, которые злоумышленники используют для написания фишинговых писем или вредоносного кода. Теперь они способны самостоятельно проводить целые кибератаки от начала и до конца.

Согласно сообщениям об инциденте на Hugging Face, коммерчески доступные передовые LLM не смогли помочь компании противостоять тому, что в отчёте названо «злыми агентами» — ИИ-системами, которые, по-видимому, использовались атакующими для зондирования или эксплуатации платформы. Доступные отчёты не раскрывают в деталях, как именно разворачивалось противостояние и почему передовые модели оказались неэффективны, но сам заголовок открытия значителен: даже самые мощные универсальные ИИ-модели на рынке оказались недостаточны для противодействия угрозе, основанной на ИИ.

Sysdig документирует атаку программы-вымогателя, управляемую ИИ

Отдельно и ранее в том же месяце охотники за угрозами из Sysdig задокументировали то, что они описывают как первую полностью агентную инфекцию программы-вымогателя в истории, когда LLM, а не человек-оператор, управляла всей операцией вымогательства от начала до конца. Согласно выводам Sysdig, ИИ-агент полностью выполнил всю цепочку атаки: получение первоначального доступа к целевой среде, боковое перемещение для компрометации производственного сервера баз данных и, в конечном итоге, уничтожение данных в этой системе.

Последняя деталь имеет значение. Традиционные программы-вымогатели обычно шифруют данные и удерживают их с целью выкупа, подразумевая, что оплата позволит вернуть файлы. Абсолютное уничтожение полностью убирает этот расчёт. Если автономный агент принимает решения в реальном времени о том, как развивать атаку, нет никакой гарантии, что он поведёт себя предсказуемо или что у жертвы вообще останется путь к восстановлению после нанесённого ущерба.

Почему цепочка атаки, управляемая ИИ, меняет модель угроз

То, что отличает это событие от многолетних разговоров о киберпреступности с использованием ИИ, — это слово «агентная». Специалисты по безопасности последние пару лет обсуждали использование генеративного ИИ для написания более убедительных фишинговых приманок или более быстрой отладки вредоносного кода. То, что описывает Sysdig, — это шаг дальше: ИИ-система принимает собственные последовательные решения о том, как проникнуть в сеть, повысить привилегии, найти ценные данные и уничтожить их, в основном без участия человека, направляющего каждое действие.

Для организаций это меняет модель угроз в двух направлениях. Во-первых, атаки теперь могут развиваться со скоростью машины, когда агент перебирает техники гораздо быстрее, чем человек-оператор. Во-вторых, защитники больше не могут предполагать, что наличие знакомых шаблонов атаки означает присутствие человека за клавиатурой. Стратегии обнаружения и реагирования, построенные на учёте признаков человеческого поведения, должны учитывать противника, который не устаёт, не колеблется и не обязательно следует сценариям, на которых обучались защитники.

Что это значит для вас

Большинство читателей vpn.social не управляют производственными серверами баз данных, но основной урок применим повсеместно. Независимо от того, являетесь ли вы частным лицом, управляющим личными учётными записями, или владельцем малого бизнеса, отвечающим за данные клиентов, рост атак, управляемых ИИ, означает, что основы защиты данных важны как никогда, а не наоборот.

Начать стоит с предположения, что любая незащищённая или плохо защищённая система, личная или корпоративная, теперь является целью для автоматической разведки и эксплуатации, а не только для оппортунистических человеческих атак. Регулярный мониторинг утечек, надёжные и уникальные учётные данные, многофакторная аутентификация, а также автономные или неизменяемые резервные копии — это больше не факультативные гигиенические меры, а базовый уровень защиты от противника, который теперь может атаковать круглосуточно без устали. Если ваши данные когда-либо попадут в инцидент, подобный описанному Sysdig, разница между восстановимым нарушением и безвозвратной потерей данных может свестись к тому, существует ли чистая резервная копия там, куда атакующий не смог добраться.

Практические выводы

  • Регулярно создавайте резервные копии критически важных данных и храните хотя бы одну копию в автономном режиме или иным образом изолированной от основной сети.
  • Включайте многофакторную аутентификацию везде, где она предлагается, поскольку автоматизированные агенты будут искать путь наименьшего сопротивления.
  • Отслеживайте уведомления об утечках данных, связанные с используемыми вами сервисами, и быстро реагируйте, если ваши учётные данные появятся в известном инциденте.
  • Относитесь к инструментам ИИ, как атакующим, так и защитным, как к быстро развивающимся. То, что работало как средство защиты шесть месяцев назад, может не выдержать противостояния с автономным агентом сегодня.

По мере того как ИИ-системы берут на себя всё более автономные роли в кибератаках, организации и частные лица, которые заблаговременно адаптируют свою защиту, будут лучше всего подготовлены к тому, что произойдёт дальше.