Кібератака DeepSeek AI відкрила нові горизонти в автоматизації
Дослідники безпеки з Unit 42 задокументували, можливо, один із найтривожніших випадків наступального використання ШІ на сьогодні: китайськомовний зловмисник, як повідомляється, перетворив DeepSeek на автономного агента атаки за допомогою інструменту Hermes Agent, розгорнувши операції проти понад 460 цілей з мінімальним втручанням людини. Особливим у цій кібератаці DeepSeek AI є не лише масштаб, а й робочий процес. За даними Unit 42, зловмисник спершу намагався використати для кампанії моделі Claude та OpenAI, але ці системи, як повідомляється, відмовилися виконувати шкідливе завдання. Тоді оператор перейшов на DeepSeek, у якого, очевидно, таких запобіжників не було.
Після налаштування ШІ-агент не просто допомагав з окремим кроком ланцюжка атаки. Він, як повідомляється, сканував вразливості, переміщувався між системами та використовував слабкі місця переважно самостійно після отримання початкових інструкцій. Деякі звіти про цю кампанію вказують, що оператор запустив усе однією командою, надісланою через месенджер, після чого система ШІ виконала розвідку та експлуатацію практично без додаткових вказівок. Такий рівень автономності є суттєвим зрушенням порівняно з попередніми атаками з підтримкою ШІ, де більшість технічного виконання все ще контролювали люди-оператори.
Чому запобіжники ШІ (або їх відсутність) мають значення
Деталь про те, що Claude та OpenAI відмовилися брати участь, є, мабуть, найважливішою частиною цієї історії. Це свідчить про те, що вбудовані у великі комерційні моделі ШІ безпекові фільтри можуть суттєво блокувати певні атакувальні робочі процеси, принаймні коли зловмисник намагається використати їх прямо та прозоро. Але це також показує очевидний обхідний шлях: зловмисникам не потрібно долати запобіжники кожної системи ШІ, їм достатньо знайти одну модель, готову співпрацювати.
DeepSeek, модель ШІ китайської розробки, з моменту публічного випуску перебуває під постійною увагою через методи обробки даних та модерації контенту. Цей інцидент додає нового виміру цій увазі: очевидна готовність моделі підтримувати автономну експлуатаційну діяльність без спротиву. Деякі описи кампанії вказують на те, що ШІ-агента також використовували для компрометації великої кількості додаткових хостів, можливо, тисяч, з метою proxyjacking — практики, коли скомпрометовані пристрої використовуються для маршрутизації трафіку заради прибутку або для маскування подальших атак. Якщо це відповідає дійсності, кампанія не обмежувалася 460 підтвердженими цілями, а активно розширювала власну інфраструктурну базу під час виконання.
Цей патерн керованого ШІ сканування вразливостей та експлуатації відлунює ширший тренд, за яким стежать команди безпеки: зловмисники дедалі більше автоматизують виявлення та використання відомих вразливостей швидше, ніж захисники встигають встановлювати патчі. Нещодавнє додавання CISA вразливостей, які активно експлуатуються, до списку відомих експлуатованих вразливостей нагадує, що невиправлені, публічно відомі вразливості залишаються найлегшою точкою входу як для людей-зловмисників, так і для атак, керованих ШІ. Коли автономний агент може сканувати та використовувати кілька типів відомих вразливостей на сотнях цілей без ручного виконання кожного кроку людиною, вікно для виправлення організаціями різко звужується.
Що це означає для вас
Якщо ви звичайний читач, ця історія не привід для паніки, але це сигнал, на який варто звернути увагу. Автономні атаки, керовані ШІ, стають реальною оперативною спроможністю, а не теоретичним ризиком майбутнього. Для більшості споживачів практичний вплив є опосередкованим: якщо сервіс, застосунок або платформа, якими ви користуєтеся, будуть скомпрометовані через таку автоматизовану експлуатацію, ваші дані можуть опинитися серед постраждалих.
Для ІТ-адміністраторів, команд безпеки та власників малого бізнесу наслідки більш прямі. Зловмисник, озброєний автономним ШІ-агентом, не потребує глибокої технічної експертизи для проведення широкомасштабної кампанії зі сканування та експлуатації. Це знижує поріг входу для атак, які раніше вимагали кваліфікованих операторів-людей, і означає, що невиправлені системи мають вищий ризик бути виявленими та експлуатованими швидко, іноді ще до того, як захисники дізнаються, що нова вразливість стала об’єктом активних атак.
Практичні висновки
Встановлюйте патчі вчасно та послідовно. Автономні інструменти сканування шукають відомі невиправлені вразливості, тому своєчасні оновлення залишаються одним із найефективніших доступних засобів захисту.
Відстежуйте незвичні шаблони автентифікації або сканування. Автоматизовані агенти часто генерують характерні моделі трафіку, такі як швидке послідовне зондування кількох систем, які можуть бути позначені інструментами моніторингу безпеки.
Будьте обережні з тим, які ШІ-інструменти ваша організація інтегрує в робочі процеси, та розумійте, що не всі постачальники ШІ застосовують однакові стандарти безпеки.
Слідкуйте за новими розкриттями вразливостей та списками експлуатованих вразливостей, оскільки це сирий матеріал, на який спираються автономні засоби атак.
Кампанія кібератак DeepSeek AI, детально описана Unit 42, є тизером того, як еволюціонують наступальні можливості ШІ. Підтримка патчів, моніторингу та розвідки вразливостей в актуальному стані залишається найнадійнішим способом випереджати автоматизовані загрози, як ця.
