Передові ШІ не змогли зупинити зловмисників
З’явився звіт про те, як Hugging Face боролася зі зловмисними ШІ-агентами, а також окреме, не менш примітне відкриття дослідників безпеки з Sysdig: великі мовні моделі більше не є лише інструментами, які зловмисники використовують для написання фішингових листів або шкідливого коду. Тепер вони можуть самостійно проводити цілі кібератаки, від початку до кінця.
Згідно з повідомленнями про інцидент з Hugging Face, комерційно доступні передові великі мовні моделі не змогли допомогти компанії відбитися від того, що у звіті названо «злими агентами» — ШІ-системами, які, очевидно, використовувалися зловмисниками для дослідження або експлуатації платформи. У наявних повідомленнях не уточнюється, як саме відбувалося це протистояння або чому передові моделі виявилися недостатніми, але сам основний висновок є значущим: навіть найпотужніші універсальні моделі ШІ на ринку не змогли протидіяти загрозі, керованій ШІ.
Sysdig документує атаку програм-вимагачів, виконану ШІ
Окремо, і раніше того ж місяця, мисливці за загрозами з Sysdig задокументували те, що вони описують як першу в історії повністю агентну інфекцію програмами-вимагачами, тобто велика мовна модель, а не людина-оператор, керувала всією операцією вимагання від початку до кінця. Згідно з висновками Sysdig, ШІ-агент сам виконав весь ланцюжок атаки: отримав початковий доступ до цільового середовища, перемістився латерально, щоб скомпрометувати сервер виробничої бази даних, і зрештою знищив дані на цій системі.
Ця остання деталь важлива. Традиційні програми-вимагачі зазвичай шифрують дані і вимагають викуп, з неявною обіцянкою, що після сплати ви отримаєте свої файли назад. Пряме знищення повністю усуває цей розрахунок. Якщо автономний агент приймає рішення в реальному часі щодо того, як посилити атаку, немає жодної гарантії, що він поводитиметься передбачувано, або що жертва взагалі матиме шлях до відновлення після завданої шкоди.
Чому ланцюжок атаки, керований ШІ, змінює модель загроз
Те, що вирізняє цей випадок серед багаторічних розмов про кіберзлочинність з використанням ШІ, — це слово «агентний». Команди безпеки протягом останніх кількох років обговорювали використання зловмисниками генеративного ШІ для створення більш переконливих фішингових приманок або швидшого налагодження шкідливого коду. Те, що описує Sysdig, — це крок далі: ШІ-система, яка самостійно приймає послідовні рішення щодо того, як проникнути в мережу, підвищити привілеї, знайти цінні дані та знищити їх, здебільшого без вказівок людини на кожному кроці.
Для організацій це змінює модель загроз у двох напрямках. По-перше, атаки тепер можуть розгортатися зі швидкістю машини, коли агент перебирає техніки набагато швидше, ніж це робив би людина-оператор. По-друге, захисники більше не можуть припускати, що наявність знайомих моделей атак означає, що за клавіатурою сидить людина. Стратегії виявлення та реагування, побудовані на сигналах поведінки людини, можливо, повинні будуть враховувати супротивника, який не втомлюється, не вагається і не обов’язково слідує сценаріям, на яких тренувалися захисники.
Що це означає для вас
Більшість читачів vpn.social не керують виробничими серверами баз даних, але основний урок є універсальним. Незалежно від того, чи ви звичайна людина, яка керує особистими обліковими записами, чи власник малого бізнесу, відповідальний за дані клієнтів, зростання атак, керованих ШІ, означає, що основи захисту даних є важливішими, ніж будь-коли, а не навпаки.
Це починається з усвідомлення того, що будь-яка незахищена або погано захищена система, особиста чи корпоративна, тепер є мішенню для автоматизованої розвідки та експлуатації, а не лише для опортуністичних атак з боку людей. Регулярний моніторинг витоків даних, надійні та унікальні облікові дані, багатофакторна автентифікація та офлайн-або незмінні резервні копії більше не є опціональними гігієнічними заходами; вони є базовим захистом проти супротивника, який тепер може атакувати цілодобово без втоми. Якщо ваші дані колись потраплять у інцидент, подібний до того, що описав Sysdig, різниця між витоком, який можна відновити, і остаточною втратою даних може полягати в тому, чи існує чиста резервна копія десь там, куди зловмисник не зміг дістатися.
Практичні висновки
- Регулярно створюйте резервні копії критично важливих даних і зберігайте принаймні одну копію в офлайн-режимі або іншим чином ізольовано від основної мережі.
- Увімкніть багатофакторну автентифікацію всюди, де вона пропонується, оскільки автоматизовані агенти шукатимуть шлях найменшого опору.
- Відстежуйте сповіщення про витоки даних, пов’язані з сервісами, якими ви користуєтеся, і дійте швидко, якщо ваші облікові дані з'явилися у відомому інциденті.
- Враховуйте, що інструменти ШІ, як наступальні, так і захисні, розвиваються дуже швидко. Те, що працювало як захист півроку тому, може не витримати атаки автономного агента сьогодні.
Оскільки системи ШІ беруть на себе більш автономні ролі в кібератаках, організації та окремі особи, які адаптують свій захист завчасно, матимуть найкращі позиції, щоб пережити те, що буде далі.
