Російські хакери використовують захисні механізми AI проти інструментів безпеки
Нещодавно виявлена кампанія шкідливого програмного забезпечення, пов’язана з російськими хакерами, застосувала незвичний підхід до ухилення від виявлення: вбудовування фейкового запиту на ядерну зброю у шкідливий VBS-скрипт. Мета не в тому, щоб створити зброю, а в тому, щоб заплутати AI-системи, які все частіше використовуються для аналізу підозрілого коду. Вставляючи мову, що імітує запит на інформацію про ядерну зброю, атакувальники, схоже, намагаються спрацювати захисні механізми, вбудовані в AI-моделі, змушуючи ці системи відмовлятися обробляти або повністю аналізувати файл.
Ця тактика висвітлює зростаючу напругу у кібербезпеці: чим більше команди безпеки покладаються на AI-інструменти для тріажу та аналізу шкідливого програмного забезпечення у масштабі, тим більше атакувальники вчаться використовувати самі механізми безпеки, створені для того, щоб зробити ці інструменти надійними.
Як працює трюк із ядерним запитом
Захисні механізми AI існують не безпідставно. Великі мовні моделі навчені відмовлятися від запитів, які можуть сприяти реальній шкоді, включно з детальними інструкціями, пов’язаними зі зброєю масового знищення. Коли інструмент безпеки на основі AI сканує файл, він зазвичай читає вміст, включно з будь-яким вбудованим текстом, як частину процесу аналізу.
Висаджуючи мову, що нагадує запит на ядерну зброю, у VBS-скрипт, хакери, схоже, розраховують на те, що вбудована поведінка відмови в AI-моделі спрацює. Замість того, щоб позначити файл як шкідливе програмне забезпечення, AI може зупинитися, відмовитися продовжувати аналіз або видати неповну чи ненадійну оцінку. По суті, шкідливий вміст стає своєрідною приманкою, використовуючи власне етичне навчання AI проти нього.
Це не недолік, унікальний для одного постачальника чи продукту. Це відображає ширший виклик: захисні механізми зазвичай розроблені навколо модерації вмісту та запобігання шкоді, а не для протидії ухиленню під час технічного аналізу шкідливого програмного забезпечення. Коли ці дві цілі стикаються, атакувальники отримують можливість.
Чому це важливо для аналізу безпеки на основі AI
Команди безпеки швидко впровадили AI-інструменти, щоб допомогти впоратися з величезним обсягом підозрілих файлів, фішингових спроб і скриптів, з якими вони стикаються щодня. Ці інструменти обіцяють швидший тріаж і можуть виявляти патерни, які аналітики-люди могли б пропустити. Але цей інцидент нагадує, що AI-системи, які використовуються в робочих процесах безпеки, мають власну поверхню атаки, яку традиційне виявлення шкідливого програмного забезпечення не було створено передбачити.
Якщо AI-модель можна маніпулювати, щоб вона пропускала або пом’якшувала аналіз лише тому, що файл містить певні слова-тригери, це значна сліпа зона. Це також порушує питання про те, наскільки організації повинні покладатися на аналіз на основі AI без нагляду людини, особливо для рішень з високими ставками, як-от чи безпечно відкривати або виконувати файл.
Така тактика вписується в ширший патерн адаптації атакувальників до тих, хто, або що, займається захистом. Так само, як оператори програм-вимагачів змінили свої цілі соціальної інженерії на менеджерів середньої ланки замість керівників, автори шкідливого програмного забезпечення тепер пристосовують свої методи ухилення до конкретних систем, включно з AI-моделями, які стоять між ними та їхніми цілями.
Що це означає для вас
Для більшості окремих користувачів ця конкретна техніка націлена на корпоративну інфраструктуру безпеки, а не безпосередньо на особисті пристрої. Навряд чи ви зіткнетеся з цим конкретним трюком із VBS-скриптом на власному комп’ютері так, щоб це вплинуло на ваше щоденне переглядання вебсторінок або звички електронної пошти. Але основний урок застосовується ширше: автоматизовані інструменти, чи то AI-сканери шкідливого програмного забезпечення, спам-фільтри чи антивірусне програмне забезпечення, не є безпомилковими, і атакувальники активно досліджують способи використання їхніх сліпих зон.
Якщо на вашому робочому місці використовуються інструменти безпеки на основі AI, це слушний момент, щоб запитати, як ці інструменти перевіряються і чи переглядають аналітики-люди позначені чи непозначені файли. Для окремих осіб висновок більш загальний: не припускайте, що файл автоматично безпечний, лише тому, що його не позначив автоматизований сканер. Багаторівневий захист, скептицизм щодо неочікуваних скриптів або вкладень і базова гігієна безпеки залишаються такими ж важливими, як і раніше.
Практичні висновки
- Уникайте відкриття небажаних VBS-файлів, скриптів або документів із макросами, незалежно від того, чи очистив їх автоматизований скан.
- Якщо ви керуєте інструментами безпеки на роботі, запитайте, чи включає аналіз шкідливого програмного забезпечення на основі AI резервний перегляд людиною для файлів, які викликають відмови або неповні скани.
- Зберігайте традиційні рівні виявлення, як-от антивірус на основі сигнатур і моніторинг мережі, поряд із новішими AI-інструментами, а не замінюйте їх повністю.
- Будьте в курсі того, як атакувальники адаптуються до захисту на основі AI, оскільки такі техніки, як ця, ймовірно, еволюціонуватимуть, а не зникнуть.
Оскільки AI стає дедалі більш вбудованим у робочі процеси кібербезпеки, такі інциденти, як цей, показують, що захисні механізми, призначені для безпеки AI-систем, також можуть стати ціллю самі по собі. Залишатися в курсі цих нових тактик і підтримувати багаторівневий захист із переглядом людиною залишається найкращим способом випереджати атакувальників, які постійно шукають нові слабкі місця для експлуатації.
