Руски хакери използват AI защитните механизми срещу инструментите за сигурност

Новопотвърдена зловредна кампания, свързана с руски хакери, е възприела необичаен подход за избягване на откриване: вграждане на фалшива заявка за ядрено оръжие в злонамерен VBS скрипт. Целта не е да се създаде оръжие, а да се объркат AI системите, които все по-често се използват за анализ на подозрителен код. Чрез вмъкване на език, който имитира заявка за информация за ядрени оръжия, атакуващите изглежда се опитват да задействат защитните механизми, вградени в AI моделите, което кара тези системи да откажат да обработват или напълно да анализират файла.

Тази тактика подчертава нарастващото напрежение в киберсигурността: тъй като все повече екипи по сигурността разчитат на AI инструменти за триаж и анализ на зловреден софтуер в мащаб, атакуващите се учат да експлоатират самите защитни механизми, предназначени да направят тези инструменти надеждни.

Как работи трикът с фалшивата ядрена заявка

AI защитните механизми съществуват с основателна причина. Големите езикови модели са обучени да отказват заявки, които биха могли да улеснят реални вреди, включително подробни инструкции, свързани с оръжия за масово унищожение. Когато инструмент за сигурност, подпомаган от AI, сканира файл, той обикновено чете съдържанието, включително вградения текст, като част от процеса на анализ.

Чрез поставяне на език, наподобяващ заявка за ядрено оръжие, във VBS скрипта, хакерите изглежда разчитат на вграденото поведение на отказ на AI модела. Вместо да маркира файла като зловреден, AI може да спре, да откаже да продължи анализа или да даде непълен или ненадежден резултат. На практика злонамереното съдържание се превръща в своеобразна примамка, използвайки собственото етично обучение на AI срещу него.

Това не е недостатък, уникален за конкретен доставчик или продукт. Той отразява по-широко предизвикателство: защитните механизми обикновено са проектирани около модериране на съдържание и предотвратяване на вреди, а не около противодействие при технически анализ на зловреден софтуер. Когато тези две цели се сблъскат, атакуващите получават възможност.

Защо това е важно за AI-базиран анализ на сигурността

Екипите по сигурността бързо възприеха AI инструменти, за да се справят с огромния обем подозрителни файлове, опити за фишинг и скриптове, които срещат ежедневно. Тези инструменти обещават по-бърз триаж и могат да маркират модели, които човешките анализатори биха пропуснали. Но този инцидент напомня, че AI системите, използвани в работните процеси по сигурността, носят собствена атакуема повърхност, която традиционното откриване на зловреден софтуер не е било създадено да предвиди.

Ако AI модел може да бъде манипулиран да пропусне или смекчи анализа си просто защото файлът съдържа определени думи-тригери, това е значително сляпо петно. Това също така повдига въпроси относно това колко организацията трябва да разчитат на AI-управляван анализ без човешки надзор, особено за решения с високи залози като това дали файлът е безопасен за отваряне или изпълнение.

Този вид тактика се вписва в по-широк модел на атакуващи, които адаптират техниките си към това кой, или какво, се защитава. Точно както операторите на ransomware са насочили социалното инженерство към мениджъри в средата на кариерата вместо към висши ръководители, авторите на зловреден софтуер сега адаптират техниките си за избягване към конкретните системи, включително AI модели, които стоят между тях и техните цели.

Какво означава това за вас

За повечето индивидуални потребители тази конкретна техника е насочена към инфраструктурата за сигурност на предприятията, а не директно към личните устройства. Едва ли ще срещнете този конкретен трик с VBS скрипт на собствения си компютър по начин, който да повлияе на ежедневното ви сърфиране или имейл навици. Но основният урок важи в широк смисъл: автоматизираните инструменти, независимо дали става въпрос за AI-базирани скенери за зловреден софтуер, спам филтри или антивирусен софтуер, не са непогрешими, а атакуващите активно проучват начини да експлоатират техните слепи петна.

Ако работното ви място използва инструменти за сигурност, подпомагани от AI, това е полезен момент да попитате как тези инструменти се валидират и дали човешки анализатори все още преглеждат маркирани или немаркирани файлове. За отделните потребители изводът е по-общ: не предполагайте, че защото даден файл не е маркиран от автоматизиран скенер, той автоматично е безопасен. Многослойната защита, скептицизмът към неочаквани скриптове или прикачени файлове и основната хигиена на сигурността остават също толкова важни, колкото и преди.

Практически изводи

  • Избягвайте отварянето на непотърсени VBS файлове, скриптове или документи с активирани макроси, независимо дали автоматизирано сканиране ги е изчистило.
  • Ако управлявате инструменти за сигурност на работа, попитайте дали AI-подпомаганият анализ на зловреден софтуер включва резервен човешки преглед за файлове, които предизвикват откази или непълни сканирания.
  • Запазете традиционните слоеве за откриване, като сигнатурна антивирусна програма и мрежов мониторинг, заедно с по-новите AI инструменти, вместо да ги заменяте изцяло.
  • Останете информирани за това как атакуващите се адаптират към AI-управляваната защита, тъй като техники като тази вероятно ще се развиват, а не ще изчезнат.

Тъй като AI става все по-вграден в работните процеси по киберсигурност, инциденти като този показват, че защитните механизми, предназначени да поддържат AI системите безопасни, могат също да се превърнат в цел сами по себе си. Да останете информирани за тези нововъзникващи тактики и да поддържате многослойна защита с човешки преглед остава най-добрият начин да останете пред атакуващите, които постоянно търсят нови слабости за експлоатация.