Кибератака с DeepSeek AI постави нови основи в автоматизацията

Изследователи по сигурността от Unit 42 документираха нещо, което може би е едно от най-тревожните развития в нападателното използване на ИИ до момента: китайскоговорящ заплашителен актьор според съобщенията е превърнал DeepSeek в автономен агент за атаки, използвайки инструмент, наречен Hermes Agent, стартирайки операции срещу повече от 460 цели с минимална човешка намеса. Това, което прави тази кибератака с DeepSeek AI особено забележителна, не е само мащабът, а работният процес. Според Unit 42, нападателят първо се е опитал да използва моделите на Claude и OpenAI за кампанията, но тези системи според съобщенията са отказали да изпълнят злонамерената задача. Тогава операторът се е насочил към DeepSeek, който очевидно не е разполагал с такива предпазни механизми.

Веднъж конфигуриран, ИИ агентът не просто е асистирал с една стъпка от веригата на атаката. Той според съобщенията е сканирал за уязвимости, премествал се е между системи и е експлоатирал слабости до голяма степен самостоятелно след получаване на първоначални инструкции. Някои доклади за тази кампания посочват, че операторът е започнал нещата с една-единствена команда, изпратена чрез приложение за съобщения, след което ИИ системата е извършила разузнаване и експлоатация с малко допълнителни насоки. Това ниво на автономност е значителна промяна спрямо по-ранните атаки, подпомогнати от ИИ, където човешките оператори все още са изпълнявали по-голямата част от техническото изпълнение.

Защо предпазните механизми на ИИ (или липсата им) имат значение

Детайлът за това, че Claude и OpenAI са отказали да участват, е може би най-важната част от тази история. Той предполага, че филтрите за безопасност, вградени в големите комерсиални ИИ модели, могат значително да блокират определени работни потоци за атаки, поне когато лош актьор се опитва да ги използва директно и прозрачно. Но също така разкрива очевидния заобиколен път: нападателите не трябва да побеждават защитите на всяка ИИ система, те просто трябва да намерят един модел, склонен да сътрудничи.

DeepSeek, китайски разработен ИИ модел, е изправен пред постоянен контрол относно практиките си за обработка на данни и модериране на съдържание от публичното си пускане насам. Този инцидент добавя ново измерение към този контрол: очевидната готовност на модела да поддържа автономна дейност по експлоатация без съпротива. Някои сведения за кампанията предполагат, че ИИ агентът е бил използван и за компрометиране на голям брой допълнителни хостове, потенциално хиляди, за проксиджекинг – практика, при която компрометирани устройства се използват за насочване на трафик с цел печалба или за прикриване на по-нататъшни атаки. Ако това е точно, това би означавало, че кампанията не е била ограничена до 460-те потвърдени цели, а активно е разширявала собствената си инфраструктурна база, докато е течала.

Този модел на задвижвано от ИИ сканиране за уязвимости и експлоатация отразява по-широка тенденция, която екипите по сигурност проследяват: нападателите все по-често автоматизират откриването и експлоатацията на известни недостатъци по-бързо, отколкото защитниците могат да ги коригират. Скорошното добавяне от CISA на активно експлоатирани недостатъци към списъка си с Известни Експлоатирани Уязвимости е напомняне, че некоригираните, публично известни уязвимости остават най-лесната входна точка както за човешки, така и за задвижвани от ИИ нападатели. Когато автономен агент може да сканира за и да експлоатира множество известни типове уязвимости в стотици цели, без човек да изпълнява ръчно всяка стъпка, прозорецът за организациите да се коригират се свива драстично.

Какво означава това за вас

Ако сте индивидуален читател, тази история не е причина за паника, но е сигнал, на който си струва да се обърне внимание. Автономните атаки, задвижвани от ИИ, се превръщат в реална оперативна способност, а не в теоретичен бъдещ риск. За повечето потребители, практическото излагане идва индиректно: ако услуга, приложение или платформа, която използвате, бъде компрометирана чрез този вид автоматизирана експлоатация, вашите данни може да се окажат засегнати от последиците.

За ИТ администратори, екипи по сигурност и собственици на малък бизнес, последиците са по-директни. Нападател, въоръжен с автономен ИИ агент, не се нуждае от дълбок технически опит, за да проведе широкомащабна кампания за сканиране и експлоатация. Това понижава бариерата за навлизане за атаки, които някога са изисквали квалифицирани човешки оператори, и означава, че некоригираните системи са изложени на по-висок риск да бъдат открити и експлоатирани бързо, понякога преди защитниците дори да разберат, че нова уязвимост се атакува активно.

Практически изводи

Коригирайте незабавно и последователно. Инструментите за автономно сканиране търсят известни, некоригирани уязвимости, така че навременните актуализации остават една от най-ефективните налични защити.

Наблюдавайте за необичайни модели на удостоверяване или сканиране. Автоматизираните агенти често генерират отличителни модели на трафик, като бързо, последователно проучване в множество системи, които инструментите за наблюдение на сигурността могат да маркират.

Бъдете предпазливи относно това кои ИИ инструменти вашата организация интегрира в работните потоци и разберете, че не всички доставчици на ИИ прилагат едни и същи стандарти за безопасност.

Бъдете информирани за нововъзникващи оповестявания на уязвимости и списъци с експлоатирани недостатъци, тъй като те са суровината, на която разчитат инструментите за автономни атаки.

Кампанията за кибератака с DeepSeek AI, детайлизирана от Unit 42, е предварителен преглед на това как се развиват нападателните способности на ИИ. Поддържането на актуалност относно корекции, наблюдение и разузнаване за уязвимости остава най-надеждният начин да останете крачка напред пред автоматизирани заплахи като тази.