Нов вид доклад за разузнаване на заплахи

Anthropic публикува своя доклад за разузнаване на заплахи от септември 2026 г., 154-страничен документ, озаглавен „Detecting and countering misuse of AI“, и той се чете по-скоро като предупреждение за това колко бързо се разрастват автоматизираните атаки, отколкото като рутинен бюлетин за сигурност. Докладът обхваща злонамерени операции, които Anthropic е идентифицирала и прекъснала, включващи заплахи от заподозрени държавно спонсорирани групи и финансово мотивирани престъпници до търговски доставчици на шпионски софтуер и държавни пропагандни операции.

Това, което отличава този доклад от по-ранни разкрития, е огромният обхват на злоупотребата, която документира. Вместо да описва една единствена техника за атака или един компрометиран модел, Anthropic очертава как AI агентите сега се използват през целия жизнен цикъл на атаката: пренаписване на зловреден код, за да се избегне откриване, търсене на преди това неизвестни софтуерни уязвимости и генериране на съдържание за координирани кампании за влияние. Това надгражда модел, който Anthropic е отбелязала и преди. По-ранно разкритие, описано в доклад за хакери, използващи Claude AI за кибератаки, показа как атакуващите използват AI модели, за да провеждат цели операции с минимален човешки надзор. Докладът от септември 2026 г. подсказва, че тази тенденция не се е забавила. Тя се е разраснала.

От пренаписване на зловреден софтуер до фабрики за zero-day уязвимости

Едно от по-впечатляващите открития включва това, което докладът описва като AI агенти, функциониращи като „фабрики за zero-day уязвимости“ — системи, способни итеративно да търсят и усъвършенстват експлоатируеми дефекти в софтуера, вместо да разчитат на човешки изследовател да ги открие ръчно. Комбинирано със способността на AI да пренаписва зловреден софтуер в движение, за да заобикаля базираното на сигнатури откриване, това представлява значителна промяна в това колко бързо злонамерените кампании могат да се адаптират.

Това не се случва изолирано. Anthropic преди това откри, че атакуващи, подпомогнати от AI, са ударили повече от 20 организации, използвайки техники, които размиват границата между нискоквалифицирани престъпници и добре осигурени, държавно подкрепяни операции. Отделно, изследователи по сигурността, проследяващи ransomware операцията Aurora, откриха партньори, съчетаващи масови AI инструменти за програмиране със специализиран зловреден софтуер, за да атакуват инфраструктура за виртуализация. Взети заедно, тези доклади сочат последователен модел: AI инструментите намаляват техническата бариера за създаване и адаптиране на зловреден софтуер, което означава, че повече участници, не само елитни хакерски групи, могат сега да провеждат сложни кампании.

Пропагандни мрежи и цената за поверителността на обикновените потребители

Включването на държавни пропагандни операции в доклада е мястото, където последиците за поверителността стават най-пряко свързани с обикновените интернет потребители. Генерираното от AI съдържание, използвано в кампании за влияние, зависи от данни, поведенчески модели, езикови предпочитания и социален контекст, за да направи посланията убедителни и целенасочени. Когато AI агентите се използват за управление на тези мрежи в мащаб, операциите зад тях ефективно автоматизират профилирането и манипулирането на аудитории, често без тези аудитории дори да осъзнават, че взаимодействат с кампания, управлявана от ботове, а не с истински публичен дискурс.

Това задълбочава съществуващ проблем с поверителността. AI моделите, които захранват браузърни разширения и асистенти, вече показаха пропуски в сигурността, които атакуващите могат да експлоатират. Изследователи в Zenity например идентифицираха zero-click уязвимости, засягащи Claude в Chrome и ChatGPT Atlas, което означава, че потребителят не е трябвало да кликва върху нищо зловредно, за да бъде отвлечена сесията му. Когато комбинирате такъв вид експлоатируема повърхност с автоматизирано откриване на zero-day уязвимости и генериране на пропаганда, резултатът е среда на заплахи, в която личните данни, поведението при сърфиране и дори общественото мнение стават цели на автоматизирана манипулация, а не на изолирани, управлявани от хора атаки.

Какво означава това за вас

Повечето читатели няма да бъдат пряко атакувани от държавно спонсорирана група или търговски доставчик на шпионски софтуер. Но инструментите и техниките, документирани в доклада за разузнаване на заплахи на Anthropic, обикновено се просмукват надолу. Зловреден софтуер, усъвършенстван от AI агенти, за да избегне откриване, в крайна сметка се появява в ежедневни фишинг комплекти и пакети ransomware-as-a-service. Фалшиво съдържание, свързано с AI, вече е използвано като примамка, както се вижда в кампании, използващи фалшиви резултати от търсене на Claude AI, за да подмамят Mac потребители към инсталиране на зловреден софтуер. Поуката не е, че самият AI е опасен — а че мащабът и скоростта на автоматизираните атаки се увеличават, което означава, че основните хигиенни стъпки, които преди изглеждаха незадължителни, сега са от съществено значение.

Практични изводи

Поддържайте операционната си система, браузъра и всички интеграции с AI актуализирани, тъй като циклите на zero-day уязвимости и бързи корекции стават все по-чести. Отнасяйте се скептично към спешни подкани да „поправите“ нещо чрез изтеглен инструмент, особено такива, появили се в резултати от търсене, позоваващи се на известни AI марки. Използвайте надежден мениджър на пароли и активирайте многофакторно удостоверяване, така че един компрометиран идентификационен данък да не прерасне в по-голямо нарушение. И накрая, отнасяйте се към необичайно убедително или повтарящо се съдържание онлайн, особено по спорни теми, с доза здравословен скептицизъм, тъй като пропагандните мрежи все по-често са изградени да изглеждат органични. Докладът на Anthropic е напомняне, че AI преобразува и двете страни на уравнението за сигурност, а информираността за това как се развиват тези заплахи е един от най-простите начини да останете крачка напред.