Підтримуване російською державою угруповання перетворило Claude на інструмент розробки шкідливого ПО

Anthropic припинила підтримувану російською державою операцію, яка відстежується внутрішньо як GTG-20006 і використовувала модель Claude AI як частину активного конвеєра розробки шкідливого ПО. За даними Anthropic, угруповання не просто попросило Claude один раз написати код і на цьому зупинилося. Замість цього воно використовувало модель у безперервному циклі: генерувати шкідливе ПО, тестувати його проти засобів безпеки, і коли шкідливе ПО позначалося як загроза, передавати цю інформацію про виявлення назад у Claude, щоб отримати перероблену версію, розроблену для обходу тих самих засобів захисту.

Звіти, пов'язані з цією кампанією, пов'язують зловмисника з Midnight Blizzard — угрупованням загроз, асоційованим з російськими державними інтересами, яке має давню історію операцій, зосереджених на шпигунстві. Повідомляється, що активність була націлена на українські та європейські організації, що відповідає типовій спрямованості угруповання на збір розвідувальної інформації, а не на кіберзлочинність із фінансовою мотивацією. Anthropic заявляє, що виявила та закрила акаунти, пов'язані з операцією, щойно зловживання було виявлено.

Як працював робочий процес шкідливого ПО з підтримкою ШІ

Що робить цей випадок примітним, то це не те, що хакери використали чат-бот зі штучним інтелектом. Це сам робочий процес. Традиційно автори шкідливого ПО адаптують свій код вручну після того, як антивірусні виробники або інструменти виявлення кінцевих точок позначають зразок як загрозу. Цей процес вимагає часу, навичок та ітерацій. Вставивши Claude у цей цикл, GTG-20006, схоже, скоротила цикл: замість того, щоб розробник-людина переробляв позначений код рядок за рядком, модель ШІ стала швидким інструментом на вимогу для генерації варіантів, здатних обійти сигнатури виявлення.

Це відображає ширшу тенденцію, про яку попереджають дослідники безпеки: помічники з написання коду на базі ШІ є потужними, оскільки вони знижують технічний бар'єр для швидкого написання функціонального коду, і ця сама ефективність застосовується незалежно від того, чи кінцева мета — легітимний застосунок, чи частина шкідливого ПО. Розкриття Anthropic свідчить про те, що власні системи моніторингу компанії змогли виявити зловживання та відреагувати на нього, що є важливим сигналом того, що постачальники ШІ активно стежать за такою поведінкою, а не розглядають її як гіпотетичний ризик.

Це також з'являється поряд з іншими нещодавніми висновками про слабкі місця в екосистемах помічників ШІ. Дослідники з Zenity нещодавно розкрили вразливості zero-click у Claude та ChatGPT Atlas, які могли дозволити зловмисникам захопити інструменти ШІ-браузера взагалі без будь-якої взаємодії з користувачем. Разом ці історії вказують на ту саму основну тему: у міру того, як інструменти ШІ вбудовуються в повсякденні робочі процеси, як самі інструменти, так і спосіб, у який їх використовують зловмисники, стають поверхнями атаки, які варто ретельно вивчати.

Чому це важливо поза заголовками

Варто бути точним щодо того, що сталося, а що ні. Claude не було "зламано", щоб таємно допомагати зловмисникам, і немає жодних ознак того, що звичайні користувачі Claude зазнали впливу шкідливого ПО через сам застосунок. Це був випадок, коли витончене угруповання, пов'язане з державою, використовувало легітимний продукт ШІ як інструмент розробки — так само, як воно могло б використовувати будь-яке програмне забезпечення для написання коду, — і зловживало ним для генерації шкідливого коду. Реакція Anthropic — виявлення цієї схеми та припинення доступу — є саме тим видом правозастосовних дій, які мають значення для того, щоб платформи ШІ не ставали типовими наборами інструментів для наступальних кібероперацій.

Водночас цей інцидент є нагадуванням, що розробка шкідливого ПО з підтримкою ШІ більше не є теоретичною. Підтримувані державою зловмисники експериментують з цими інструментами, щоб прискорити свої операції, і захисникам доведеться враховувати шкідливе ПО, яке можна перегенерувати та модифікувати швидше, ніж раніше. Для організацій в Україні та Європі, які, схоже, були фокусом цієї конкретної кампанії, це також підтверджує, що угруповання, керовані шпигунством, продовжують надавати пріоритет збору розвідувальної інформації над швидкою фінансовою вигодою.

Що це означає для вас

Для більшості окремих користувачів ця конкретна кампанія не становить прямої нової загрози. Повідомляється, що GTG-20006 була зосереджена на цільовому шпигунстві проти організацій, а не на масових атаках на споживачів. Але ширша тенденція — інструменти ШІ прискорюють розробку шкідливого ПО та його ухилення від виявлення — має подальший вплив на всіх. Швидша ітерація шкідливого ПО означає, що виробникам засобів безпеки та антивірусним інструментам, можливо, доведеться частіше оновлювати сигнатури виявлення, і це підвищує цінність інструментів безпеки на основі поведінки порівняно з тими, що покладаються виключно на відомі сигнатури шкідливого ПО.

Це також гарний момент, щоб переглянути базову гігієну безпеки, оскільки шкідливе ПО з підтримкою ШІ все ще покладається на ті самі методи доставки: фішингові електронні листи, шкідливі вкладення та скомпрометоване програмне забезпечення. Жоден інструмент ШІ не змінює того, як шкідливе ПО потрапляє на пристрій у першу чергу.

Ключові висновки

  • Тримайте операційні системи, браузери та програмне забезпечення для безпеки оновленими, щоб інструменти виявлення могли швидко виявляти новіші варіанти шкідливого ПО.
  • Ставтеся з підозрою до небажаних вкладень або посилань, навіть від, здавалося б, знайомих відправників, оскільки методи доставки залишаються незмінними.
  • Організаціям, особливо тим, що працюють у секторах, які ймовірно стануть ціллю підтримуваних державою зловмисників, слід надавати пріоритет виявленню на основі поведінки, а не інструментам, що покладаються лише на сигнатури.
  • Стежте за тим, як провідні постачальники ШІ реагують на повідомлення про зловживання. Припинення Anthropic операції GTG-20006 показує, що правозастосування на рівні платформи є активною частиною рівняння безпеки, а не просто запізнілою думкою.

У міру того, як інструменти написання коду на базі ШІ стають дедалі потужнішими, подібні інциденти, ймовірно, ставатимуть частішими, а не рідшими. Бути поінформованим про те, як ці інструменти водночас захищають і використовують у зловмисних цілях, — один із найпростіших способів для користувачів та організацій залишатися на крок попереду.