Група за ransomware, управлявана от AI, се завръща с ново оръжие

JadePuffer, заплахата, документирана по-рано като извършила първата ransomware кампания, проведена изцяло от голям езиков модел, се завръща с нов инструмент. Според Infosecurity Magazine, последвалата кампания на групата използва заключващ механизъм, наречен ENCFORGE, създаден специално за унищожаване на артефакти от AI модели, вместо просто да криптира обикновени файлове и бази данни.

Това има значение, защото бележи промяна в избора на цели. По-ранните ransomware операции, включително оригиналната кампания на JadePuffer, се фокусираха върху криптиране на производствени бази данни и искане на плащане за тяхното възстановяване. Първоначалната документация на Sysdig за атаката на JadePuffer описва агентен оператор, който експлоатира платформата Langflow и провежда проникването с минимален човешки надзор. Изглежда, че ENCFORGE разширява същия автоматизиран подход, но с нова цел: заличаване на обучените модели, теглата и конфигурационните файлове, на които организациите разчитат, за да управляват AI системи.

Защо таргетирането на AI модели променя сметките

Традиционният ransomware държи данни като заложници. Унищожаването на артефакти от AI модели е различен вид изнудване. Обучените модели често представляват месеци изчислително време, курирани тренировъчни данни и фина настройка, които не могат просто да бъдат възстановени от рутинен бекъп, ако този бекъп не е бил специално проектиран с мисъл за възстановяване на модели. За компании, които са изградили клиентски AI инструменти, вътрешна автоматизация или потоци за обработка на данни около тези модели, тяхната пълна загуба може да бъде по-разрушителна от загубата на единична база данни, защото изграждането на модел от нулата отнема време, с което живият бизнес често не разполага.

Има и аспект на неприкосновеността на личния живот, който си струва да се отбележи. Много AI модели, използвани от бизнеса, са обучени или фино настроени върху набори от данни, които включват клиентска информация – независимо дали стенограми от поддръжката, данни за поведението или лични записи, използвани за персонализиране на услуга. Когато ransomware операторите атакуват инфраструктурата около тези модели – независимо дали чрез криптиране на свързаните бази данни или вече чрез унищожаване на самите модели – личните данни, преминаващи през тази инфраструктура, са изложени на риск както от изтичане, така и от загуба. Потребителите рядко имат видимост кой доставчик управлява AI системи върху тяхната информация, което прави този вид атака по-трудна за засичане отвън и по-трудна за подготовка като индивид.

Част от по-широка тенденция в автономните атаки

Завръщането на JadePuffer с ENCFORGE се вписва в тенденция, която изследователите по сигурността следят отблизо тази година. Независими открития около първата напълно автономна AI ransomware атака показаха, че AI агент може да сканира за уязвимости, да получи достъп и да извърши опит за изнудване, без човешки оператор да насочва всяка стъпка в реално време. Този прецедент има значение тук, защото предполага, че JadePuffer не е еднократен експеримент. Това е оператор, който е итерирал върху собствените си инструменти, преминавайки от криптиране на бази данни към заключващ механизъм, специално проектиран срещу AI инфраструктура. С нарастващото приемане на AI платформи като Langflow и подобни инструменти за оркестрация, атакуващата повърхност за този вид кампании само се увеличава – тема, разгледана в последните прегледи на сигурността, проследяващи ransomware и AI-задвижвани атаки наред с други нововъзникващи заплахи.

Какво означава това за вас

Повечето читатели няма да управляват сами внедряване на AI модели, но вълновите ефекти достигат по-далеч от ИТ отделите. Ако бизнес, с който взаимодействате – независимо дали търговец на дребно, доставчик на здравни услуги или финансова институция – използва AI системи, които бъдат ударени от подобна атака, последиците могат да включват прекъсване на услуги, забавена поддръжка или в по-лоши случаи – излагане на данните, върху които тези модели са били обучени или оперирани. Ransomware, насочен към AI инфраструктура, засега си остава проблем от бизнес към бизнес, но потребителските данни, намиращи се вътре в тази инфраструктура, са това, което придава на тези атаки тяхната тежест.

За организации, които изграждат или управляват AI системи, това е ясен сигнал, че артефактите на моделите се нуждаят от същата дисциплина за архивиране, контрол на достъпа и наблюдение като всеки друг критичен актив. Да се третира обученият модел като нещо, което може да се изхвърли или лесно да се замени, вече не е безопасно предположение.

Приложими изводи

  • Ако управлявате AI инфраструктура, осигурете архивиране на теглата на моделите и тренировъчните артефакти отделно от производствените системи, с офлайн или неизменяеми копия.
  • Прегледайте контрола на достъпа върху платформите за оркестрация на AI; агентните ransomware кампании са експлоатирали изложени или неправилно конфигурирани инструменти, за да получат опора.
  • Като потребител, питайте доставчиците на услуги как защитават AI системите, обработващи вашите данни, особено при услуги, работещи с чувствителна лична или финансова информация.
  • Бъдете нащрек за прекъсвания на услуги или известия за пробиви от компаниите, които ползвате; ransomware, насочен към AI сървърна инфраструктура, може да забави възстановяването повече от типично прекъсване.

Еволюцията на JadePuffer от изнудване чрез бази данни до унищожаване на AI модели е напомняне, че ransomware операторите се адаптират бързо към мястото, където са концентрирани стойността и лостовете за натиск. Тъй като AI системите се превръщат в основна инфраструктура за все повече бизнеси, тяхната защита ще трябва да стане основна част от позицията за сигурност на всеки, а не закъсняла мисъл.