Рансъмуер с изкуствен интелект удари Hugging Face, съобщава Sysdig

Най-съвременният ИИ не успя да спре нападателите

Появи се доклад, описващ как Hugging Face се справи със злонамерени AI агенти, заедно с отделно, също толкова забележително откритие на изследователи по сигурността от Sysdig: големите езикови модели вече не са просто инструменти, които нападателите използват за писане на фишинг имейли или зловреден код. Сега те могат да изпълняват цели кибератаки самостоятелно, от началото до края.

Според информацията за инцидента с Hugging Face, комерсиално достъпните най-съвременни LLM модели не са успели да помогнат на компанията да се пребори с това, което докладът описва като „зли агенти“ — AI системи, очевидно използвани от нападатели за проучване или експлоатиране на платформата. Наличните данни не уточняват как точно се е развила конфронтацията или защо най-съвременните модели са се оказали недостатъчни, но самото заглавие на откритието е значимо: дори най-способните AI модели с общо предназначение на пазара не са били достатъчни, за да противодействат на заплаха, задвижвана от изкуствен интелект.

Sysdig документира рансъмуер атака, изпълнена от ИИ

Отделно и по-рано през същия месец, ловците на заплахи от Sysdig документираха това, което описват като първата напълно агентна рансъмуер инфекция в историята, което означава, че LLM модел, а не човешки оператор, е ръководил цялата операция по изнудване от началото до края. Според констатациите на Sysdig, AI агентът сам е обработил цялата верига на атаката: получаване на първоначален достъп до целевата среда, странично придвижване за компрометиране на продукционен сървър за бази данни и в крайна сметка унищожаване на данните в тази система.

Последната подробност е от значение. Традиционният рансъмуер обикновено криптира данни и ги държи за откуп, с имплицитното обещание, че плащането ще върне файловете ви. Пълното унищожение премахва изцяло тази сметка. Ако един автономен агент взема решения в реално време за това как да ескалира атаката, няма гаранция, че ще се държи предвидимо или че жертвата изобщо ще има път за възстановяване след нанесените щети.

Защо веригата на атака, задвижвана от ИИ, променя модела на заплахата

Това, което отличава този случай от годините говорене за киберпрестъпления, подпомагани от ИИ, е думата „агентна“. Екипите по сигурност прекараха последните няколко години в обсъждане на това как нападателите използват генеративен ИИ, за да пишат по-убедителни фишинг примамки или да дебъгват зловреден код по-бързо. Това, което Sysdig описва, е стъпка напред: AI система, която взема свои собствени последователни решения за това как да проникне в мрежа, да ескалира привилегии, да локализира ценни данни и да ги унищожи, до голяма степен без човек, който да ръководи всяко действие.

За организациите това променя модела на заплахата по два начина. Първо, атаките вече могат да се развиват с машинна скорост, като агентът преминава през техники много по-бързо, отколкото би го направил човешки оператор. Второ, защитниците вече не могат да предполагат, че наличието на познати модели на атака означава, че зад клавиатурата стои човек. Стратегиите за откриване и реагиране, изградени около човешки поведенчески сигнали, може да се наложи да вземат предвид противник, който не се уморява, не се колебае и не следва непременно сценариите, по които защитниците са тренирали.

Какво означава това за вас

Повечето читатели на vpn.social не управляват продукционни сървъри за бази данни, но основният урок важи за всички. Независимо дали сте физическо лице, управляващо лични акаунти, или собственик на малък бизнес, отговорен за клиентски данни, възходът на атаките, задвижвани от ИИ, означава, че основите на защитата на данните са по-важни от всякога, не по-малко.

Това започва с предположението, че всяка изложена или слабо защитена система, лична или корпоративна, вече е цел за автоматизирано проучване и експлоатация, а не само за опортюнистични човешки нападатели. Редовното наблюдение за пробиви, силни и уникални пароли, многофакторна автентикация и офлайн или неизменни резервни копия вече не са опционални хигиенни мерки; те са базовата защита срещу противник, който вече може да атакува денонощно без умора. Ако данните ви някога попаднат в инцидент като описания от Sysdig, разликата между възстановим пробив и постоянна загуба на данни може да се сведе до това дали съществува чисто резервно копие някъде, до което нападателят не е успял да достигне.

Практически изводи

• Редовно създавайте резервни копия на критични данни и поддържайте поне едно копие офлайн или по друг начин изолирано от основната ви мрежа.
• Активирайте многофакторна автентикация навсякъде, където се предлага, тъй като автоматизираните агенти ще търсят пътя на най-малкото съпротивление.
• Следете за известия за пробиви на данни, свързани с услугите, които използвате, и действайте бързо, ако идентификационните ви данни се появят в известен инцидент.
• Третирайте AI инструментите, както нападателните, така и защитните, като бързо развиващи се. Това, което е работило като защита преди шест месеца, може да не издържи срещу автономен агент днес.

С навлизането на AI системите във все по-автономни роли в кибератаките, организациите и лицата, които адаптират защитите си навреме, ще бъдат най-добре позиционирани да преодолеят това, което предстои.