Нова рамка за проследяване на заплахи, интегрирани с AI

Специалистите по сигурност са прекарали последните няколко години в предупреждения, че криминалните елементи в крайна сметка ще създадат зловреден софтуер, способен да използва изкуствен интелект самостоятелно, без човек да въвежда команди зад кулисите. Това предупреждение вече се е превърнало в документирана реалност. Изследователи от Cisco Talos разработиха нова рамка за откриване, създадена специално за идентифициране на зловреден софтуер и хакерски инструменти, които разчитат на AI чатботове за вземане на решения. Докато тестваха инструмента, те откриха нещо, което не очакваха: злонамерен софтуер, който се консултира с множество големи езикови модела, за да реши какво да прави след това, без оператор, който да го насочва в реално време.

Рамката, създадена да класифицира и анализира зловреден софтуер, интегриран с AI, даде на Talos начин да забележи модели, които традиционните антивирусни сигнатури и поведенческият анализ обикновено пропускат. Вместо да търси само известен злонамерен код, инструментът търси характерните признаци на софтуер, който отправя заявки към AI модели по време на изпълнение, по същество питайки чатбот каква стъпка да предприеме след това в компрометирана система.

Вътре в CLOSEDQUORUM: зловреден софтуер със собствен AI съвет

Най-поразителното откритие от това изследване е парче зловреден софтуер, което изследователите са нарекли CLOSEDQUORUM. Вместо да разчита на един-единствен AI модел за насоки, CLOSEDQUORUM се свързва с няколко различни големи езикови модела и претегля отговорите им, преди да действа, функционирайки почти като малък комитет от AI съветници, вземащи решения заедно. Именно този дизайн е накарал някои в общността по сигурност да го опишат като AI "колективен разум", ръководещ злонамерена дейност.

Това е важно, защото премахва едно от най-големите ограничения пред киберпрестъпността: необходимостта човек да остане ангажиран. Традиционният зловреден софтуер често се нуждае от оператор, който да изпраща нови команди, да коригира тактиките, когато защитите се променят, или да реши как да реагира на неочаквано препятствие. Зловреден софтуер, който може да отправя заявки към множество AI системи и да синтезира техния принос, потенциално може да се адаптира самостоятелно, със скоростта на машина, без да чака човек да влезе в системата и да издаде инструкции.

Това откритие идва заедно с други скорошни находки, сочещи в същата посока. По-рано тази година Групата за анализ на заплахи на Google потвърди, че AI вече се използва за захранване на разработването на експлойти за нулев ден, което показва, че ролята на AI в офанзивните кибероперации е преминала отвъд теоретичните обсъждания. Откритието на Talos за CLOSEDQUORUM добавя още една точка от данни: AI не просто помага на нападателите да пишат код по-бързо, той се вгражда директно в операционната логика на зловредния софтуер.

Последици за поверителността от автономния зловреден софтуер

За обикновените интернет потребители появата на ръководен от AI зловреден софтуер като CLOSEDQUORUM повдига реални опасения за поверителността, дори ако непосредствените технически подробности са насочени към корпоративните защитници. Зловреден софтуер, който може самостоятелно да реши как да се движи през мрежата, кои данни изглеждат ценни или как да избегне откриване, може да бъде далеч по-ефективен при намирането и източването на лична информация от зловреден софтуер, който зависи от човешки оператор, проверяващ периодично.

Автономното вземане на решения също усложнява приписването и реакцията. Когато човешки оператор ръководи атака, екипите по сигурност понякога могат да предвидят поведението въз основа на известни модели, свързани с конкретна група. Зловреден софтуер, който се консултира с AI модели в движение, може да се държи по-непредвидимо, генерирайки нови пътища за атака, които не съвпадат с нито една предишна каталогизирана техника. Тази непредвидимост е точно причината Talos да изгради специална рамка, вместо да разчита на съществуващи методи за откриване; целта е да се хванат заплахите, интегрирани с AI, преди те тихо да съберат идентификационни данни, финансови данни или лични файлове.

Какво означава това за вас

Повечето индивидуални потребители няма да бъдат пряко атакувани от най-съвременен ръководен от AI зловреден софтуер като CLOSEDQUORUM в непосредствен план. Инструменти като този обикновено се появяват първо при целенасочени прониквания срещу бизнеси, инфраструктура или мрежи с висока стойност. Но основната тенденция е важна за всички: тъй като AI понижава техническата бариера за създаване на адаптивен злонамерен софтуер, обемът и сложността на атаките, достигащи до обикновените потребители, вероятно ще се увеличат с времето. Фишинг имейли, фалшиви страници за вход и злонамерени изтегляния може все по-често да бъдат генерирани или прецизирани с помощта на AI, което ги прави по-трудни за забелязване със стария съвет "търсете правописни грешки и лош граматика."

Фактът, че изследователите изграждат рамки за откриване специално за заплахи, интегрирани с AI, е положителен знак. Това означава, че общността по сигурност третира това като приоритет сега, вместо да реагира, след като ръководеният от AI зловреден софтуер стане широко разпространен.

Практически изводи

  • Поддържайте операционните системи, браузърите и софтуера за сигурност актуализирани, тъй като пачнатите системи остават първата линия на защита както срещу традиционния, така и срещу подпомогнатия от AI зловреден софтуер.
  • Бъдете скептични към неочаквани съобщения или връзки, дори когато изглеждат добре написани и без грешки, тъй като AI вече може да помогне на нападателите да създават убедително съдържание в мащаб.
  • Използвайте реномиран мениджър на пароли и активирайте многофакторно удостоверяване където е възможно, намалявайки стойността на всяка отделна открадната идентификационна данна.
  • Следете докладите от утвърдени изследователи по сигурност, за да сте наясно как AI променя пейзажа на заплахите, вместо да разчитате на предположения за това какво може или не може да прави зловредният софтуер.

Ръководеният от AI зловреден софтуер като CLOSEDQUORUM е напомняне, че заплахите за киберсигурността се развиват непрекъснато и новите рамки за откриване са един от най-силните инструменти, с които изследователите разполагат, за да останат напред. Информираността за развития като това е един от най-простите начини да защитите собствената си поверителност през следващите месеци.