Изследователи от Huntress съобщават, че атакуващите злоупотребяват с функцията Custom GPT на ChatGPT, за да се представят за AI продукти и да подмамят хората да инсталират сложен троянски кон за отдалечен достъп (RAT). Констатацията е полезно напомняне, че познат и доверен интерфейс може да носи заплаха. Тази кампания със зловреден софтуер под формата на Custom GPT и троянски кон за отдалечен достъп не разчита на дефект във вашия компютър. Тя разчита на това, че вярвате на прозореца за чат пред вас.

Как работи примамката със зловреден софтуер под формата на Custom GPT

Custom GPT са персонализирани версии на ChatGPT, които всеки може да създаде и публикува. Тази отвореност прави функцията полезна, но тя е и това, което атакуващите експлоатират. Според Huntress, заплахите създават Custom GPT, които се представят за легитимни AI продукти, след което насочват посетителите към инсталиране на зловреден софтуер.

Изходната статия е кратка по отношение на техническите подробности, затова си струва да се раздели потвърденото от непотвърденото. Потвърдената част е основният модел: Custom GPT се представя за AI продукт и жертвата е убедена да инсталира RAT. Други публикации за същата дейност описват, че примамката достига до хората чрез спонсорирани резултати в Google и използва тактики от типа ClickFix, при които потребителят е приканен сам да изпълни PowerShell команди. Този детайл идва от вторични източници, затова го третирайте като контекст, а не като окончателна дума.

Общата нишка е, че жертвата върши работата. Вместо да експлоатира софтуер, атакуващият предоставя убедителна история и набор от инструкции, а потребителят ги изпълнява.

Какво може да направи троянският кон за отдалечен достъп с вашето устройство

Троянският кон за отдалечен достъп дава на атакуващия скрит начин да контролира машина от разстояние. След като такъв заработи, човекът зад него често може да действа така, сякаш седи на вашата клавиатура. Доставчиците на сигурност обикновено описват възможностите на RAT като включващи:

  • Преглеждане и копиране на файлове
  • Наблюдение на активността и четене на съобщения
  • Прихващане на натискания на клавиши и идентификационни данни
  • Активиране на уеб камера или микрофон
  • Инсталиране на допълнителен зловреден софтуер

Точно кои от тези функции поддържа даден RAT зависи от щама, а Huntress описва този като сложен. Практическият извод е, че инфекцията с RAT рядко е дребно неудобство. Тъй като може да работи тихо, може да не забележите нищо нередно, докато запазените пароли, работните документи и данните от сесиите са изложени.

За всеки, който използва служебен лаптоп, залогът се простира отвъд личните данни. Компрометираното устройство може да стане опорна точка за достъп до фирмени акаунти и системи.

Защо доверените AI платформи са убедителни канали за доставка

Хората са прекарали години в обучение да не се доверяват на странни имейл прикачени файлове и непознати сайтове за изтегляне. Много по-малко са се научили да се съмняват в чат интерфейс, който се намира на добре позната AI платформа. Custom GPT се появява в същата среда, която хората вече използват за писане на имейли или обобщаване на документи, и този контекст придава заимствана достоверност.

Има няколко причини това да работи добре за атакуващите:

  • Позната среда. Страницата изглежда и се усеща като истинската услуга, така че подозрението остава ниско.
  • Натиск чрез разговор. Чатботът може да отговори на възражения, да звучи полезно и да преведе човека през стъпките една по една.
  • Имитиране на марка. Назоваването на Custom GPT на името на AI продукт, който хората искат да изпробват, дава на примамката готова аудитория.

Това се вписва в по-широк модел на привличане на AI инструменти в арсенала на атакуващите. За по-широк контекст, нашето покритие на 154-страничния доклад на Anthropic за зловреден софтуер и zero-day уязвимости, създадени от AI разглежда как злоупотребата с AI се развива отвъд един единствен трик.

Как да проверявате AI инструментите, преди да инсталирате нещо

Не е нужно да избягвате AI инструментите. Нужни са ви няколко навика, които прекъсват този вид атака.

  1. Поставяйте под въпрос всяка заявка за изтегляне или изпълнение на софтуер. Чат асистент, който ви моли да инсталирате програма или да поставите команди в PowerShell или терминал, заслужава незабавно подозрение.
  2. Отидете директно до източника. Ако искате конкретен AI продукт, въведете официалния адрес сами или използвайте собствените канали на доставчика, вместо да кликвате върху спонсориран резултат от търсене.
  3. Проверете кой го е създал. Custom GPT се публикува от физическо лице или организация, не непременно от марката в името му. Разгледайте данните за създателя, преди да му се доверите.
  4. Никога не поставяйте команди, които не разбирате. Ако не можете да обясните какво прави дадена команда, не я изпълнявайте.
  5. Поддържайте софтуера за сигурност актуален. Защитата на крайните точки може да улови полезния товар дори когато примамката проработи.

Какво означава това за вас

Ако използвате ChatGPT, самата платформа не е проблемът. Рискът е, че всеки публичен Custom GPT може да каже всичко, включително да твърди, че е нещо, което не е. Намирането на доверен сайт не прави съдържанието надеждно.

Ако вече сте следвали инструкции от Custom GPT да инсталирате софтуер или да изпълните команди, изключете устройството от мрежата, стартирайте пълно сканиране с надежден софтуер за сигурност и сменете важните пароли от друго, чисто устройство. Ако е служебна машина, уведомете незабавно вашия ИТ или екип по сигурността. Те могат да разследват по начини, които отделният човек не може.

Изводът

Кампанията със зловреден софтуер под формата на Custom GPT и троянски кон за отдалечен достъп, описана от Huntress, показва как атакуващите се адаптират към местата, където хората вече поставят доверието си. Отнасяйте се с подозрение към всеки AI инструмент, който ви моли да изтеглите или изпълните софтуер, проверявайте издателя и достигайте до продуктите чрез официални канали. За да видите как тези заплахи се вписват в по-голямата картина, прочетете нашето резюме на доклада на Anthropic за разузнаване на заплахи относно злоупотребата с AI.