Egy MI által vezérelt zsarolóvírus-csoport új fegyverrel tér vissza

A JadePuffer, az a fenyegető szereplő, akit korábban úgy dokumentáltak, mint az első olyan zsarolóvírus-kampány végrehajtóját, amelyet teljes egészében egy nagy nyelvi modell irányított, visszatért egy új eszközzel. Az Infosecurity Magazine beszámolója szerint a csoport legújabb kampánya egy ENCFORGE nevű kártevőt vetett be, amelyet kifejezetten MI-modell komponensek megsemmisítésére terveztek, nem pusztán szokványos fájlok és adatbázisok titkosítására.

Ez azért fontos, mert célpontválasztásbeli eltolódást jelez. A korábbi zsarolóvírus-műveletek, köztük a JadePuffer első kampánya, a termelési adatbázisok titkosítására és a visszaállításukért cserébe váltságdíj követelésére összpontosítottak. A Sysdig eredeti dokumentációja a JadePuffer támadásáról egy olyan ágens-alapú üzemeltetőt írt le, amely kihasználta a Langflow platformot, és minimális emberi felügyelet mellett hajtotta végre a behatolást. Az ENCFORGE úgy tűnik, ugyanezt az automatizált megközelítést terjeszti ki, de új céllal: a betanított modellek, súlyok és konfigurációs fájlok megsemmisítésével, amelyekre a szervezetek MI-rendszereik működtetéséhez támaszkodnak.

Miért változtatja meg a számítást az MI-modellek célba vétele?

A hagyományos zsarolóvírusok túszul ejtik az adatokat. Az MI-modell komponensek megsemmisítése másfajta zsarolás. A betanított modellek gyakran hónapokig tartó számítási időt, gondosan összeválogatott tanítóadatokat és finomhangolási munkát képviselnek, amelyeket nem lehet egyszerűen visszaállítani egy rutin mentésből, ha azt nem kifejezetten a modell-helyreállítás szem előtt tartásával tervezték. Azon vállalatok számára, amelyek ügyfélközpontú MI-eszközöket, belső automatizációt vagy adatfeldolgozási folyamatokat építettek ezek köré a modellek köré, azok teljes elvesztése nagyobb fennakadást okozhat, mint egyetlen adatbázis elvesztése, mivel egy modell újjáépítése a nulláról olyan időt vesz igénybe, amellyel egy működő vállalkozás gyakran nem rendelkezik.

Van egy adatvédelmi dimenzió is, amit érdemes kiemelni. Számos, vállalkozások által használt MI-modellt olyan adathalmazokon tanítanak be vagy hangolnak finomra, amelyek ügyfélinformációkat tartalmaznak, legyen szó támogatási beszélgetések átiratairól, viselkedési adatokról vagy a szolgáltatás személyre szabásához használt személyes nyilvántartásokról. Amikor zsarolóvírus-üzemeltetők az e modellek körüli infrastruktúrát veszik célba, akár a környező adatbázisok titkosításával, akár most már maguknak a modelleknek a megsemmisítésével, az ezen az infrastruktúrán áthaladó személyes adatok a kiszivárgás és az elvesztés kockázatának egyaránt ki vannak téve. A fogyasztók ritkán látnak bele abba, hogy mely szolgáltatók futtatnak MI-rendszereket az ő adataikon, ami miatt ezt a fajta támadást kívülről nehezebb észlelni, és egyénként nehezebb felkészülni rá.

Egy szélesebb körű, autonóm támadási minta része

A JadePuffer visszatérése az ENCFORGE-zsal illeszkedik abba a trendbe, amelyet a biztonsági kutatók ebben az évben szorosan nyomon követtek. Az első teljesen autonóm MI zsarolóvírus-támadással kapcsolatos független megállapítások megmutatták, hogy egy MI-ágens képes sebezhetőségeket keresni, hozzáférést szerezni és zsarolási kísérletet végrehajtani anélkül, hogy emberi üzemeltető irányítaná valós időben az egyes lépéseket. Ez a precedens itt azért számít, mert azt sugallja, hogy a JadePuffer nem egy egyszeri kísérlet volt. Ez egy olyan szereplő, amely iterálta saját eszköztárát, elmozdulva az adatbázis-titkosítástól egy olyan kártevő felé, amelyet kifejezetten az MI-infrastruktúra ellen terveztek. Ahogy egyre több szervezet alkalmaz MI-platformokat, mint a Langflow és hasonló hangolási eszközök, az ilyen kampányok támadási felülete csak nő, ezt a témát a legutóbbi, zsarolóvírusokkal és MI-vezérelt támadásokkal foglalkozó biztonsági összefoglalók is tárgyalták más felmerülő fenyegetések mellett.

Mit jelent ez Önnek?

A legtöbb olvasó valószínűleg nem üzemeltet közvetlenül MI-modellt, de a tovagyűrűző hatások túlmutatnak az IT-részlegeken. Ha egy olyan vállalkozás, amellyel Ön kapcsolatban áll – legyen az kiskereskedő, egészségügyi szolgáltató vagy pénzügyi szolgáltatás –, olyan MI-rendszereket használ, amelyeket egy ilyen támadás ér, a következmények közé tartozhatnak szolgáltatáskimaradások, késedelmes ügyfélszolgálat, vagy rosszabb esetben azoknak az adatoknak a kiszivárgása, amelyeken a modelleket tanították vagy működtették. Az MI-infrastruktúrát célzó zsarolóvírusok jelenleg még vállalatközi problémát jelentenek, de az infrastruktúrában rejlő fogyasztói adatok adják ezeknek a támadásoknak a valódi súlyát.

Az MI-rendszereket építő vagy üzemeltető szervezetek számára ez egy egyértelmű jelzés, hogy a modell-komponenseknek ugyanolyan mentési fegyelemre, hozzáférés-szabályozásra és monitorozásra van szükségük, mint bármely más kritikus eszköznek. Többé nem biztonságos feltételezés, hogy egy betanított modell eldobható vagy könnyen helyettesíthető.

Gyakorlati teendők

  • Ha MI-infrastruktúrát kezel, gondoskodjon róla, hogy a modellsúlyokról és a tanítási komponensekről a termelési rendszerektől elkülönítve, offline vagy megváltoztathatatlan másolatokkal készüljön biztonsági mentés.
  • Vizsgálja felül az MI-hangolási platformok hozzáférés-szabályozását; az ágens-alapú zsarolóvírus-kampányok kihasználták a nyilvánosságra került vagy rosszul konfigurált eszközöket a behatoláshoz.
  • Fogyasztóként kérdezze meg a szolgáltatókat, hogyan védik az Ön adatait feldolgozó MI-rendszereiket, különösen az érzékeny személyes vagy pénzügyi adatokat kezelő szolgáltatások esetében.
  • Figyeljen az Ön által használt cégek szolgáltatáskimaradásaira vagy adatvédelmi incidensekről szóló értesítéseire; az MI-hátteret célzó zsarolóvírusok tovább késleltethetik a helyreállítást, mint egy tipikus leállás.

A JadePuffer evolúciója az adatbázis-alapú zsarolástól az MI-modellek megsemmisítéséig emlékeztetőül szolgál, hogy a zsarolóvírus-üzemeltetők gyorsan alkalmazkodnak oda, ahol az érték és a befolyásolási képesség összpontosul. Ahogy az MI-rendszerek egyre több vállalkozás alapvető infrastruktúrájává válnak, védelmüknek mindenki biztonsági hozzáállásának alapvető részévé kell válnia, nem pedig utógondolattá.