Orosz hackerek az AI-biztonsági védőkorlátokat fordítják a biztonsági eszközök ellen
Egy újonnan jelentett rosszindulatú kampány, amely orosz hackerekhez köthető, szokatlan megközelítést alkalmaz a felderítés elkerülésére: hamis nukleáris fegyverkérést ágyaznak egy rosszindulatú VBS-szkriptbe. A cél nem az, hogy fegyvert építsenek, hanem hogy megzavarják azokat az AI-rendszereket, amelyeket egyre gyakrabban használnak gyanús kódok elemzésére. Azzal, hogy nukleáris fegyverekkel kapcsolatos információra irányuló kérést imitáló szöveget illesztenek be, a támadók láthatóan megpróbálják kioldani az AI-modellekbe épített biztonsági védőkorlátokat, ami arra készteti ezeket a rendszereket, hogy megtagadják a fájl feldolgozását vagy teljes körű elemzését.
Ez a taktika rávilágít a kiberbiztonság egyre növekvő feszültségére: ahogy egyre több biztonsági csapat támaszkodik AI-eszközökre a kártevők tömeges osztályozásában és elemzésében, a támadók megtanulják kihasználni azokat a biztonsági mechanizmusokat, amelyeket éppen azért terveztek, hogy ezeket az eszközöket megbízhatóvá tegyék.
Hogyan működik a nukleáris fegyverkéréses trükk
Az AI-biztonsági védőkorlátok jogosan léteznek. A nagy nyelvi modelleket úgy képezik ki, hogy megtagadják a valós világban kárt okozó kéréseket, beleértve a tömegpusztító fegyverekkel kapcsolatos részletes utasításokat is. Amikor egy AI-támogatott biztonsági eszköz beolvas egy fájlt, jellemzően elolvassa a tartalmat, beleértve a beágyazott szöveget is, az elemzési folyamat részeként.
Azzal, hogy nukleáris fegyverkérést imitáló nyelvet ültetnek a VBS-szkriptbe, a hackerek láthatóan arra számítanak, hogy az AI-modell beépített visszautasítási viselkedése aktiválódik. Ahelyett, hogy a fájlt kártevőként jeleznék, az AI megállhat, megtagadhatja az elemzés folytatását, vagy hiányos, megbízhatatlan értékelést adhat. Gyakorlatilag a rosszindulatú tartalom egyfajta csaliként működik, az AI saját etikai képzését fordítva ellene.
Ez nem egyetlen gyártóra vagy termékre jellemző hiba. Szélesebb kihívást tükröz: a biztonsági védőkorlátokat jellemzően tartalmi moderálásra és kármegelőzésre tervezték, nem pedig ellenséges kijátszásra a technikai kártevőelemzés során. Amikor ez a két cél ütközik, a támadók rést találnak.
Miért fontos ez az AI-alapú biztonsági elemzés szempontjából
A biztonsági csapatok gyorsan átvették az AI-eszközöket, hogy segítsenek feldolgozni a gyanús fájlok, adathalász kísérletek és szkriptek hatalmas mennyiségét, amelyekkel naponta találkoznak. Ezek az eszközök gyorsabb osztályozást ígérnek, és olyan mintázatokat is jelezhetnek, amelyeket az emberi elemzők esetleg nem vesznek észre. De ez az incidens arra emlékeztet, hogy a biztonsági munkafolyamatokban használt AI-rendszereknek saját támadási felületük van, amelyet a hagyományos kártevő-észlelés nem volt hivatott előre jelezni.
Ha egy AI-modell manipulálható úgy, hogy kihagyja vagy enyhítse az elemzést pusztán azért, mert egy fájl bizonyos trigger-szavakat tartalmaz, az jelentős vakfolt. Ez kérdéseket vet fel azzal kapcsolatban is, hogy a szervezetek mennyire támaszkodhatnak az AI-vezérelt elemzésre emberi felügyelet nélkül, különösen a nagy tétű döntéseknél, mint például hogy egy fájl biztonságos-e megnyitni vagy futtatni.
Ez a fajta taktika illeszkedik ahhoz a szélesebb mintázathoz, ahogy a támadók alkalmazkodnak ahhoz, aki vagy ami éppen a védekezést végzi. Ahogyan a zsarolóvírus-üzemeltetők a szociális tervezés célpontjait a középkorú menedzserek felé tolták el a vezetők helyett, a kártevő-szerzők is most azokhoz a konkrét rendszerekhez, köztük AI-modellekhez igazítják kijátszási technikáikat, amelyek a célpontjaik és közöttük állnak.
Mit jelent ez Önnek
A legtöbb egyéni felhasználó számára ez a konkrét technika a vállalati biztonsági infrastruktúrát célozza, nem közvetlenül a személyes eszközöket. Nem valószínű, hogy találkozik ezzel a konkrét VBS-szkriptes trükkel a saját számítógépén olyan módon, amely a napi böngészési vagy e-mailes szokásait érintené. De az alapvető tanulság széles körben érvényes: az automatizált eszközök, legyenek azok AI-alapú kártevő-szkennerek, spam-szűrők vagy vírusirtó szoftverek, nem tévedhetetlenek, és a támadók aktívan kutatják a vakfoltjaik kihasználásának módjait.
Ha a munkahelye AI-támogatott biztonsági eszközöket használ, ez egy hasznos alkalom arra, hogy megkérdezze, hogyan hitelesítik ezeket az eszközöket, és hogy az emberi elemzők továbbra is felülvizsgálják-e a megjelölt vagy nem megjelölt fájlokat. Az egyének számára a tanulság általánosabb: ne feltételezze, hogy egy fájl pusztán azért, mert egy automatikus szkennert nem jelzett, automatikusan biztonságos. A réteges védelem, a váratlan szkriptekkel vagy mellékletekkel szembeni szkepticizmus és az alapvető biztonsági higiénia ugyanolyan fontos, mint valaha.
Gyakorlati tanulságok
- Kerülje a kéretlen VBS-fájlok, szkriptek vagy makrót támogató dokumentumok megnyitását, függetlenül attól, hogy egy automatikus vizsgálat letisztázta-e őket.
- Ha munkahelyén biztonsági eszközöket kezel, kérdezze meg, hogy az AI-támogatott kártevő-elemzés tartalmaz-e emberi felülvizsgálati tartalékot azokhoz a fájlokhoz, amelyek visszautasítást vagy hiányos vizsgálatot váltanak ki.
- Tartsa meg a hagyományos észlelési rétegeket, mint a aláírás-alapú vírusirtó és hálózati megfigyelés, az újabb AI-eszközök mellett, ahelyett, hogy teljesen lecserélné őket.
- Legyen tájékozott arról, hogyan alkalmazkodnak a támadók az AI-vezérelt védelemhez, mivel az ehhez hasonló technikák valószínűleg fejlődni fognak, nem pedig eltűnnek.
Ahogy az AI egyre inkább beépül a kiberbiztonsági munkafolyamatokba, az ehhez hasonló incidensek azt mutatják, hogy a védőkorlátok, amelyek az AI-rendszerek biztonságát hivatottak szolgálni, maguk is célponttá válhatnak. A feltörekvő taktikákról való tájékozottság, valamint a rétegzett, ember által felülvizsgált védelem fenntartása továbbra is a legjobb módja annak, hogy lépést tartsunk a támadókkal, akik folyamatosan új kihasználható gyengeségeket keresnek.
