Ruski hakeri koriste AI sigurnosne zaštite protiv sigurnosnih alata

Nova kampanja zlonamjernog softvera povezana s ruskim hakerima koristi neobičan pristup izbjegavanju otkrivanja: ugrađivanje lažnog zahtjeva za nuklearno oružje unutar zlonamjerne VBS skripte. Cilj nije izraditi oružje, već zbuniti AI sustave koji se sve više koriste za analizu sumnjivog koda. Umetanjem jezika koji oponaša zahtjev za informacijama o nuklearnom oružju, napadači očito pokušavaju aktivirati sigurnosne zaštite ugrađene u AI modele, uzrokujući da ti sustavi odbiju obraditi ili u potpunosti analizirati datoteku.

Ova taktika naglašava rastuću napetost u kibernetičkoj sigurnosti: kako se sve više sigurnosnih timova oslanja na AI alate za trijažu i analizu zlonamjernog softvera u velikim razmjerima, napadači uče iskorištavati upravo one sigurnosne mehanizme koji bi te alate trebali učiniti pouzdanima.

Kako funkcionira trik s lažnim nuklearnim upitom

AI sigurnosne zaštite postoje s dobrim razlogom. Veliki jezični modeli obučeni su da odbiju zahtjeve koji bi mogli olakšati stvarnu štetu, uključujući detaljne upute povezane s oružjem za masovno uništenje. Kada AI potpomognuti sigurnosni alat skenira datoteku, obično čita sadržaj, uključujući ugrađeni tekst, kao dio svog procesa analize.

Umetanjem jezika koji nalikuje zahtjevu za nuklearno oružje unutar VBS skripte, hakeri očito računaju na to da će se ugrađeno ponašanje odbijanja AI modela aktivirati. Umjesto da datoteku označi kao zlonamjerni softver, AI može stati, odbiti nastaviti analizu ili proizvesti nepotpunu ili nepouzdanu procjenu. Učinkovito, zlonamjerni sadržaj postaje vrsta mamca, koristeći AI-jevu vlastitu etičku obuku protiv njega.

Ovo nije nedostatak jedinstven za jednog dobavljača ili proizvod. Odražava širi izazov: sigurnosne zaštite obično su dizajnirane oko moderacije sadržaja i prevencije štete, a ne oko adversarijskog izbjegavanja tijekom tehničke analize zlonamjernog softvera. Kada se ta dva cilja sudare, napadači dobivaju priliku.

Zašto je ovo važno za AI potpomognutu sigurnosnu analizu

Sigurnosni timovi brzo su usvojili AI alate koji im pomažu u razvrstavanju ogromne količine sumnjivih datoteka, pokušaja krađe identiteta i skripti s kojima se susreću svakodnevno. Ti alati obećavaju bržu trijažu i mogu uočiti obrasce koje bi ljudski analitičari mogli propustiti. No ovaj incident podsjetnik je da AI sustavi koji se koriste u sigurnosnim radnim tokovima nose vlastitu napadačku površinu, onu koju tradicionalno otkrivanje zlonamjernog softvera nije bilo dizajnirano predvidjeti.

Ako se AI model može manipulirati da preskoči ili ublaži svoju analizu samo zato što datoteka sadrži određene okidačke riječi, to je značajna slijepa točka. To također postavlja pitanja o tome koliko bi se organizacije trebale oslanjati na AI vođenu analizu bez ljudskog nadzora, posebno za odluke s visokim ulozima poput toga je li datoteka sigurna za otvaranje ili izvršavanje.

Ova vrsta taktike uklapa se u širi obrazac napadača koji prilagođavaju svoje tehnike onome tko god, ili što god, obavlja obranu. Baš kao što su operateri ransomwarea pomaknuli svoje ciljeve društvenog inženjeringa prema menadžerima srednje karijere umjesto prema rukovoditeljima, autori zlonamjernog softvera sada prilagođavaju svoje tehnike izbjegavanja specifičnim sustavima, uključujući AI modele, koji stoje između njih i njihovih ciljeva.

Što to znači za vas

Za većinu pojedinačnih korisnika, ova specifična tehnika cilja na sigurnosnu infrastrukturu poduzeća, a ne izravno na osobne uređaje. Malo je vjerojatno da ćete naići na ovaj poseban trik s VBS skriptom na vlastitom računalu na način koji je važan za vaše svakodnevno pregledavanje interneta ili navike e-pošte. No temeljna lekcija primjenjuje se široko: automatizirani alati, bilo da su AI temeljeni skeneri zlonamjernog softvera, filteri neželjene pošte ili antivirusni programi, nisu nepogrešivi, a napadači aktivno istražuju načine iskorištavanja njihovih slijepih točaka.

Ako vaše radno mjesto koristi AI potpomognute sigurnosne alate, ovo je koristan trenutak da se zapitate kako se ti alati validiraju i pregledavaju li ljudski analitičari još uvijek označene ili neoznačene datoteke. Za pojedince, zaključak je općenitiji: nemojte pretpostavljati da je datoteka automatski sigurna samo zato što je automatizirani skener nije označio. Slojevita obrana, skeptičnost prema neočekivanim skriptama ili privicima i osnovna sigurnosna higijena ostaju jednako važni kao i uvijek.

Praktični zaključci

  • Izbjegavajte otvaranje neželjenih VBS datoteka, skripti ili dokumenata s omogućenim makronaredbama, bez obzira na to je li ih automatizirano skeniranje očistilo.
  • Ako upravljate sigurnosnim alatima na poslu, pitajte uključuje li AI potpomognuta analiza zlonamjernog softvera rezervni ljudski pregled za datoteke koje aktiviraju odbijanja ili nepotpuna skeniranja.
  • Zadržite tradicionalne slojeve otkrivanja, poput antivirusa temeljenog na potpisima i mrežnog nadzora, usporedno s novijim AI alatima, umjesto da ih u potpunosti zamijenite.
  • Ostanite informirani o tome kako se napadači prilagođavaju AI vođenoj obrani, jer će se tehnike poput ove vjerojatno razvijati, a ne nestati.

Kako AI postaje sve više ugrađen u kibernetičke sigurnosne radne tokove, incidenti poput ovog pokazuju da zaštite namijenjene sigurnosti AI sustava također mogu postati meta same po sebi. Ostanak informiran o ovim novim taktikama i održavanje slojevite obrane s ljudskim pregledom ostaje najbolji način da ostanete ispred napadača koji neprestano traže nove slabosti za iskorištavanje.