Russiske hackere våbenliggør AI-sikkerhedsforanstaltninger mod sikkerhedsværktøjer

En nyligt rapporteret malwarekampagne knyttet til russiske hackere har taget en usædvanlig tilgang til at undgå opdagelse: at indlejre en falsk anmodning om atomvåben i et ondsindet VBS-script. Målet er ikke at bygge et våben, det er at forvirre de AI-systemer, der i stigende grad bruges til at analysere mistænkelig kode. Ved at indsætte sprog, der efterligner en anmodning om atomvåbeninformation, forsøger angriberne tilsyneladende at udløse de sikkerhedsforanstaltninger, der er indbygget i AI-modeller, hvilket får disse systemer til at nægte at behandle eller fuldt ud analysere filen.

Denne taktik fremhæver en voksende spænding i cybersikkerhed: efterhånden som flere sikkerhedsteams læner sig op ad AI-værktøjer til at triagere og analysere malware i stor skala, lærer angribere at udnytte netop de sikkerhedsmekanismer, der er designet til at gøre disse værktøjer pålidelige.

Sådan fungerer atomvåbenprompt-tricket

AI-sikkerhedsforanstaltninger eksisterer af gode grunde. Store sprogmodeller er trænet til at afvise anmodninger, der kunne lette skade i den virkelige verden, herunder detaljerede instruktioner relateret til masseødelæggelsesvåben. Når et AI-assisteret sikkerhedsværktøj scanner en fil, læser det typisk indholdet, inklusive al indlejret tekst, som en del af sin analyseproces.

Ved at placere sprog, der ligner en atomvåbenanmodning, inde i VBS-scriptet, regner hackerne tilsyneladende med, at AI-modellens indbyggede afvisningsadfærd aktiveres. I stedet for at markere filen som malware, kan AI'en stoppe op, nægte at fortsætte analysen eller producere en ufuldstændig eller upålidelig vurdering. I praksis bliver det ondsindede indhold en slags lokkedue, der bruger AI'ens egen etiske træning imod den.

Dette er ikke en fejl, der er unik for én leverandør eller ét produkt. Det afspejler en bredere udfordring: sikkerhedsforanstaltninger er typisk designet omkring indholdsmoderering og skadesforebyggelse, ikke adversariel undvigelse under teknisk malwareanalyse. Når disse to mål kolliderer, får angribere en åbning.

Hvorfor dette betyder noget for AI-drevet sikkerhedsanalyse

Sikkerhedsteams har hurtigt taget AI-værktøjer til sig for at hjælpe med at sortere i den enorme mængde af mistænkelige filer, phishing-forsøg og scripts, de møder dagligt. Disse værktøjer lover hurtigere triagering og kan markere mønstre, som menneskelige analytikere måske overser. Men denne hændelse er en påmindelse om, at AI-systemer, der bruges i sikkerhedsarbejdsgange, bærer deres egen angrebsflade, en som traditionel malwareopdagelse ikke var bygget til at forudse.

Hvis en AI-model kan manipuleres til at springe over eller nedtone sin analyse, blot fordi en fil indeholder bestemte triggerord, så er det et betydeligt blindt punkt. Det rejser også spørgsmål om, hvor meget organisationer bør stole på AI-drevet analyse uden menneskeligt tilsyn, især for beslutninger med høje indsatser som hvorvidt en fil er sikker at åbne eller udføre.

Denne form for taktik passer ind i et bredere mønster, hvor angribere tilpasser deres teknikker til hvem, eller hvad, der end står for forsvaret. Ligesom ransomware-aktører har flyttet deres sociale ingeniør-mål mod mellemkarriere-ledere i stedet for ledende medarbejdere, skræddersyer malwareforfattere nu deres undvigelsesteknikker til de specifikke systemer, inklusive AI-modeller, der står mellem dem og deres mål.

Hvad dette betyder for dig

For de fleste individuelle brugere retter denne specifikke teknik sig mod virksomheders sikkerhedsinfrastruktur snarere end personlige enheder direkte. Det er usandsynligt, at du støder på netop dette VBS-script-trick på din egen computer på en måde, der betyder noget for din daglige browsing eller e-mailvaner. Men den underliggende lektie gælder bredt: automatiserede værktøjer, hvad enten de er AI-baserede malware-scannere, spamfiltre eller antivirussoftware, er ikke ufejlbarlige, og angribere forsker aktivt i at udnytte deres blinde punkter.

Hvis din arbejdsplads bruger AI-assisterede sikkerhedsværktøjer, er dette et nyttigt øjeblik til at spørge, hvordan disse værktøjer valideres, og om menneskelige analytikere stadig gennemgår markerede eller umarkerede filer. For enkeltpersoner er takeawayen mere generel: antag ikke, at fordi en fil ikke blev markeret af en automatisk scanner, er den automatisk sikker. Lagdelte forsvar, skepsis over for uventede scripts eller vedhæftninger og grundlæggende sikkerhedshygiejne forbliver lige så vigtige som nogensinde.

Handlingsorienterede takeaway-punkter

  • Undgå at åbne uopfordrede VBS-filer, scripts eller makroaktiverede dokumenter, uanset om en automatisk scanning har godkendt dem.
  • Hvis du administrerer sikkerhedsværktøjer på arbejdet, så spørg, om AI-assisteret malwareanalyse inkluderer menneskelig gennemgang som backup for filer, der udløser afvisninger eller ufuldstændige scanninger.
  • Behold traditionelle detektionslag, som signaturbaseret antivirus og netværksovervågning, sammen med nyere AI-værktøjer i stedet for at erstatte dem helt.
  • Hold dig informeret om, hvordan angribere tilpasser sig AI-drevne forsvar, da teknikker som denne sandsynligvis vil udvikle sig snarere end forsvinde.

Efterhånden som AI bliver mere integreret i cybersikkerhedsarbejdsgange, viser hændelser som denne, at de sikkerhedsforanstaltninger, der skal holde AI-systemer sikre, også kan blive et mål i sig selv. At forblive informeret om disse nye taktikker og opretholde lagdelte, menneskeligt gennemgåede forsvar forbliver den bedste måde at holde sig foran angribere, der konstant søger efter nye svagheder at udnytte.