Hackerii ruși transformă măsurile de siguranță ale AI împotriva instrumentelor de securitate

O campanie de malware raportată recent, asociată hackerilor ruși, a adoptat o abordare neobișnuită pentru a evita detectarea: încorporarea unei cereri false de armă nucleară într-un script VBS malțios. Scopul nu este de a construi o armă, ci de a confunda sistemele AI utilizate tot mai frecvent pentru a analiza codul suspect. Prin inserarea unui limbaj care imită o cerere de informații despre arme nucleare, atacatorii par să încerce să declanșeze măsurile de siguranță integrate în modelele AI, determinând aceste sisteme să refuze procesarea sau analiza completă a fișierului.

Această tactică evidențiază o tensiune tot mai mare în securitatea cibernetică: pe măsură ce tot mai multe echipe de securitate se bazează pe instrumente AI pentru triajul și analiza malware la scară largă, atacatorii învață să exploateze chiar mecanismele de siguranță concepute pentru a face aceste instrumente demne de încredere.

Cum funcționează trucul cu promptul nuclear fals

Măsurile de siguranță ale AI există din motive întemeiate. Modelele de limbaj mari sunt antrenate să refuze cererile care ar putea facilita daune în lumea reală, inclusiv instrucțiuni detaliate legate de arme de distrugere în masă. Atunci când un instrument de securitate asistat de AI scanează un fișier, acesta citește de obicei conținutul, inclusiv textul încorporat, ca parte a procesului său de analiză.

Prin plasarea unui limbaj care seamănă cu o cerere de armă nucleară în interiorul scriptului VBS, hackerii par să mizeze pe declanșarea comportamentului de refuz încorporat în modelul AI. În loc să semnaleze fișierul ca malware, AI-ul s-ar putea opri, ar putea refuza să continue analiza sau ar putea produce o evaluare incompletă sau nesigură. În efect, conținutul malțios devine un fel de momeală, folosind propria instruire etică a AI-ului împotriva sa.

Aceasta nu este o deficiență specifică unui singur furnizor sau produs. Reflectă o provocare mai largă: măsurile de siguranță sunt concepute de obicei în jurul moderării conținutului și prevenirii daunelor, nu al evitării adversariale în timpul analizei tehnice a malware-ului. Atunci când aceste două obiective intră în conflict, atacatorii obțin o oportunitate.

De ce contează acest lucru pentru analiza de securitate alimentată de AI

Echipele de securitate au adoptat rapid instrumente AI pentru a ajuta la sortarea volumului imens de fișiere suspecte, încercări de phishing și scripturi întâlnite zilnic. Aceste instrumente promit un triaj mai rapid și pot semnala modele pe care analiștii umani le-ar putea rata. Dar acest incident este un memento că sistemele AI utilizate în fluxurile de lucru de securitate au propria lor suprafață de atac, una pe care detectarea tradițională a malware-ului nu a fost concepută să o anticipeze.

Dacă un model AI poate fi manipulat să sară peste sau să atenueze analiza doar pentru că un fișier conține anumite cuvinte declanșatoare, aceasta este o zonă oarbă semnificativă. De asemenea, ridică întrebări despre cât de mult ar trebui să se bazeze organizațiile pe analiza condusă de AI fără supraveghere umană, mai ales pentru decizii de mare miză, cum ar fi dacă un fișier este sigur de deschis sau executat.

Acest tip de tactică se potrivește unui model mai larg în care atacatorii își adaptează tehnicile la cine, sau la ce, face apărarea. Așa cum operatorii de ransomware și-au schimbat țintele de inginerie socială către manageri la mijlocul carierei în loc de directori, autorii de malware își adaptează acum tehnicile de evitare la sistemele specifice, inclusiv modelele AI, care stau între ei și țintele lor.

Ce înseamnă acest lucru pentru tine

Pentru majoritatea utilizatorilor individuali, această tehnică specifică vizează infrastructura de securitate a întreprinderilor, nu direct dispozitivele personale. Este puțin probabil să întâlnești acest truc specific cu script VBS pe propriul computer într-un mod care să conteze pentru navigarea zilnică sau obiceiurile tale de e-mail. Dar lecția de bază se aplică pe scară largă: instrumentele automate, fie că sunt scanere de malware bazate pe AI, filtre de spam sau software antivirus, nu sunt infailibile, iar atacatorii cercetează activ modalități de a le exploata punctele oarbe.

Dacă locul tău de muncă folosește instrumente de securitate asistate de AI, acesta este un moment util pentru a întreba cum sunt validate aceste instrumente și dacă analiștii umani revizuiesc încă fișierele semnalate sau nesemnalate. Pentru indivizi, concluzia este mai generală: nu presupune că, pentru că un fișier nu a fost semnalat de un scaner automat, este automat sigur. Apărările în straturi, scepticismul față de scripturi sau atașamente neașteptate și igiena de securitate de bază rămân la fel de importante ca întotdeauna.

Concluzii acționabile

  • Evită deschiderea fișierelor VBS nesolicitate, a scripturilor sau a documentelor cu macro-uri activate, indiferent dacă o scanare automată le-a validat sau nu.
  • Dacă gestionezi instrumente de securitate la locul de muncă, întreabă dacă analiza malware asistată de AI include revizuire umană de rezervă pentru fișierele care declanșează refuzuri sau scanări incomplete.
  • Păstrează straturile tradiționale de detectare, cum ar fi antivirusul bazat pe semnături și monitorizarea rețelei, alături de instrumentele AI mai noi, în loc să le înlocuiești complet.
  • Rămâi informat despre modul în care atacatorii se adaptează la apărările conduse de AI, deoarece tehnici ca aceasta vor evolua probabil, nu vor dispărea.

Pe măsură ce AI devine tot mai integrat în fluxurile de lucru din securitatea cibernetică, incidente ca acesta arată că măsurile de siguranță menite să mențină sistemele AI sigure pot deveni ele însele o țintă. Rămânerea informată despre aceste tactici emergente și menținerea apărărilor în straturi, revizuite de oameni, rămâne cea mai bună modalitate de a rămâne înaintea atacatorilor care caută constant noi puncte slabe de exploatat.