Cisco Talos descoperă malware-ul cu minte colectivă AI CLOSEDQUORUM

Un nou cadru pentru urmărirea amenințărilor integrate cu AI

Cercetătorii în securitate au petrecut ultimii ani avertizând că infractorii vor construi în cele din urmă malware capabil să folosească inteligența artificială de unul singur, fără un om care să tasteze comenzi în culise. Acel avertisment a devenit acum o realitate documentată. Cercetătorii de la Cisco Talos au dezvoltat un nou cadru de detectare conceput special pentru a identifica malware-ul și instrumentele de hacking care se bazează pe chatbot-uri AI pentru luarea deciziilor. În timpul testării instrumentului, au descoperit ceva ce nu se așteptau: software rău-intenționat care consultă mai multe modele lingvistice mari pentru a decide ce să facă în continuare, fără un operator care să îl dirijeze în timp real.

Cadrul, construit pentru a clasifica și analiza malware-ul integrat cu AI, le-a oferit celor de la Talos o modalitate de a identifica tipare pe care semnăturile antivirus tradiționale și analiza comportamentală tind să le rateze. În loc să caute doar cod rău-intenționat cunoscut, instrumentul caută semnele caracteristice ale software-ului care interoghează modele AI în timpul execuției, cerând practic unui chatbot ce pas să urmeze în continuare în interiorul unui sistem compromis.

În interiorul CLOSEDQUORUM: Malware cu propriul său consiliu AI

Cea mai izbitoare descoperire rezultată din această cercetare este o bucată de malware pe care cercetătorii au numit-o CLOSEDQUORUM. În loc să se bazeze pe un singur model AI pentru îndrumare, CLOSEDQUORUM contactează, se pare, mai multe modele lingvistice mari diferite și le cântărește răspunsurile înainte de a acționa, funcționând aproape ca un mic comitet de consilieri AI care iau decizii împreună. Acest design este ceea ce i-a determinat pe unii din comunitatea de securitate să îl descrie ca pe o „minte colectivă" AI care ghidează activitatea malițioasă.

Acest lucru contează pentru că elimină una dintre cele mai mari constrângeri ale criminalității cibernetice: nevoia ca un om să rămână implicat. Malware-ul tradițional are adesea nevoie de un operator care să trimită comenzi noi, să ajusteze tacticile când apărarea se schimbă sau să decidă cum să răspundă la un obstacol neașteptat. Malware-ul care poate interoga mai multe sisteme AI și poate sintetiza contribuțiile lor se poate adapta potențial de unul singur, la viteza mașinii, fără să aștepte ca o persoană să se conecteze și să emită instrucțiuni.

Această descoperire apare alături de alte constatări recente care indică în aceeași direcție. Mai devreme în acest an, Grupul de Informații despre Amenințări al Google a confirmat că AI este deja folosită pentru a alimenta dezvoltarea de exploit-uri zero-day, arătând că rolul AI în operațiunile cibernetice ofensive a depășit mult discuția teoretică. Descoperirea CLOSEDQUORUM de către Talos adaugă un alt punct de date: AI nu doar îi ajută pe atacatori să scrie cod mai rapid, ci este integrată direct în logica operațională a malware-ului.

Implicațiile pentru confidențialitate ale malware-ului autonom

Pentru utilizatorii obișnuiți de internet, apariția malware-ului ghidat de AI precum CLOSEDQUORUM ridică preocupări reale privind confidențialitatea, chiar dacă detaliile tehnice imediate sunt destinate apărătorilor din mediul enterprise. Malware-ul care poate decide independent cum să se deplaseze printr-o rețea, ce date par valoroase sau cum să evite detectarea ar putea fi mult mai eficient în localizarea și exfiltrarea informațiilor personale decât malware-ul care depinde de un operator uman care verifică periodic.

Luarea autonomă de decizii complică, de asemenea, atribuirea și răspunsul. Când un operator uman direcționează un atac, echipele de securitate pot uneori anticipa comportamentul pe baza tiparelor cunoscute legate de un anumit grup. Malware-ul care consultă modele AI din mers poate să se comporte mai puțin previzibil, generând căi de atac noi care nu corespund niciunei tehnici catalogate anterior. Această imprevizibilitate este exact motivul pentru care Talos a construit un cadru dedicat în loc să se bazeze pe metodele de detectare existente; scopul este de a prinde amenințările integrate cu AI înainte ca acestea să poată colecta în liniște acreditări, date financiare sau fișiere personale.

Ce înseamnă acest lucru pentru dumneavoastră

Majoritatea utilizatorilor individuali nu vor fi vizați direct de malware-ul de ultimă generație ghidat de AI precum CLOSEDQUORUM pe termen imediat. Instrumente ca acesta tind să apară mai întâi în intruziuni țintite împotriva afacerilor, infrastructurii sau rețelelor de mare valoare. Dar tendința de fond contează pentru toată lumea: pe măsură ce AI reduce bariera tehnică pentru construirea de software malițios adaptativ, volumul și sofisticarea atacurilor care ajung la consumatorii obișnuiți vor crește probabil în timp. E-mailurile de phishing, paginile de autentificare false și descărcările malițioase pot fi din ce în ce mai mult generate sau ajustate cu asistență AI, făcându-le mai greu de identificat cu vechiul sfat de „căutați greșeli de scriere și gramatică slabă".

Faptul că cercetătorii construiesc cadre de detectare special pentru amenințările integrate cu AI este un semn pozitiv. Înseamnă că comunitatea de securitate tratează acest lucru ca pe o prioritate acum, în loc să reacționeze după ce malware-ul ghidat de AI devine răspândit.

Concluzii acționabile

• Mențineți sistemele de operare, browserele și software-ul de securitate actualizate, deoarece sistemele corectate rămân prima linie de apărare împotriva malware-ului atât tradițional, cât și asistat de AI.
• Fiți sceptici față de mesajele sau link-urile neașteptate chiar și atunci când par bine scrise și fără erori, deoarece AI îi poate ajuta acum pe atacatori să producă conținut convingător la scară largă.
• Folosiți un manager de parole de încredere și activați autentificarea multifactor oriunde este posibil, reducând valoarea oricărei acreditări unice furate.
• Urmăriți raportările cercetătorilor în securitate consacrați pentru a rămâne la curent cu modul în care AI schimbă peisajul amenințărilor, în loc să vă bazați pe presupuneri despre ce poate sau nu poate face malware-ul.

Malware-ul ghidat de AI precum CLOSEDQUORUM este o reamintire că amenințările de securitate cibernetică evoluează continuu, iar noile cadre de detectare sunt unul dintre cele mai puternice instrumente pe care le au cercetătorii pentru a rămâne înainte. Rămânerea informată despre evoluții ca aceasta este una dintre cele mai simple modalități de a vă proteja propria confidențialitate în lunile următoare.