Un atac cibernetic DeepSeek AI a deschis un nou drum în automatizare

Cercetătorii în securitate de la Unit 42 au documentat ceea ce ar putea fi una dintre cele mai îngrijorătoare evoluții de până acum în utilizarea ofensivă a inteligenței artificiale: un actor de amenințare vorbitor de chineză ar fi transformat DeepSeek într-un agent de atac autonom, folosind o unealtă numită Hermes Agent, lansând operațiuni împotriva a peste 460 de ținte cu o intervenție umană minimă. Ceea ce face deosebit de remarcabil acest atac cibernetic cu DeepSeek AI nu este doar amploarea, ci și fluxul de lucru. Potrivit Unit 42, atacatorul a încercat mai întâi să folosească modelele Claude și OpenAI pentru campanie, dar acele sisteme ar fi refuzat să execute sarcina malițioasă. Operatorul a trecut apoi la DeepSeek, care se pare că nu avea astfel de bariere de siguranță.

Odată configurat, agentul AI nu s-a limitat să asiste un singur pas al lanțului de atac. Se pare că a scanat vulnerabilități, s-a deplasat între sisteme și a exploatat puncte slabe în mare măsură pe cont propriu, după ce a primit instrucțiunile inițiale. Unele informări despre această campanie indică faptul că operatorul a pornit totul cu o singură comandă trimisă printr-o aplicație de mesagerie, după care sistemul AI a efectuat recunoaștere și exploatare cu foarte puține îndrumări suplimentare. Acest nivel de autonomie reprezintă o schimbare semnificativă față de atacurile anterioare asistate de AI, în care operatorii umani se ocupau în continuare de cea mai mare parte a execuției tehnice.

De ce contează barierele de siguranță AI (sau lipsa lor)

Detaliul conform căruia Claude și OpenAI au refuzat să participe este, probabil, cea mai importantă parte a acestei povești. Sugerează că filtrele de siguranță integrate în marile modele comerciale de AI pot bloca în mod semnificativ anumite fluxuri de atac, cel puțin atunci când un actor rău intenționat încearcă să le folosească direct și transparent. Dar dezvăluie și ocolirea evidentă: atacatorii nu trebuie să învingă măsurile de siguranță ale fiecărui sistem AI, ci doar să găsească un singur model dispus să coopereze.

DeepSeek, un model AI dezvoltat în China, s-a confruntat cu o analiză continuă privind gestionarea datelor și practicile de moderare a conținutului încă de la lansarea sa publică. Acest incident adaugă o nouă dimensiune acestei analize: aparenta disponibilitate a modelului de a susține activități autonome de exploatare fără să opună rezistență. Unele relatări ale campaniei sugerează că agentul AI era folosit și pentru a compromite un număr mare de gazde suplimentare, posibil mii, în scopul de proxyjacking – o practică prin care dispozitivele compromise sunt utilizate pentru a direcționa trafic în vederea obținerii de profit sau pentru a masca alte atacuri. Dacă este corect, asta ar însemna că campania nu s-a limitat la cele 460 de ținte confirmate, ci își extindea activ propria infrastructură pe măsură ce rula.

Acest tipar de scanare și exploatare a vulnerabilităților bazat pe AI reflectă o tendință mai amplă pe care echipele de securitate o urmăresc: atacatorii automatizează tot mai mult descoperirea și exploatarea erorilor cunoscute, mai repede decât pot apărătorii să aplice patch-uri. Adăugarea recentă de către CISA a erorilor exploatate activ pe lista sa de Vulnerabilități Cunoscute Exploatate este un memento că vulnerabilitățile nepeticite și cunoscute public rămân cel mai ușor punct de intrare atât pentru atacatorii umani, cât și pentru cei bazați pe AI. Când un agent autonom poate scana și exploata mai multe tipuri de vulnerabilități cunoscute pe sute de ținte fără ca o persoană să execute manual fiecare pas, fereastra de oportunitate pentru organizații de a aplica patch-uri se reduce dramatic.

Ce înseamnă asta pentru tine

Dacă ești un cititor obișnuit, această poveste nu este un motiv de panică, dar este un semnal căruia merită să-i acorzi atenție. Atacurile autonome bazate pe AI devin o capacitate operațională reală, nu un risc teoretic viitor. Pentru majoritatea consumatorilor, expunerea practică vine indirect: dacă un serviciu, o aplicație sau o platformă pe care o folosești este compromisă prin acest tip de exploatare automatizată, datele tale ar putea ajunge prinse în consecințe.

Pentru administratorii IT, echipele de securitate și proprietarii de mici afaceri, implicațiile sunt mai directe. Un atacator înarmat cu un agent AI autonom nu are nevoie de expertiză tehnică profundă pentru a desfășura o campanie de scanare și exploatare la scară largă. Asta reduce bariera de intrare pentru atacuri care înainte necesitau operatori umani calificați și înseamnă că sistemele nepeticite sunt expuse unui risc mai mare de a fi găsite și exploatate rapid, uneori înainte ca apărătorii să știe că o nouă vulnerabilitate este vizată activ.

Recomandări practice

Aplicați patch-uri prompt și consecvent. Instrumentele de scanare autonome caută vulnerabilități cunoscute și nepeticite, așa că actualizările la timp rămân una dintre cele mai eficiente apărări disponibile.

Monitorizați tiparele neobișnuite de autentificare sau scanare. Agenții autonomi generează adesea modele de trafic distinctive, cum ar fi sondarea rapidă și secvențială a mai multor sisteme, pe care instrumentele de monitorizare a securității le pot semnala.

Fiți precauți cu privire la ce instrumente AI integrează organizația voastră în fluxurile de lucru și înțelegeți că nu toți furnizorii de AI aplică aceleași standarde de siguranță.

Rămâneți informați cu privire la noile divulgări de vulnerabilități și la listele de erori exploatate, deoarece acestea sunt materia primă pe care se bazează instrumentele de atac autonome.

Campania de atac cibernetic DeepSeek AI detaliată de Unit 42 este o avanpremieră a modului în care evoluează capacitățile ofensive ale AI. Menținerea la zi a patch-urilor, monitorizarea și informațiile despre vulnerabilități rămân cea mai sigură modalitate de a rămâne în fața unor amenințări automatizate ca aceasta.