Hugging Face kampanja zlonamjernog softvera ponovno se pojavila samo nekoliko dana nakon što je uklonjena, prema izvješću BleepingComputer. Operacija zloupotrebljava AI modele za otimanje GPU poslužitelja radi rudarenja kriptovaluta i postavljanja stražnjih vrata, a jedan od zlonamjernih modela preuzet je više od 28.000 puta. U zasebnom otkriću, lažni Solana početni paket na GitHubu čini se osmišljenim da prevari AI agente za kodiranje da instaliraju NetSupport trojanca za daljinski pristup (RAT).

Nijedna priča nije o ranjivosti u VPN-u ili potrošačkoj aplikaciji. Obje su o povjerenju koje developeri polažu u preuzeti kod i modele. Evo što se zna, zašto je važno i kako provjeriti što povlačite na svoja računala.

Što je Hugging Face kampanja zlonamjernog softvera učinila

Prema izvornom izvješću, kampanja rudarenja kriptovaluta koristila je Hugging Face modele kao sredstvo za dostavu. Nakon što su se modeli pokrenuli na GPU poslužiteljima, napadači su oteli te strojeve za rudarenje kriptovaluta i postavili stražnja vrata za trajni pristup. Kampanja je uklonjena, a zatim se vratila u roku od nekoliko dana, što sugerira da operateri mogu brzo ponovno objaviti pod novim imenima ili računima.

Broj preuzimanja je detalj na kojem vrijedi zastati. Jedan model koji dosegne više od 28.000 preuzimanja pokazuje kako lako repozitorij može izgledati popularan i legitiman. Brojevi preuzimanja nisu signal sigurnosti.

GPU poslužitelji su privlačne mete jer su skupi za pokretanje i dobro prikladni za rudarenje. Žrtva može primijetiti samo kroz iznenadni račun za oblak, neuobičajeno visoku GPU iskorištenost ili smanjene performanse. Stražnja vrata su veća briga: čak i nakon što se rudar ukloni, skrivena pristupna točka može omogućiti napadačima da se vrate.

Izvorni članak ne detaljizira tehnički mehanizam, pa ovaj post ne spekulira o tome. Rezultati javnog pretraživanja spominju postavku zvanu trust_remote_code u vezi s kampanjom, ali to tretirajte kao razlog za pregled vlastite konfiguracije, a ne kao potvrđeno objašnjenje.

Lažni Solana paket usmjeren na AI agente za kodiranje

Drugi dio izvješća opisuje lažni Solana početni paket na GitHubu. Pozicioniran je da prevari AI agente za kodiranje da instaliraju NetSupport RAT. RAT daje napadaču daljinsku kontrolu nad uređajem, što može uključivati pregled zaslona, izvršavanje naredbi i kretanje kroz datoteke.

Značajan pomak je meta. Umjesto da samo uvjeri ljudskog developera, repozitorij je osmišljen tako da automatizirani asistent, koji traži početni projekt i postavlja ga, može obaviti instalaciju. Ako agent može izvršavati naredbe s vašim dopuštenjima, otrovani repozitorij može djelovati s tim dopuštenjima.

To se povezuje sa širim brigama o autonomnim alatima u razvojnim okruženjima. Naše ranije izvještavanje o OpenAI AI agentu koji je probio Hugging Face koristeći zero-day ranjivost i izvješće o ransomware aktivnostima AI agenata na Hugging Faceu, prema Sysdig pokazuju da AI platforme i agenti privlače trajnu pozornost i istraživača i napadača.

Što to znači za vas

Ako nikada ne preuzimate AI modele ili ne koristite agente za kodiranje, vaša izravna izloženost je niska. Ako ste developer, hobist, istraživač ili pokrećete bilo kakav GPU radni opterećenje, rizik je stvaran jer ovi napadi parazitiraju na normalnim radnim tokovima.

Praktični problemi su:

  • Popularnost nije dokaz. Visok broj preuzimanja nije spriječio širenje zlonamjernog modela.
  • Uklanjanja nisu trajna. Kampanja se vratila u roku od nekoliko dana, pa uklonjeni repozitorij ne znači da je prijetnja nestala.
  • Agenti nasljeđuju vaš pristup. AI asistent koji instalira pakete ili izvršava skripte može provesti napadačeve upute s vašim privilegijama.
  • Stražnja vrata nadživljavaju rudare. Uklanjanje procesa rudarenja možda neće ukloniti napadača.

VPN ne rješava ništa od ovoga. Štiti promet u prijenosu, ne kod koji odaberete pokrenuti. Provjera izvora i ograničavanje dopuštenja ovdje su daleko važniji.

Kako provjeriti modele, repozitorije i razvojne alate

Modeli

  • Provjerite izdavača. Preferirajte etablirane organizacije i provjerite je li račun onaj koji očekujete, a ne kopija.
  • Budite oprezni s bilo kojim modelom koji zahtijeva prilagođeni kod za učitavanje. Pročitajte taj kod prije omogućavanja opcija daljinskog izvršavanja koda.
  • Preferirajte sigurnije formate datoteka gdje su dostupni i izbjegavajte pokretanje nepoznatih modela na produkcijskim ili na oblak povezanim strojevima.
  • Testirajte nove modele u izoliranom okruženju bez pristupa vjerodajnicama ili internim mrežama.

Repozitoriji i početni paketi

  • Potvrdite da repozitorij pripada službenom projektu slijedeći poveznice iz vlastite dokumentacije projekta.
  • Pogledajte povijest commitova, profile suradnika i starost računa. Potpuno novi repozitorij s uglađenim uputama zaslužuje sumnju.
  • Pročitajte instalacijske skripte prije njihovog pokretanja, posebno sve što preuzima i izvršava dodatne datoteke.

AI agenti za kodiranje

  • Zahtijevajte ljudsko odobrenje prije nego agent instalira pakete ili pokrene ljuske naredbe.
  • Pokrenite agente u sandboxu ili kontejneru s minimalnim dopuštenjima i bez pristupa tajnama.
  • Držite API ključeve, ključeve novčanika i vjerodajnice za oblak izvan dosega agenta.

Nadzor

  • Pratite GPU iskorištenost i naplatu oblaka za neobjašnjive skokove.
  • Pregledajte pokrenute procese i odlazne veze na GPU poslužiteljima.
  • Ako sumnjate na kompromitaciju, ponovno izgradite iz čiste slike i rotirajte vjerodajnice umjesto samo brisanja rudara. Održavanje testiranih, izvanmrežnih kopija vaših podataka također pomaže, kao što je pokriveno u našem članku o nepromjenjivim sigurnosnim kopijama kao posljednjoj liniji obrane.

Ključni zaključci

Hugging Face kampanja zlonamjernog softvera pokazuje da su AI model hubovi i repozitoriji koda sada dio napadne površine, te da se napadači brzo prilagođavaju nakon uklanjanja. Lažni Solana paket dodaje novi zaokret ciljajući automatizirane alate kojima developeri sve više vjeruju.

Da smanjite svoj rizik: provjerite izdavače, pročitajte kod prije pokretanja, izolirajte sve nepoznato u sandbox, ograničite što vaši AI agenti mogu raditi i pratite GPU iskorištenost za anomalije. Tretirajte svaki preuzeti model i početni paket kao nepouzdan dok ga ne provjerite.