Hugging Face -haittaohjelmakampanja on noussut uudelleen esiin vain päiviä sen jälkeen, kun se suljettiin, BleepingComputerin raportin mukaan. Operaatio väärinkäyttää tekoälymalleja kaapatakseen GPU-palvelimia kryptolouhintaan ja istuttaakseen takaovia, ja yhtä haitallisista malleista ladattiin yli 28 000 kertaa. Erillisessä havainnossa GitHubissa oleva väärennetty Solana-aloituspaketti näyttää olevan suunniteltu huijaamaan tekoälykoodausagentit asentamaan NetSupport-etäkäyttötroijalainen (RAT).

Kumpikaan tarina ei kerro VPN:n tai kuluttajasovelluksen haavoittuvuudesta. Molemmat kertovat luottamuksesta, jota kehittäjät osoittavat ladattuun koodiin ja malleihin. Tässä on mitä tiedetään, miksi sillä on merkitystä ja miten tarkistaa, mitä koneillesi lataat.

Mitä Hugging Face -haittaohjelmakampanja teki

Lähderaportin mukaan kryptolouhintakampanja käytti Hugging Face -malleja jakelukanavanaan. Kun mallit ajettiin GPU-palvelimilla, hyökkääjät kaappasivat kyseiset koneet louhimaan kryptovaluuttaa ja istuttivat takaovia jatkuvaa pääsyä varten. Kampanja suljettiin, mutta se palasi päivien sisällä, mikä viittaa siihen, että operaattorit voivat nopeasti julkaista uudelleen uusilla nimillä tai tileillä.

Latausmäärä on yksityiskohta, johon kannattaa pysähtyä. Yhden mallin yli 28 000 latausta osoittaa, kuinka helposti repositorio voi näyttää suositulta ja legitimiltä. Latausmäärät eivät ole turvallisuussignaali.

GPU-palvelimet ovat houkuttelevia kohteita, koska niiden ylläpito on kallista ja ne sopivat hyvin louhintaan. Uhri saattaa huomata asian vain yllättävästä pilvilaskusta, poikkeuksellisen korkeasta GPU-käytöstä tai heikentyneestä suorituskyvystä. Takaovat ovat suurempi huolenaihe: vaikka louhija poistettaisiin, piilotettu pääsypiste voi päästää hyökkääjät takaisin.

Lähdeartikkeli ei erittele teknistä mekanismia, joten tämä artikkeli ei spekuloi sillä. Julkisissa hakutuloksissa mainitaan asetus nimeltä trust_remote_code tähän kampanjaan liittyen, mutta se kannattaa käsitellä syynä tarkistaa oma konfiguraatiosi sen sijaan, että se olisi vahvistettu selitys.

Väärennetty Solana-paketti, joka kohdistuu tekoälykoodausagentteihin

Raportin toinen osa kuvaa GitHubissa olevaa väärennettyä Solana-aloituspakettia. Se on asetettu huijaamaan tekoälykoodausagentit asentamaan NetSupport RAT. RAT antaa hyökkääjälle etähallinnan laitteeseen, mikä voi sisältää näytön katselun, komentojen suorittamisen ja tiedostoissa liikkumisen.

Merkittävä muutos on kohde. Sen sijaan, että vain suostuteltaisiin ihmiskehittäjä, repositorio on rakennettu niin, että automatisoitu avustaja, joka etsii aloitusprojektia ja asentaa sen, saattaa suorittaa asennuksen. Jos agentti voi suorittaa komentoja käyttöoikeuksillasi, myrkytetty repositorio voi toimia samoilla oikeuksilla.

Tämä liittyy laajempiin huoliin autonomisista työkaluista kehitysympäristöissä. Aiempi kattauksemme OpenAI-tekoälyagentista, joka murtautui Hugging Faceen nollapäivähaavoittuvuuden avulla ja raportti tekoälyagenttien kiristyshaittaohjelmatoiminnasta Hugging Facessa Sysdigin raportoimana osoittavat, että tekoälyalustat ja -agentit keräävät jatkuvaa huomiota sekä tutkijoilta että hyökkääjiltä.

Mitä tämä tarkoittaa sinulle

Jos et koskaan lataa tekoälymalleja tai käytä koodausagentteja, suora altistuksesi on vähäinen. Jos olet kehittäjä, harrastelija, tutkija tai ajat mitä tahansa GPU-työkuormaa, riski on todellinen, koska nämä hyökkäykset ratsastavat normaaleilla työnkuluilla.

Käytännön ongelmat ovat:

  • Suosio ei ole todiste. Korkea latausmäärä ei estänyt haitallista mallia leviämästä.
  • Poistot eivät ole pysyviä. Kampanja palasi päivien sisällä, joten poistettu repositorio ei tarkoita, että uhka on poissa.
  • Agentit perivät käyttöoikeutesi. Tekoälyavustaja, joka asentaa paketteja tai suorittaa skriptejä, voi toteuttaa hyökkääjän ohjeita käyttöoikeuksillasi.
  • Takaovat kestävät louhijoita pidempään. Louhintaprosessin poistaminen ei välttämättä poista hyökkääjää.

VPN ei ratkaise mitään tästä. Se suojaa liikennettä siirron aikana, ei koodia, jonka päätät suorittaa. Lähteiden tarkistaminen ja käyttöoikeuksien rajoittaminen ovat tässä paljon tärkeämpiä.

Miten tarkistaa mallit, repositoriot ja kehitystyökalut

Mallit

  • Tarkista julkaisija. Suosi vakiintuneita organisaatioita ja varmista, että tili on se, jonka odotat, eikä jäljitelty.
  • Ole varovainen kaikkien mallien kanssa, jotka vaativat mukautettua koodia lataamiseen. Lue kyseinen koodi ennen etäkoodin suoritusasetusten ottamista käyttöön.
  • Suosi turvallisempia tiedostomuotoja, kun niitä on saatavilla, ja vältä tuntemattomien mallien ajamista tuotanto- tai pilviyhteydessä olevilla koneilla.
  • Testaa uusia malleja eristetyssä ympäristössä, jolla ei ole pääsyä tunnistetietoihin tai sisäverkkoihin.

Repositoriot ja aloituspaketit

  • Varmista, että repositorio kuuluu viralliselle projektille seuraamalla linkkejä projektin omasta dokumentaatiosta.
  • Tarkastele commit-historiaa, tekijöiden profiileja ja tilin ikää. Aivan uusi repo, jossa on viimeistellyt ohjeet, ansaitsee epäilyksen.
  • Lue asennusskriptit ennen niiden suorittamista, erityisesti kaikki, jotka lataavat ja suorittavat lisätiedostoja.

Tekoälykoodausagentit

  • Vaadi ihmisen hyväksyntä ennen kuin agentti asentaa paketteja tai suorittaa komentotulkin komentoja.
  • Aja agentit hiekkalaatikossa tai kontissa, jolla on minimaaliset käyttöoikeudet eikä pääsyä salaisuuksiin.
  • Pidä API-avaimet, lompakon avaimet ja pilvitunnistetiedot poissa agentin ulottuvilta.

Valvonta

  • Tarkkaile GPU-käyttöä ja pilvilaskutusta selittämättömien piikkien varalta.
  • Tarkista käynnissä olevat prosessit ja lähtevät yhteydet GPU-palvelimilla.
  • Jos epäilet tietomurtoa, rakenna uudelleen puhtaasta levykuvasta ja kierrätä tunnistetiedot sen sijaan, että vain poistaisit louhijan. Testattujen, offline-kopioiden säilyttäminen tiedoistasi auttaa myös, kuten käsittelimme artikkelissamme muuttumattomista varmuuskopioista viimeisenä puolustuslinjana.

Keskeiset havainnot

Hugging Face -haittaohjelmakampanja osoittaa, että tekoälymallien keskukset ja koodirepositoriot ovat nyt osa hyökkäyspintaa ja että hyökkääjät mukautuvat nopeasti poistojen jälkeen. Väärennetty Solana-paketti tuo uuden käänteen kohdistamalla automatisoituihin työkaluihin, joihin kehittäjät yhä enemmän luottavat.

Riskin vähentämiseksi: varmista julkaisijat, lue koodi ennen sen suorittamista, eristä tuntematon hiekkalaatikkoon, rajoita mitä tekoälyagenttisi voivat tehdä ja tarkkaile GPU-käyttöä poikkeavuuksien varalta. Käsittele jokaista ladattua mallia ja aloituspakettia epäluotettavana, kunnes olet tarkistanut sen.