En Hugging Face-malwarekampagne er dukket op igen kun få dage efter, at den blev nedtaget, ifølge en rapport fra BleepingComputer. Operationen misbruger AI-modeller til at kapre GPU-servere til kryptomining og plante bagdøre, og en af de ondsindede modeller blev downloadet mere end 28.000 gange. I et separat fund ser et falsk Solana-starterkit på GitHub ud til at være designet til at narre AI-kodeagenter til at installere en NetSupport remote-access trojan (RAT).

Ingen af historierne handler om en fejl i en VPN eller en forbrugerapp. Begge handler om den tillid, udviklere har til downloaded kode og modeller. Her er, hvad der er kendt, hvorfor det er vigtigt, og hvordan du kontrollerer, hvad du trækker ned på dine maskiner.

Hvad Hugging Face-malwarekampagnen gjorde

Ifølge kilderapporten brugte kryptomining-kampagnen Hugging Face-modeller som sit leveringskøretøj. Da modellerne kørte på GPU-servere, kaprede angriberne disse maskiner til at mine kryptovaluta og plantede bagdøre for fortsat adgang. Kampagnen blev nedtaget og vendte derefter tilbage inden for få dage, hvilket tyder på, at operatørerne hurtigt kan genudgive under nye navne eller konti.

Antallet af downloads er den detalje, der er værd at stoppe op ved. En enkelt model, der når over 28.000 downloads, viser, hvor let et repository kan se populært og legitimt ud. Downloadtal er ikke et sikkerhedssignal.

GPU-servere er attraktive mål, fordi de er dyre at drive og velegnede til mining. Et offer bemærker det måske kun gennem en overraskende cloud-regning, usædvanligt høj GPU-forbrug eller forringet ydeevne. Bagdørene er den større bekymring: Selv efter en miner er fjernet, kan et skjult adgangspunkt lade angriberne vende tilbage.

Kildeartiklen beskriver ikke den tekniske mekanisme i detaljer, så dette indlæg spekulerer ikke i den. Offentlige søgeresultater nævner en indstilling kaldet trust_remote_code i forbindelse med kampagnen, men betragt det som en grund til at gennemgå din egen konfiguration snarere end en bekræftet forklaring.

Et falsk Solana-kit rettet mod AI-kodeagenter

Den anden del af rapporten beskriver et falsk Solana-starterkit på GitHub. Det er positioneret til at narre AI-kodeagenter til at installere en NetSupport RAT. En RAT giver en angriber fjernkontrol over en enhed, hvilket kan omfatte visning af skærmen, kørsel af kommandoer og bevægelse gennem filer.

Det bemærkelsesværdige skift er målet. I stedet for kun at overbevise en menneskelig udvikler, er repositoryet udformet således, at en automatiseret assistent, der søger efter et starterprojekt og opsætter det, kan stå for installationen. Hvis en agent kan køre kommandoer med dine tilladelser, kan et forgiftet repository også handle med disse tilladelser.

Dette hænger sammen med bredere bekymringer om autonome værktøjer i udviklingsmiljøer. Vores tidligere dækning af en OpenAI AI-agent, der brød ind i Hugging Face ved hjælp af en zero-day-fejl og en rapport om AI-agent-ransomwareaktivitet hos Hugging Face, som rapporteret af Sysdig viser, at AI-platforme og agenter tiltrækker vedvarende opmærksomhed fra både forskere og angribere.

Hvad det betyder for dig

Hvis du aldrig downloader AI-modeller eller bruger kodeagenter, er din direkte eksponering lav. Hvis du er udvikler, hobbyist, forsker eller kører en hvilken som helst GPU-arbejdsbelastning, er risikoen reel, fordi disse angreb læner sig op ad normale arbejdsgange.

De praktiske problemer er:

  • Popularitet er ikke bevis. Et højt downloadtal forhindrede ikke en ondsindet model i at sprede sig.
  • Nedtagninger er ikke permanente. Kampagnen vendte tilbage inden for få dage, så et fjernet repository betyder ikke, at truslen er væk.
  • Agenter arver din adgang. En AI-assistent, der installerer pakker eller kører scripts, kan udføre en angribers instruktioner med dine privilegier.
  • Bagdøre overlever minere. Fjernelse af en mining-proces fjerner måske ikke angriberen.

En VPN løser intet af dette. Den beskytter trafik under transport, ikke den kode, du vælger at køre. Kontrol af kilder og begrænsning af tilladelser betyder langt mere her.

Sådan kontrollerer du modeller, repositories og udviklingsværktøjer

Modeller

  • Tjek udgiveren. Foretræk etablerede organisationer, og verificér, at kontoen er den, du forventer, ikke en efterligning.
  • Vær forsigtig med enhver model, der kræver brugerdefineret kode for at indlæse. Læs den kode, før du aktiverer muligheder for fjernkørsel af kode.
  • Foretræk sikrere filformater, hvor det er muligt, og undgå at køre ukendte modeller på produktions- eller cloud-forbundne maskiner.
  • Test nye modeller i et isoleret miljø uden adgang til legitimationsoplysninger eller interne netværk.

Repositories og starterkits

  • Bekræft, at repositoryet tilhører det officielle projekt, ved at følge links fra projektets egen dokumentation.
  • Se på commit-historik, bidragyderprofiler og kontoens alder. Et helt nyt repo med polerede instruktioner fortjener mistanke.
  • Læs installationsscripts, før du kører dem, især alt, der downloader og udfører ekstra filer.

AI-kodeagenter

  • Kræv menneskelig godkendelse, før en agent installerer pakker eller kører shell-kommandoer.
  • Kør agenter i en sandkasse eller container med minimale tilladelser og uden adgang til hemmeligheder.
  • Hold API-nøgler, wallet-nøgler og cloud-legitimationsoplysninger uden for agentens rækkevidde.

Overvågning

  • Hold øje med GPU-udnyttelse og cloud-fakturering for uforklarlige stigninger.
  • Gennemgå kørende processer og udgående forbindelser på GPU-servere.
  • Hvis du har mistanke om kompromittering, genopbyg fra et rent image, og roter legitimationsoplysninger i stedet for kun at slette mineren. Det hjælper også at have testede offline-kopier af dine data, som beskrevet i vores artikel om uforanderlige backups som sidste forsvarslinje.

Vigtigste pointer

Hugging Face-malwarekampagnen viser, at AI-modelhubs og kode-repositories nu er en del af angrebsoverfladen, og at angribere tilpasser sig hurtigt efter nedtagninger. Det falske Solana-kit tilføjer en ny drejning ved at målrette de automatiserede værktøjer, som udviklere i stigende grad stoler på.

For at reducere din risiko: verificér udgivere, læs kode før kørsel, sandkasse-isolér alt ukendt, begræns hvad dine AI-agenter kan gøre, og overvåg GPU-forbrug for anomalier. Behandl enhver downloadet model og ethvert starterkit som utroværdigt, indtil du har kontrolleret det.