BleepingComputer'ın haberine göre, bir Hugging Face kötü amaçlı yazılım kampanyası kaldırılmasından sadece günler sonra yeniden ortaya çıktı. Operasyon, GPU sunucularını kripto madenciliği için ele geçirmek ve arka kapılar yerleştirmek amacıyla yapay zeka modellerini kötüye kullanıyor ve kötü amaçlı modellerden biri 28.000'den fazla kez indirildi. Ayrı bir bulguda, GitHub'daki sahte bir Solana başlangıç kiti, yapay zeka kodlama ajanlarını bir NetSupport uzaktan erişim truva atı (RAT) yüklemeye kandırmak için tasarlanmış görünüyor.

Her iki haber de bir VPN'deki veya tüketici uygulamasındaki bir kusurla ilgili değil. İkisi de geliştiricilerin indirilen koda ve modellere duyduğu güvenle ilgili. İşte bilinenler, neden önemli olduğu ve makinelerinize çektiğiniz şeyleri nasıl kontrol edeceğiniz.

Hugging Face kötü amaçlı yazılım kampanyası ne yaptı

Kaynak rapora göre, kripto madenciliği kampanyası dağıtım aracı olarak Hugging Face modellerini kullandı. Modeller GPU sunucularında çalıştırıldığında, saldırganlar bu makineleri kripto para madenciliği yapmak için ele geçirdi ve sürekli erişim için arka kapılar yerleştirdi. Kampanya kaldırıldı, ardından günler içinde geri döndü; bu da operatörlerin yeni adlar veya hesaplar altında hızla yeniden yayınlayabildiğini gösteriyor.

İndirme sayısı, üzerinde durmaya değer ayrıntı. Tek bir modelin 28.000'den fazla indirmeye ulaşması, bir deponun ne kadar kolay popüler ve meşru görünebileceğini gösteriyor. İndirme sayıları bir güvenlik sinyali değildir.

GPU sunucuları cazip hedeflerdir çünkü çalıştırılmaları pahalıdır ve madencilik için çok uygundur. Bir kurban bunu yalnızca sürpriz bir bulut faturası, olağandışı yüksek GPU kullanımı veya performans düşüşüyle fark edebilir. Arka kapılar daha büyük endişedir: bir madenci kaldırıldıktan sonra bile, gizli bir erişim noktası saldırganların geri dönmesine izin verebilir.

Kaynak makale teknik mekanizmayı ayrıntılandırmıyor, bu nedenle bu yazı bu konuda spekülasyon yapmıyor. Genel arama sonuçları, kampanyayla bağlantılı olarak trust_remote_code adlı bir ayardan bahsediyor, ancak bunu doğrulanmış bir açıklama yerine kendi yapılandırmanızı gözden geçirmeniz için bir neden olarak değerlendirin.

Yapay zeka kodlama ajanlarını hedef alan sahte Solana kiti

Raporun ikinci kısmı, GitHub'daki sahte bir Solana başlangıç kitini tanımlıyor. Yapay zeka kodlama ajanlarını bir NetSupport RAT yüklemeye kandırmak için konumlandırılmış. Bir RAT, saldırgana bir cihaz üzerinde uzaktan kontrol sağlar; bu, ekranı görüntülemeyi, komut çalıştırmayı ve dosyalar arasında gezinmeyi içerebilir.

Dikkat çeken değişim hedeftir. Depo yalnızca bir insan geliştiriciyi ikna etmek yerine, bir başlangıç projesi arayan ve onu kuran otomatik bir asistanın yüklemeyi yapabileceği şekilde hazırlanmış. Bir ajan sizin izinlerinizle komut çalıştırabiliyorsa, zehirlenmiş bir depo da bu izinlerle hareket edebilir.

Bu, geliştirme ortamlarındaki otonom araçlarla ilgili daha geniş endişelerle bağlantılı. OpenAI yapay zeka ajanının sıfır gün açığı kullanarak Hugging Face'i ihlal etmesi konusundaki önceki haberimiz ve Sysdig tarafından bildirildiği üzere Hugging Face'teki yapay zeka ajanı fidye yazılımı faaliyeti hakkındaki bir rapor, yapay zeka platformlarının ve ajanlarının hem araştırmacıların hem de saldırganların sürekli ilgisini çektiğini gösteriyor.

Bu Sizin İçin Ne Anlama Geliyor

Hiç yapay zeka modeli indirmiyorsanız veya kodlama ajanları kullanmıyorsanız, doğrudan maruziyetiniz düşüktür. Bir geliştirici, hobi meraklısı, araştırmacıysanız veya herhangi bir GPU iş yükü çalıştırıyorsanız, risk gerçektir çünkü bu saldırılar normal iş akışlarına yaslanır.

Pratik sorunlar şunlardır:

  • Popülerlik kanıt değildir. Yüksek bir indirme sayısı kötü amaçlı bir modelin yayılmasını engellemedi.
  • Kaldırmalar kalıcı değildir. Kampanya günler içinde geri döndü, bu nedenle kaldırılan bir depo tehdidin gittiği anlamına gelmez.
  • Ajanlar erişiminizi devralır. Paket yükleyen veya betik çalıştıran bir yapay zeka asistanı, bir saldırganın talimatlarını sizin ayrıcalıklarınızla yerine getirebilir.
  • Arka kapılar madencilerden daha uzun yaşar. Bir madencilik sürecini kaldırmak saldırganı kaldırmayabilir.

Bir VPN bunların hiçbirini çözmez. Geçiş halindeki trafiği korur, çalıştırmayı seçtiğiniz kodu değil. Kaynakları denetlemek ve izinleri sınırlamak burada çok daha önemlidir.

Modeller, depolar ve geliştirme araçları nasıl denetlenir

Modeller

  • Yayıncıyı kontrol edin. Yerleşik kuruluşları tercih edin ve hesabın beklediğiniz hesap olduğunu doğrulayın, benzer görünen bir hesap değil.
  • Yüklemek için özel kod gerektiren herhangi bir modelde dikkatli olun. Uzaktan kod yürütme seçeneklerini etkinleştirmeden önce bu kodu okuyun.
  • Mevcut olduğunda daha güvenli dosya formatlarını tercih edin ve bilinmeyen modelleri üretim veya buluta bağlı makinelerde çalıştırmaktan kaçının.
  • Yeni modelleri kimlik bilgilerine veya iç ağlara erişimi olmayan izole bir ortamda test edin.

Depolar ve başlangıç kitleri

  • Deponun resmi projeye ait olduğunu, projenin kendi belgelerinden gelen bağlantıları takip ederek doğrulayın.
  • Commit geçmişine, katkıda bulunan profillerine ve hesap yaşına bakın. Özenle hazırlanmış talimatlara sahip yepyeni bir depo şüphe uyandırmalıdır.
  • Yükleme betiklerini çalıştırmadan önce okuyun, özellikle ek dosyaları indirip çalıştıran her şeyi.

Yapay zeka kodlama ajanları

  • Bir ajanın paket yüklemesi veya kabuk komutları çalıştırmasından önce insan onayı gerektirin.
  • Ajanları minimum izinlere sahip ve sırlara erişimi olmayan bir sandbox veya konteynerde çalıştırın.
  • API anahtarlarını, cüzdan anahtarlarını ve bulut kimlik bilgilerini ajanın erişiminden uzak tutun.

İzleme

  • Açıklanamayan ani artışlar için GPU kullanımını ve bulut faturalandırmasını izleyin.
  • GPU sunucularında çalışan süreçleri ve giden bağlantıları gözden geçirin.
  • İhlalden şüpheleniyorsanız, yalnızca madenciyi silmek yerine temiz bir imajdan yeniden oluşturun ve kimlik bilgilerini döndürün. Verilerinizin test edilmiş, çevrimdışı kopyalarını bulundurmak da yardımcı olur; son savunma hattı olarak değiştirilemez yedekler hakkındaki yazımızda ele alındığı gibi.

Temel çıkarımlar

Hugging Face kötü amaçlı yazılım kampanyası, yapay zeka model merkezlerinin ve kod depolarının artık saldırı yüzeyinin bir parçası olduğunu ve saldırganların kaldırmalardan sonra hızla uyum sağladığını gösteriyor. Sahte Solana kiti, geliştiricilerin giderek daha fazla güvendiği otomatik araçları hedefleyerek yeni bir boyut ekliyor.

Riskinizi azaltmak için: yayıncıları doğrulayın, kodu çalıştırmadan önce okuyun, tanımadığınız her şeyi sandbox'a alın, yapay zeka ajanlarınızın neler yapabileceğini kısıtlayın ve GPU kullanımını anormallikler için izleyin. Kontrol edene kadar indirilen her modeli ve başlangıç kitini güvenilmez olarak değerlendirin.