Help Net Security'nin bir raporuna göre, saldırganlar LLMjacking için tasarlanmış bir AI ajanı geliştirdi. Ajan, ortaya çıkan AI modellerini ele geçiriyor ve bunları kimlik bilgilerini çalmak ve kripto para madenciliği yapmak için kullanıyor. Maliyet mağdurun üzerine kalıyor. Kendi barındırdığı bir modeli çalıştıran veya ücretli bir AI API anahtarı bulunduran herkes için, LLMjacking'in ortaya çıkardığı AI modelleri artık anlaşılması gereken pratik bir risk.

LLMjacking Nedir ve Ajan Nasıl Çalışır

LLMjacking, başkasının sahip olduğu veya ödeme yaptığı büyük bir dil modelinin (LLM) ele geçirilmesidir. Bir saldırgan, hesaplama gücü veya API erişimi satın almak yerine, erişilebilir bir model veya sızmış bir anahtar bulur ve bunu ücretsiz kullanır. Faturayı mağdur öder.

Buradaki yenilik otomasyondur. Rapor, bu amaçla geliştirilmiş bir AI ajanını tanımlıyor. Yanlış yapılandırılmış hizmetleri elle avlayan bir kişi yerine, yazılım bulma ve ele geçirme işini yapıyor. Bildirilen hedefler, kimlik bilgilerini çalmak ve kripto para madenciliği yapmak; her ikisi de ele geçirilmiş bir modeli saldırgan için doğrudan kâra dönüştürüyor.

Kaynak, aracı yalnızca üst düzeyde tanımlıyor ve bunun ötesinde spekülasyon yapmayacağız. Daha geniş nokta hâlâ geçerli: keşif ve sömürü otomatikleştirildiğinde, ortaya çıkan bir hizmetin bulunmak için ilginç olması gerekmez. Yalnızca erişilebilir olması yeterlidir.

Ortaya Çıkan AI Anahtarları ve Hizmetleri Nasıl Ele Geçirilir

Öne sürülen model basittir. Bir ajan, ortaya çıkan AI modellerini ve API uç noktalarını tarar, ardından bulduklarının kontrolünü ele geçirir. En çok önem taşıyan iki tür maruz kalma vardır:

  • Ortaya çıkan uç noktalar. Genellikle pratik bir ayar, yönlendirilmiş bir bağlantı noktası veya eksik bir oturum açma nedeniyle internetten erişilebilen, kendi barındırılan bir model veya AI arayüzü.
  • Ortaya çıkan kimlik bilgileri. Kod depoları, paylaşılan yapılandırma dosyaları veya kimsenin hatırlamadığı eski projeler gibi olmaması gereken yerlerde bulunan API anahtarları.

Bir saldırgan herhangi birine sahip olduğunda, model onun için çalışır. Hesaplama gücü sizin donanımınızda veya hesabınızda çalışır ve kullanım faturanızda görünür veya makinenizi yavaşlatır.

Kimlik bilgisi hırsızlığı boyutu, ikinci bir endişe katmanı ekler. Ele geçirilmiş bir AI hizmeti yalnızca ücretsiz bir kaynak değildir. Aynı zamanda daha fazla kimlik bilgisi toplamanın bir yolu haline gelebilir; bu yüzden unutulmuş tek bir anahtar daha geniş bir soruna dönüşebilir.

Bu Sizin İçin Ne Anlama Geliyor

AI'yi yalnızca tüketici sohbet uygulaması aracılığıyla kullanıyorsanız, doğrudan maruziyetiniz sınırlıdır. Aşağıdakilerden daha fazlasını yaptıkça risk artar:

  • Evde model çalıştırıyorsunuz. Yerel LLM'ler, web ön uçları veya otomasyon araçları barındıran ev sunucusu meraklıları en belirgin hedeflerdir. Yönlendirilmiş bir bağlantı noktasındaki kimlik doğrulaması olmayan bir AI hizmeti, otomatik bir tarayıcının bulmak için tasarlandığı türden bir şeydir.
  • API anahtarları bulunduruyorsunuz. AI hizmetlerini betiklere, tarayıcı uzantılarına veya yan projelere bağlayan geliştiriciler ve hobici meraklılar, anahtarlarını birkaç yere dağıtmış olabilir.
  • Kimlik bilgilerini yeniden kullanıyorsunuz. Ele geçirilmiş bir sistem başka bir yerde kullandığınız bir parolayı ortaya çıkarırsa, hasar AI hizmetinin ötesine yayılır. Yeniden kullanım, tek bir ihlali birçok ihlale dönüştürür.

Mali tarafı da kolayca gözden kaçabilir. Kripto para madenciliği ve yoğun model kullanımı kaynakları sessizce tüketir. Bunu yalnızca bir fatura yükseldiğinde, donanımınız ısındığında veya bir sağlayıcı olağandışı etkinlik işaretlediğinde fark edebilirsiniz.

Bu daha geniş bir eğilime uyuyor. Saldırganlar AI'yi giderek daha fazla saldırı amaçlı kullanıyor, yalnızca onu hedeflemiyor. Rus hackerların tespit edilen kötü amaçlı yazılımı yeniden oluşturmak için Claude AI'yi nasıl kullandığına ilişkin haberimiz, saldırgan tarafında AI destekli araçlara yönelik aynı kaymayı gösteriyor.

API Anahtarlarını, Ağ Maruziyetini ve Ev Sunucusu Ayarlarını Nasıl Güvenceye Alırsınız

Bu adımların hiçbiri sıra dışı değildir. Çoğu, daha yeni bir hizmet türüne uygulanan temel hijyendir.

API anahtarlarına parola gibi davranın.

  1. Ödeme yaptığınız veya bir projeye bağladığınız her AI hizmetini listeleyin.
  2. Artık tanımadığınız veya yakın zamanda kullanmadığınız anahtarları döndürün ve ihtiyacınız olmayanları silin.
  3. Anahtarları kod depolarından ve paylaşılan belgelerden uzak tutun. Bunun yerine ortam değişkenleri veya bir parola yöneticisi kullanın.
  4. Sağlayıcınızın izin verdiği yerlerde harcama limitleri ve kullanım uyarıları belirleyin, böylece ele geçirilmiş bir anahtar hızla fark edilsin.
  5. Her proje için ayrı bir anahtar kullanın, böylece tek bir sızıntı her şeyi ortaya çıkarmasın.

Ağ maruziyetini azaltın.

  1. Yönlendiricinizde bağlantı noktası yönlendirme kurallarını kontrol edin ve oluşturduğunuzu hatırlamadığınız kuralları kaldırın.
  2. Kendi barındırdığınız AI arayüzlerini doğrudan internete maruz bırakmayın. Uzaktan erişime ihtiyacınız varsa, bunu bir VPN veya kontrol ettiğiniz başka bir kimlik doğrulamalı tünelin arkasına koyun.
  3. Yalnızca ev ağınızda çalışsa bile, çalıştırdığınız her AI web arayüzü veya API için kimlik doğrulamayı açın.
  4. Model yazılımını ve bağımlılıklarını güncel tutun.

Uyarı işaretlerine dikkat edin.

  1. Bir AI hesabında beklenmedik ücretler veya kullanım artışları.
  2. Hiçbir şey çalıştırmadığınızda sürekli yüksek CPU veya GPU yükü.
  3. Tanımadığınız adreslerden gelen istekleri gösteren günlükler.

Kimlik bilgisi yeniden kullanımını düzeltin. Her hizmet için benzersiz parolalar kullanın ve mevcut olduğunda çok faktörlü kimlik doğrulamayı açın. Ele geçirilmiş bir hizmet bir parolayı ortaya çıkarırsa, benzersiz kimlik bilgileri hasarı sınırlı tutar.

Çıkarımlar

Rapor kısa, ancak ders açık. LLMjacking'in ortaya çıkardığı AI modelleri otomatik ve ölçeklenebilir bir etkinlik haline geliyor ve bunun bedelini ödeyenler, ortaya çıkan anahtarların ve sunucuların sahipleridir. AI araçlarını kullanmayı bırakmanıza gerek yok. Anahtarlarınızın nerede olduğunu ve ağınızın neyi ortaya çıkardığını bilmeniz gerekiyor.

Bugün birkaç dakikanızı ayırarak AI API anahtarlarınızı denetleyin, çalıştırdığınız tüm kendi barındırdığınız AI hizmetlerini kontrol edin ve yönlendiricinizin bağlantı noktası yönlendirme kurallarını gözden geçirin. Saldırganların AI'yi nasıl işe koştuğuna dair daha fazla bağlam istiyorsanız, AI destekli kötü amaçlı yazılım geliştirme hakkındaki makalemizi okuyun.