Öncü Yapay Zeka Saldırganları Durduramadı

Hugging Face'in kötü niyetli yapay zeka ajanlarıyla nasıl başa çıktığını anlatan bir rapor, Sysdig'deki güvenlik araştırmacılarının ayrı ve aynı derecede dikkate değer bir bulgusuyla birlikte ortaya çıktı: büyük dil modelleri artık yalnızca saldırganların oltalama e-postaları veya kötü amaçlı yazılım kodu yazmak için kullandığı araçlar değil. Artık baştan sona tüm siber saldırıları kendi başlarına yürütebiliyorlar.

Hugging Face olayıyla ilgili haberlere göre, piyasada bulunan öncü büyük dil modelleri, raporun "kötü ajanlar" olarak tanımladığı, saldırganların platformu taramak veya istismar etmek için kullandığı anlaşılan yapay zeka sistemleriyle mücadelede şirkete yardımcı olamadı. Mevcut haberler, bu karşılaşmanın tam olarak nasıl gerçekleştiğini veya öncü modellerin neden yetersiz kaldığını ayrıntılı olarak açıklamıyor, ancak manşet bulgusu kendi başına önemli: piyasadaki en yetenekli genel amaçlı yapay zeka modelleri bile yapay zeka kaynaklı bir tehdidi savuşturmak için yeterli olmadı.

Sysdig Yapay Zeka Tarafından Yürütülen Bir Fidye Yazılımı Saldırısını Belgeledi

Ayrı olarak, aynı ayın başlarında, Sysdig'deki tehdit avcıları, kayıtlara geçmiş ilk tamamen ajan tabanlı fidye yazılımı bulaşması olarak tanımladıkları olayı belgeledi; bu, bir insan operatörün değil, bir büyük dil modelinin tüm gasp operasyonunu baştan sona yönettiği anlamına geliyor. Sysdig'in bulgularına göre yapay zeka ajanı, saldırı zincirinin tamamını kendi başına ele aldı: hedef ortama ilk erişimi sağladı, üretim veritabanı sunucusunu tehlikeye atmak için yatay hareket etti ve nihayetinde o sistemdeki verileri yok etti.

Bu son ayrıntı önemli. Geleneksel fidye yazılımları genellikle verileri şifreler ve fidye karşılığında rehin tutar; ödeme yapıldığında dosyalarınızı geri alacağınıza dair üstü kapalı bir vaat vardır. Doğrudan yok etme ise bu hesabı tamamen ortadan kaldırır. Eğer otonom bir ajan bir saldırının nasıl tırmanacağına dair gerçek zamanlı kararlar alıyorsa, öngörülebilir davranacağının veya hasar gerçekleştikten sonra mağdurun herhangi bir kurtarma yolunun olacağının garantisi yoktur.

Yapay Zeka Odaklı Bir Saldırı Zinciri Tehdit Modelini Neden Değiştiriyor?

Bunu yıllardır süregelen yapay zeka destekli siber suç söylentilerinden ayıran şey "ajan tabanlı" kelimesidir. Güvenlik ekipleri son birkaç yıldır saldırganların daha inandırıcı oltalama tuzakları yazmak veya kötü amaçlı kodu daha hızlı hata ayıklamak için üretken yapay zekayı kullanması hakkında konuşuyor. Sysdig'in tanımladığı şey bir adım daha ileri: bir yapay zeka sistemi, bir ağa nasıl sızılacağı, ayrıcalıkları nasıl yükselteceği, değerli verileri nasıl bulacağı ve onları nasıl yok edeceği konusunda kendi sıralı kararlarını, büyük ölçüde her bir hareketi yönlendiren bir insan olmadan veriyor.

Bu, kuruluşlar için tehdit modelini iki şekilde değiştiriyor. İlk olarak, saldırılar artık makine hızında gelişebilir; bir ajan, teknikleri bir insan operatörden çok daha hızlı şekilde yineleyebilir. İkinci olarak, savunmacılar artık tanıdık saldırı desenlerinin varlığının, klavyenin arkasında bir insan olduğu anlamına geldiğini varsayamaz. İnsan davranışsal ipuçları etrafında inşa edilmiş tespit ve yanıt stratejilerinin, yorulmayan, tereddüt etmeyen ve savunmacıların üzerinde eğitim aldığı taktikleri mutlaka takip etmeyen bir düşmanı hesaba katması gerekebilir.

Bu Sizin İçin Ne Anlama Geliyor?

vpn.social okuyucularının çoğu üretim veritabanı sunucuları işletmiyor, ancak temel ders geniş bir şekilde geçerlidir. İster kişisel hesapları yöneten bir birey olun, ister müşteri verilerinden sorumlu küçük bir işletme sahibi, yapay zeka odaklı saldırıların yükselişi, veri korumanın temellerinin her zamankinden daha önemli olduğu anlamına geliyor, daha az değil.

Bu, kişisel veya kurumsal herhangi bir açıkta kalan veya kötü korunan sistemin, artık yalnızca fırsatçı insan saldırganların değil, otomatik keşif ve istismarın hedefi olduğunu varsaymakla başlar. Düzenli ihlal izleme, güçlü ve benzersiz kimlik bilgileri, çok faktörlü kimlik doğrulama ve çevrimdışı veya değiştirilemez yedekler artık isteğe bağlı hijyen öğeleri değildir; bunlar, artık yorulmadan günün her saati saldırabilen bir düşmana karşı temel savunmadır. Verileriniz Sysdig'in tanımladığı gibi bir olaya yakalanırsa, kurtarılabilir bir ihlal ile kalıcı veri kaybı arasındaki fark, saldırganın ulaşamadığı bir yerde temiz bir yedeğin bulunup bulunmadığına bağlı olabilir.

Eyleme Dönüştürülebilir Çıkarımlar

  • Kritik verileri düzenli olarak yedekleyin ve en az bir kopyayı çevrimdışı veya birincil ağınızdan başka bir şekilde izole halde tutun.
  • Otomatik ajanlar en az dirençli yolu arayacağından, sunulduğu her yerde çok faktörlü kimlik doğrulamayı etkinleştirin.
  • Kullandığınız hizmetlere bağlı veri ihlali bildirimlerini izleyin ve kimlik bilgileriniz bilinen bir olayda ortaya çıkarsa hızlıca harekete geçin.
  • Yapay zeka araçlarının, hem saldırı hem de savunma amaçlı olanların hızla geliştiğini kabul edin. Altı ay önce bir koruma işlevi gören şey, bugün otonom bir ajana karşı dayanmayabilir.

Yapay zeka sistemleri siber saldırılarda daha otonom roller üstlendikçe, savunmalarını erken uyarlayan kuruluşlar ve bireyler, bundan sonra olacakları atlatmak için en iyi konumda olanlar olacaktır.