Yapay Zeka Destekli Bir Fidye Yazılımı Grubu Yeni Bir Silahla Geri Dönüyor

Daha önce büyük bir dil modeli tarafından uçtan uca gerçekleştirilen ilk fidye yazılımı kampanyasını yürüttüğü belgelenen tehdit aktörü JadePuffer, yeni bir araçla geri döndü. Infosecurity Magazine'e göre grubun takip eden kampanyası, sıradan dosyaları ve veritabanlarını şifrelemek yerine özellikle yapay zeka model çıktılarını yok etmek için geliştirilmiş ENCFORGE adlı bir kilitleyici yazılım kullandı.

Bu durum önemli çünkü hedef seçimindeki bir değişime işaret ediyor. JadePuffer'ın orijinal kampanyası da dahil olmak üzere daha önceki fidye yazılımı operasyonları, üretim veritabanlarını şifrelemeye ve iade edilmeleri için fidye talep etmeye odaklanmıştı. Sysdig'in JadePuffer saldırısına ilişkin orijinal belgelemesi, Langflow platformunu istismar eden ve izinsiz girişi asgari düzeyde insan gözetimiyle yürüten aracı bir operatör tanımlamıştı. ENCFORGE, aynı otomatikleştirilmiş yaklaşımı yeni bir hedefle genişletiyor gibi görünüyor: Kuruluşların yapay zeka sistemlerini çalıştırmak için bağımlı olduğu eğitilmiş modelleri, ağırlıkları ve yapılandırma dosyalarını silmek.

Yapay Zeka Modellerini Hedef Almak Neden Hesaplamayı Değiştiriyor?

Geleneksel fidye yazılımı verileri rehin alır. Yapay zeka model çıktılarını yok etmek ise farklı bir gasp türüdür. Eğitilmiş modeller genellikle aylarca süren hesaplama zamanını, özenle hazırlanmış eğitim verilerini ve yalnızca modelin kurtarılması düşünülerek özel olarak tasarlanmamış rutin bir yedeklemeden kolayca geri yüklenemeyecek ince ayar çalışmalarını temsil eder. Müşteriye dönük yapay zeka araçları, iç otomasyonlar veya veri işleme hatları bu modeller etrafında kurulmuş şirketler için, bunları tümden kaybetmek tek bir veritabanını kaybetmekten daha yıkıcı olabilir, çünkü bir modeli sıfırdan yeniden inşa etmek, faal bir işletmenin genellikle sahip olmadığı bir zaman alır.

İşaret edilmeye değer bir gizlilik boyutu da bulunmaktadır. İşletmeler tarafından kullanılan birçok yapay zeka modeli, destek transkriptleri, davranışsal veriler veya bir hizmeti kişiselleştirmek için kullanılan kişisel kayıtlar gibi müşteri bilgilerini içeren veri kümeleri üzerinde eğitilir veya ince ayardan geçirilir. Fidye yazılımı operatörleri, ister çevredeki veritabanlarını şifreleyerek ister artık doğrudan modelleri yok ederek bu modellerin etrafındaki altyapıyı hedef aldığında, bu altyapıdan akan kişisel veriler hem ifşa olma hem de kaybolma riski altına girer. Tüketiciler, hangi satıcıların kendi bilgileri üzerinde yapay zeka sistemleri çalıştırdığına dair nadiren görünürlüğe sahiptir, bu da bu tür bir saldırıyı dışarıdan tespit etmeyi ve bir birey olarak hazırlık yapmayı zorlaştırır.

Otonom Saldırılarda Daha Geniş Bir Modelin Parçası

JadePuffer'ın ENCFORGE ile geri dönüşü, güvenlik araştırmacılarının bu yıl yakından takip ettiği bir eğilime uyuyor. İlk tamamen otonom yapay zeka fidye yazılımı saldırısı ile ilgili bağımsız bulgular, bir yapay zeka aracının, her adımı gerçek zamanlı olarak yönlendiren bir insan operatör olmadan güvenlik açıklarını tarayabildiğini, erişim sağlayabildiğini ve bir gasp girişimi yürütebildiğini gösterdi. Bu emsal burada önemlidir, çünkü JadePuffer'ın tek seferlik bir deney olmadığını göstermektedir. JadePuffer, veritabanı şifrelemesinden, yapay zeka altyapısına karşı özel olarak tasarlanmış bir kilitleyiciye geçerek kendi araç setini geliştiren bir operatördür. Daha fazla kuruluş Langflow ve benzeri orkestrasyon araçlarını benimsedikçe, bu tür kampanyalar için saldırı yüzeyi de yalnızca büyümektedir; bu, son dönemdeki fidye yazılımlarını ve yapay zeka güdümlü saldırıları takip eden güvenlik özetlerinde diğer yeni ortaya çıkan tehditlerle birlikte ele alınan bir konudur.

Bu Sizin İçin Ne Anlama Geliyor?

Çoğu okuyucu kendi başına bir yapay zeka modeli dağıtımı yapmıyor olacak, ancak dalga etkileri BT departmanlarının ötesine uzanıyor. Etkileşimde bulunduğunuz bir işletme -ister bir perakendeci, ister bir sağlık hizmeti sağlayıcısı, isterse bir finansal hizmet olsun- böyle bir saldırıya uğrayan yapay zeka sistemleri kullanıyorsa, sonuçları arasında hizmet kesintileri, desteğin gecikmesi veya daha kötü durumlarda bu modellerin üzerinde eğitildiği veya çalıştırıldığı verilerin ifşa olması yer alabilir. Yapay zeka altyapısını hedef alan fidye yazılımları şu anda hala bir işletmeden işletmeye sorunudur, ancak bu saldırılara kaldıraç gücünü veren şey, o altyapının içinde bulunan tüketici verileridir.

Yapay zeka sistemleri kuran veya işleten kuruluşlar için bu, model çıktılarının diğer herhangi bir kritik varlıkla aynı yedekleme disiplinine, erişim kontrollerine ve izlemeye ihtiyaç duyduğuna dair açık bir sinyaldir. Eğitilmiş bir modeli tek kullanımlık veya kolayca değiştirilebilir olarak görmek artık güvenli bir varsayım değildir.

Eyleme Dönüştürülebilir Çıkarımlar

  • Yapay zeka altyapısını yönetiyorsanız, model ağırlıklarının ve eğitim çıktılarının, çevrimdışı veya değiştirilemez kopyalar halinde, üretim sistemlerinden ayrı olarak yedeklendiğinden emin olun.
  • Yapay zeka orkestrasyon platformlarındaki erişim kontrollerini gözden geçirin; aracı fidye yazılımı kampanyaları, tutunma noktası elde etmek için açıkta kalan veya yanlış yapılandırılmış araçları istismar etmiştir.
  • Bir tüketici olarak, özellikle hassas kişisel veya finansal bilgileri işleyen hizmetler için, hizmet sağlayıcılara verilerinizi işleyen yapay zeka sistemlerini nasıl koruduklarını sorun.
  • Kullandığınız şirketlerden gelen hizmet kesintilerine veya veri ihlali bildirimlerine karşı dikkatli olun; yapay zeka arka uçlarını hedef alan fidye yazılımları, kurtarmayı tipik bir kesintiden daha uzun süre geciktirebilir.

JadePuffer'ın veritabanı gaspından yapay zeka modeli imhasına doğru evrimi, fidye yazılımı operatörlerinin değerin ve kaldıracın yoğunlaştığı her yere hızla uyum sağladığının bir hatırlatıcısıdır. Yapay zeka sistemleri daha fazla işletme için temel altyapı haline geldikçe, bunları korumak da sonradan akla gelen bir düşünce değil, herkesin güvenlik duruşunun temel bir parçası haline gelmek zorunda kalacak.