Rus Devlet Destekli Grup Claude'u Kötü Amaçlı Yazılım Geliştirme Aracına Dönüştürdü

Anthropic, Claude AI modelini aktif bir kötü amaçlı yazılım geliştirme hattının parçası olarak kullanan, dahili olarak GTG-20006 kod adıyla izlenen Rus devlet destekli bir operasyonu engelledi. Anthropic'e göre grup, Claude'dan yalnızca bir kez kod yazmasını isteyip kenara çekilmedi. Bunun yerine modeli sürekli bir döngü içinde kullandı: kötü amaçlı yazılım üret, güvenlik ürünlerine karşı test et ve kötü amaçlı yazılım işaretlendiğinde tespiti Claude'a geri besleyerek aynı savunmaları atlatmak üzere tasarlanmış yeniden oluşturulmuş bir sürüm ürettir.

Kampanyayla ilişkilendirilen raporlar, aktörü uzun bir casusluk odaklı operasyon geçmişine sahip, Rus devlet çıkarlarıyla bağlantılı bir tehdit grubu olan Midnight Blizzard ile ilişkilendiriyor. Faaliyetin, grubun mali çıkar güdümlü siber suç yerine istihbarat toplamaya yönelik tipik odağıyla tutarlı olarak Ukraynalı ve Avrupalı kuruluşları hedef aldığı bildirildi. Anthropic, kötüye kullanım tespit edildiğinde operasyonla ilişkili hesapları belirlediğini ve kapattığını söylüyor.

Yapay Zeka Destekli Kötü Amaçlı Yazılım İş Akışı Nasıl İşledi

Bu vakayı dikkate değer kılan şey, hackerların bir yapay zeka sohbet robotu kullanması değil. Dikkat çeken şey iş akışının kendisi. Geleneksel olarak kötü amaçlı yazılım yazarları, antivirüs satıcıları veya uç nokta tespit araçları bir örneği işaretledikten sonra kodlarını manuel olarak uyarlar. Bu süreç zaman, beceri ve yineleme gerektirir. Claude'u bu döngüye yerleştirerek GTG-20006'nın süreci sıkıştırdığı görülüyor: işaretlenen kodu satır satır yeniden işleyen bir insan geliştirici yerine, yapay zeka modeli tespit imzalarından kaçabilecek varyantlar üretmek için hızlı, talep üzerine çalışan bir araç haline geldi.

Bu durum, güvenlik araştırmacılarının uzun süredir uyardığı daha geniş bir örüntüyü yansıtıyor: yapay zeka kodlama asistanları güçlüdür çünkü işlevsel kodu hızlı bir şekilde yazmanın teknik engelini düşürür ve bu aynı verimlilik, nihai hedef ister meşru bir uygulama ister bir kötü amaçlı yazılım parçası olsun geçerlidir. Anthropic'in açıklaması, şirketin kendi izleme sistemlerinin bu kötüye kullanımı yakalayabildiğini ve harekete geçebildiğini gösteriyor; bu da yapay zeka sağlayıcılarının bu tür davranışları varsayımsal bir risk olarak görmek yerine aktif olarak izlediğine dair anlamlı bir işarettir.

Bu aynı zamanda yapay zeka asistanı ekosistemlerindeki zafiyetlere dair diğer son bulgularla da aynı döneme denk geliyor. Zenity'deki araştırmacılar kısa süre önce, saldırganların herhangi bir kullanıcı etkileşimi olmadan yapay zeka tarayıcı araçlarını ele geçirmesine olanak tanıyabilecek Claude ve ChatGPT Atlas'taki sıfır tıklamalı kusurları açıkladı. Bir arada ele alındığında, bu haberler aynı temel temaya işaret ediyor: yapay zeka araçları günlük iş akışlarına gömüldükçe, hem araçların kendisi hem de tehdit aktörlerinin bunları kullanma biçimi, incelenmeye değer saldırı yüzeyleri haline geliyor.

Bu Neden Manşetin Ötesinde Önemli

Burada ne olduğu ve ne olmadığı konusunda kesin olmakta fayda var. Claude, saldırganlara gizlice yardım etmesi için "hacklenmedi" ve Claude'un günlük kullanıcılarının uygulama üzerinden kötü amaçlı yazılıma maruz kaldığına dair hiçbir işaret yok. Bu, devletle bağlantılı sofistike bir grubun meşru bir yapay zeka ürününü, herhangi bir kodlama yazılımını kullanabileceği gibi, bir geliştirme aracı olarak kullanıp kötü niyetli kod üretimi için kötüye kullanması vakasıydı. Anthropic'in yanıtı, örüntüyü tespit edip erişimi kesmesi, yapay zeka platformlarının saldırı amaçlı siber operasyonlar için varsayılan araç setlerine dönüşmesini engellemek açısından önem taşıyan türden bir yaptırım eylemidir.

Yine de bu olay, yapay zeka destekli kötü amaçlı yazılım geliştirmenin artık teorik olmadığının bir hatırlatıcısıdır. Devlet destekli aktörler operasyonlarını hızlandırmak için bu araçları deniyor ve savunucuların, eskisinden daha hızlı yeniden üretilip değiştirilebilen kötü amaçlı yazılımları hesaba katması gerekecek. Bu özel kampanyanın odağında görünen Ukrayna ve Avrupa'daki kuruluşlar için bu durum, casusluk güdümlü grupların hızlı mali kazanç yerine istihbarat toplamaya öncelik vermeye devam ettiğini de pekiştiriyor.

Bu Sizin İçin Ne Anlama Geliyor

Çoğu bireysel kullanıcı için bu özel kampanya doğrudan yeni bir tehdit oluşturmuyor. GTG-20006'nın kitlesel tüketici saldırılarına değil, kuruluşlara yönelik hedefli casusluğa odaklandığı bildirildi. Ancak yapay zeka araçlarının kötü amaçlı yazılım geliştirmeyi ve tespitten kaçmayı hızlandırması gibi daha geniş eğilim, herkes üzerinde dolaylı etkilere sahip. Daha hızlı kötü amaçlı yazılım yinelemesi, güvenlik satıcılarının ve antivirüs araçlarının tespit imzalarını daha sık güncellemesi gerekebileceği anlamına geliyor ve yalnızca bilinen kötü amaçlı yazılım imzalarına dayanan araçlara kıyasla davranış tabanlı güvenlik araçlarının değerini artırıyor.

Yapay zeka destekli kötü amaçlı yazılım hâlâ aynı dağıtım yöntemlerine dayandığı için temel güvenlik hijyenini gözden geçirmek için de iyi bir an: kimlik avı e-postaları, kötü niyetli ekler ve ele geçirilmiş yazılımlar. Hiçbir yapay zeka aracı, kötü amaçlı yazılımın bir cihaza başlangıçta nasıl bulaştığını değiştirmiyor.

Önemli Çıkarımlar

  • İşletim sistemlerini, tarayıcıları ve güvenlik yazılımlarını güncel tutun, böylece tespit araçları daha yeni kötü amaçlı yazılım varyantlarını hızlıca yakalayabilir.
  • İstenmeyen ekler veya bağlantılara karşı, tanıdık görünen göndericilerden gelse bile şüpheci olun, çünkü dağıtım yöntemleri değişmiyor.
  • Kuruluşlar, özellikle devlet destekli aktörler tarafından hedeflenmesi muhtemel sektörlerdekiler, yalnızca imza tabanlı araçlar yerine davranış tabanlı tespiti önceliklendirmelidir.
  • Büyük yapay zeka sağlayıcılarının kötüye kullanım raporlarına nasıl yanıt verdiğini takip edin. Anthropic'in GTG-20006'yı engellemesi, platform düzeyinde yaptırımın güvenlik denkleminin sonradan akla gelen bir parçası değil, aktif bir parçası olduğunu gösteriyor.

Yapay zeka kodlama araçları daha yetenekli hale geldikçe, bunun gibi olayların azalması değil, daha yaygın hale gelmesi muhtemel. Bu araçların hem nasıl savunulduğu hem de nasıl kötüye kullanıldığı konusunda bilgili kalmak, kullanıcıların ve kuruluşların bir adım önde kalmasının en basit yollarından biridir.