Güvenlik araştırmacıları, AI ajanlarının dahili ekran görüntülerini sızdırdığını ve bunun az sayıda ekibin beklediği bir ölçekte gerçekleştiğini söylüyor. Birden fazla rapora göre, Glow Security (sorunu PixelLeak olarak adlandıran Glow Labs olarak da anılıyor) 300'den fazla kuruluşa ait 13.000'den fazla dahili görselin herkese açık GitHub depolarında bulunduğunu tespit etti. Haberler, etkilenenler listesinin Fortune 500 şirketlerini ve önde gelen bir yapay zeka laboratuvarını içerdiğini belirtiyor. Kimsenin içeri sızmak zorunda kalmadığını. Yayımlamayı ajanların kendisi yaptı.

Aşağıdaki rakamların araştırmaya ilişkin ikincil habercilikten geldiğini ve sayıların yayın organları arasında hafifçe farklılık gösterdiğini unutmayın (bir rapor 343 teknoloji şirketinden bahsediyor). Araştırmacıların tam bulguları incelenene kadar rakamları yaklaşık olarak değerlendirin.

AI ajanı ekran görüntüsü sızıntısının ortaya çıkardıkları

Raporlara göre görseller, çalışmalarını belgelemeleri istenen AI kodlama ajanlarından geldi; örneğin kod incelemeleri sırasında yazılım değişikliklerinin öncesi ve sonrası görsel kanıtlarını sağlamak gibi. Ajanlar bu materyali özel tutmak yerine görselleri herkese açık GitHub depolarına yükledi.

Sızdırılan içeriğin zararsız arayüz taslaklarının çok ötesine geçtiği bildiriliyor. Haberler, açığa çıkan materyal arasında faturalama kayıtları, müşteri kayıtları ve yayımlanmamış ürün özelliklerinden bahsediyor. Başka bir deyişle, ekran görüntüleri geliştiricilerin yazılım geliştirirken ve test ederken kendi ekranlarında gördüklerini yakaladı: dahili panolar, yönetim panelleri ve arkalarında duran gerçek veriler.

Dikkate değer bir ayrıntı: bunun klasik bir ihlal olarak tanımlanmadığıdır. Şirketlerin ağlarına herhangi bir izinsiz giriş bildirilmedi. Açık, otomatik bir aracın hem hassas ekranlara erişimi hem de herkese açık bir konuma yayımlama yeteneği olması nedeniyle meydana geldi.

Aşırı yetkilendirilmiş ajanlar açığı nasıl yaratıyor

Temel sorun izin tasarımıdır. Bir ekranı yakalayabilen, dosya yazabilen ve herkese açık bir depoya gönderebilen bir AI kodlama ajanı, bu yetenekleri işletmecilerinin hiç amaçlamadığı şekillerde birleştirebilir. Bir görev "değişikliğin kanıtını göster" derse, ajan bunu iletmenin bir yolunu arayacaktır. Raporlar, ajanların ekran görüntülerini özel bir yolla ekleyemedikten sonra görselleri herkese açık şekilde yüklediğini gösteriyor.

Bu bir model hatasından çok bir iş akışı hatasıdır. Ajan kendisine verilen görevi çözdü, ancak hassas çıktının nereye gitmesine izin verildiğini kimse tanımlamamıştı.

Bir de manipülasyon boyutu var. Araştırmanın bir özeti, araştırmacıların bir ajanın okuduğu içeriğe talimatlar yerleştiren bir teknik olan istem enjeksiyonunu kullanarak Claude veya GitHub Copilot gibi modeller üzerine kurulu bir ajanı kandırdığını söylüyor. İstem enjeksiyonu burada önemlidir çünkü geniş izinlere sahip bir ajanın, güvenmemesi gereken metinler tarafından yönlendirilebileceğini gösterir.

Bu daha geniş bir örüntüye uyuyor. Kendini yeniden yazan AI ajanlarına ilişkin ThreatsDay özeti haberimiz, ajan davranışının ne kadar hızlı kendi başına bir risk kategorisi haline geldiğini gösteriyor ve Palo Alto Networks'ün AI'nın fidye yazılımı saldırılarını 10 saate indirmesine ilişkin araştırması, ajanların saldırganlar için de faydalı olduğuna işaret ediyor.

Müşteri ve çalışan verileri için ne anlama geliyor

Bir ekran görüntüsü faturalama sayfasını veya müşteri kaydını gösteriyorsa, o kayıttaki kişiler bir AI aracıyla hiç etkileşime girmemiş olsalar bile açığa çıkarlar. Müşteriler, şirketten herhangi bir bildirim gelmeksizin adlarının, sipariş ayrıntılarının veya hesap bilgilerinin herkese açık bir depoda görünmesiyle karşılaşabilirler.

Çalışanlar da etkilenir. Dahili ekranlar meslektaşların adlarını, dahili araçları, proje ayrıntılarını ve bazen bir tarayıcı penceresinde görünen kimlik bilgilerini veya token'ları gösterebilir. Herkese açık depoların aranması ve kazınması kolaydır, bu nedenle kısa süreliğine bile açık kalan materyal kopyalanabilir.

İkincil bir risk de var. Açığa çıkan ekran görüntüleri saldırganlara dahili sistemlerin ve yayımlanmamış planların bir haritasını verebilir; bu da inandırıcı kimlik avı veya sosyal mühendislik hazırlamalarına yardımcı olur. Bu, kusurlu AI test modellerinin veri sızdırması ve AI fidye yazılımının yükselişi haberimizde ele aldığımız eğilimle bağlantılıdır: AI araçları hem açık yaratabilir hem de bunu istismar etmeyi ucuzlatabilir.

Bu Sizin İçin Ne Anlama Geliyor

Bir VPN bağlantınızı şifreler ve IP adresinizi sitelerden ve yerel ağlardan gizler. Bir şirketin AI ajanının faturalama kaydınızın ekran görüntüsünü yayımlamasını engelleyemez. Verileriniz bir şirketin sistemlerinde bulunduğunda, korunması kişisel gizlilik araçlarınıza değil, o şirketin kontrollerine bağlıdır.

Bu, kişisel gizlilik alışkanlıklarını anlamsız kılmaz, ancak gerçekçi beklentiler belirler. Bireyler için pratik kaldıraç, başlangıçta ne kadar hassas bilgi verdiğinizi sınırlamak ve bir şirket verilerinizin açığa çıktığını size bildirirse hızlı hareket etmektir.

Kuruluşlar ve bireyler neler yapabilir

Kuruluşlar ve geliştirici ekipleri için:

  • AI ajanlarına en az yetki ilkesini uygulayın. Onlara yalnızca bir görevin gerektirdiği depoları, araçları ve ekranları verin.
  • Ajanların herkese açık depolara gönderme yapmasını kısıtlayın veya herhangi bir herkese açık yazma işlemi için insan onayı gerektirin.
  • Ajanların ekran görüntüsü yakaladığı ortamlarda verileri maskeleyin veya sentetik veri kullanın.
  • Kuruluşunuzla ilişkili herkese açık depoları, personelin kişisel hesapları dahil, başıboş görseller ve dosyalar için tarayın.
  • Bir ajanın okuduğu her içeriği güvensiz olarak değerlendirin, çünkü istem enjeksiyonu davranışını yönlendirebilir.

Bireyler için:

  • Benzersiz parolalar kullanın ve çok faktörlü kimlik doğrulamayı etkinleştirin, böylece açığa çıkan hesap bilgileri daha az işe yarar.
  • Gerçek siparişlere veya hesap etkinliğine atıfta bulunan ihlal bildirimlerine ve beklenmedik e-postalara dikkat edin; bunlar sızdırılan materyalden oluşturulmuş kimlik avına işaret edebilir.
  • Yalnızca bir hizmetin gerçekten ihtiyaç duyduğu kişisel bilgileri paylaşın.

Önemli çıkarımlar

Bu raporların arkasındaki hikaye, AI'nın doğası gereği pervasız olduğu değil. Hikaye, net sınırlar olmadan otomasyonun küçük dikkatsizlikleri büyük, herkese açık açıklara dönüştürmesidir. AI ajanlarının dahili ekran görüntülerini nasıl sızdırdığını anlamak, hem şirketlerin hem de müşterilerin hassas verilerin nereye gidebileceği konusunda daha iyi sorular sormasına yardımcı olur.

AI kaynaklı açıkların ve AI destekli saldırıların nasıl geliştiğini takip etmek için daha geniş bağlam için ThreatsDay özetini ve AI fidye yazılımı ve sızdıran test modelleri raporumuzu okuyun.