Sıfır Tıklama Yapay Zeka Tarayıcı Hackleme Claude ve ChatGPT Atlas'ı Vurdu
Zenity'deki güvenlik araştırmacıları, Anthropic'in Chrome uzantısındaki Claude ve OpenAI'ın ChatGPT Atlas tarayıcısını ele geçirebilen iki sıfır tıklama yapay zeka tarayıcı hackleme tekniğini açıkladı. Kullanıcının kötü amaçlı bir bağlantıya tıklamasını veya bir eklenti açmasını gerektiren geleneksel oltalama saldırılarının aksine, bu yöntemlerin yalnızca yapay zeka aracısının özel olarak hazırlanmış bir e-postayı veya bir X gönderisini okumasıyla çalıştığı bildiriliyor; yapay zekanın sizin adınıza içeriklere göz atmak üzere tasarlanmış olması dışında hiçbir kullanıcı etkileşimi gerekmiyor.
Bu ayrım önemlidir. Sıfır tıklama yapay zeka tarayıcı hackleme, saldırı yüzeyini insan kullanıcıdan yapay zeka aracısının kendisine kaydırır. Bir asistana gelen kutunuzu okuma, web sayfalarını özetleme veya bir tarayıcı oturumunda eylemler gerçekleştirme izni verilmişse, karşılaştığı herhangi bir içerik gizli talimatlar için potansiyel bir dağıtım mekanizması haline gelir. SecurityWeek'in haberine göre Zenity'nin araştırması, hem Chrome'daki Claude'un hem de ChatGPT Atlas'ın bu tür manipülasyona karşı savunmasız olduğunu gösteriyor.
Saldırıların Bildirildiği Kadarıyla Nasıl Çalıştığı
Yapay zeka tarayıcı uzantıları ve Atlas gibi aracı tarayıcılar, web'deki e-postalar, sosyal gönderiler ve gömülü sayfa metinleri dahil olmak üzere içerikleri okumak, yorumlamak ve bunlara göre eylemde bulunmak üzere tasarlanmıştır. Bu işlevsellik, bu araçların tüm satış noktasıdır. Ancak bu aynı zamanda yapay zekanın, kullanıcısından gelen meşru bir talimat ile işlediği bir web sayfasına, e-posta gövdesine veya sosyal medya gönderisine gizlenmiş gizli bir talimatı her zaman ayırt edemediği anlamına gelir.
Bu güvenlik açığı sınıfı genellikle istem enjeksiyonu olarak adlandırılır. Saldırgan, insan okuyucuya zararsız görünen ancak yapay zeka modeli tarafından bir komut olarak yorumlanacak şekilde özel olarak tasarlanmış metin içeren bir içerik hazırlar. Yapay zeka tarayıcısı veya uzantısı, bu içeriği rutin bir görevin parçası olarak işlediğinde (bir e-posta dizisini özetleme, bir web sitesini kontrol etme, bir zaman tünelinde gezinme), kullanıcının asla onaylamadığı talimatları yürütmesi için kandırılabilir.
Habere göre Zenity'nin bulguları sadece iki izole hatanın ötesine uzanıyor. Firma, yapay zeka tarayıcılarındaki daha geniş bir zayıflık kümesini inceliyor ve çalışması, henüz piyasada yeni olan aracı gezinme araçlarının, savunmaları tam olarak olgunlaşmadan önce güvenlik açıkları için incelendiğini gösteren büyüyen bir araştırma grubuna ekleniyor. Bu, güvenilir platformlardaki sıfır gün açıklarının yamalar yetişmeden istismar edildiği diğer yazılım güvenliği örneklerinde görülen bir modeli yansıtıyor; örneğin Rus devlet destekli bilgisayar korsanlarının NATO bağlantılı e-posta hesaplarını hedeflemek için bir Zimbra sıfır gün açığını istismar etmesi vakasında olduğu gibi.
Bu, Gizlilik İçin Neden Önemli
Yapay zeka tarayıcı asistanları üretkenlik araçları olarak pazarlanır: e-postalarınızı okur, sekmelerinizi özetler ve hatta sizin için form doldurma veya sitelerde gezinme gibi eylemler gerçekleştirebilir. Bu erişim seviyesi, sıfır tıklama yapay zeka tarayıcı hacklemeyi gizlilik açısından tam da bu kadar endişe verici kılan şeydir. Bir saldırgan, yapay zekanın karar verme sürecini yalnızca karşılaştığı içerik aracılığıyla ele geçirebilirse, kurbanın herhangi bir şeye tıklamasına gerek kalmadan, yapay zekanın görmeye veya yapmaya yetkili olduğu her şeyde potansiyel olarak bir dayanak elde eder.
Bu, çoğu insanın karşı korunmaya alışkın olduğu kimlik bilgisi hırsızlığı veya kötü amaçlı yazılım teslimi saldırılarından temelde farklı bir tehdit modelidir. Bir kişiyi kandırmaya dayanmaz; o kişi adına hareket eden yazılımı kandırmaya dayanır. Güvenilir yerel yazılımın bir hedef haline geldiği diğer bağlamlarda da benzer dinamikler görülmüştür; örneğin meşru bir Kore bankacılık güvenlik aracının bir sıfır gün istismarı yoluyla bir saldırı vektörüne dönüştürülmesi gibi. Ortak nokta: kullanıcılara yardımcı olmak için tasarlanmış araçlar, güven sınırları hava geçirmez olmadığında saldırganlar tarafından yeniden amaçlandırılabilir.
Bu Sizin İçin Ne Anlama Geliyor
Chrome'daki Claude veya ChatGPT Atlas gibi yapay zeka tarayıcı uzantıları veya aracı gezinme araçları kullanıyorsanız, bu açıklama onlara hangi izinleri verdiğinizi dikkatlice düşünmeniz için bir hatırlatmadır. Bu araçlar tam da içeriği otomatik olarak okuyup eyleme geçebildikleri için güçlüdür, ancak aynı otomasyon, manipülasyona karşı doğal bir kontrol işlevi gören bir insan muhakemesi katmanını ortadan kaldırır.
Şimdilik, pratik yanıt panik yerine ihtiyattır. Yapay zeka tarayıcı aracılarına verdiğiniz erişimin kapsamını, özellikle e-posta veya finans platformları gibi hassas hesaplara olan erişimi sınırlayın. Bu uzantıları ve tarayıcıları güncel tutun, çünkü satıcılar araştırmacılar tarafından sorumlu bir şekilde bildirildikten sonra genellikle açıklanan güvenlik açıklarını yamalar. Ve tanıdık olmayan göndericilerden veya hesaplardan gelen içeriklerin, sıradan bir metin gibi görünse bile, sizin yerine yapay zekanın gözleri için hazırlanmış olabileceğini unutmayın.
Önemli Noktalar
- Sıfır tıklama yapay zeka tarayıcı hackleme, saldırganların Chrome'daki Claude ve ChatGPT Atlas gibi yapay zeka aracılarını, özel olarak hazırlanmış e-postalar veya sosyal gönderiler aracılığıyla hiçbir kullanıcı tıklaması olmadan ele geçirmesine olanak tanır.
- Teknik, yapay zeka aracılarının içeriği işleme ve eyleme geçirme biçimini istismar eder; bu güvenlik açığı sınıfı istem enjeksiyonu olarak bilinir.
- Yapay zeka tarayıcı asistanlarına, özellikle e-posta ve hesap erişimi konusunda verdiğiniz izinleri gözden geçirin ve sınırlayın.
- Yapay zeka tarayıcı araçlarını güncel tutun ve bu açıklamanın ardından satıcıların güvenlik yamalarını takip edin.
- Kişisel veya kurumsal gizlilik duruşunuzu değerlendirirken yapay zeka aracılarını yalnızca bir kolaylık özelliği olarak değil, saldırı yüzeyinizin bir parçası olarak değerlendirin.
