Aracı tarayıcılar: güvenlik garantisi yok

İki gün önce Anthropic , Claude'u bir yapay zeka aracısı olarak kullanmanıza olanak tanıyan bir Chrome eklentisi yayınladı . Deneysel bir teknoloji olduğu için şu anda yalnızca 1.000 Max plan abonesi erişebiliyor. 2022'de "hızlı enjeksiyon" terimini ortaya atan araştırmacı Simon Willison'a göre, aracı tabanlı tarayıcılar asla tamamen güvenli olmayacak.

Hiçbir zaman güvenli bir yapay zeka tarayıcısı olmayacak

Chrome için Claude (masaüstü), sohbet robotunun kullanıcı adına web sitelerini okumasına, tıklamasına ve gezinmesine olanak tanıyan bir eklentidir. Anthropic, ilgili risklerin farkındadır. Duyuru gönderisinde, eklentinin herkes tarafından erişilebilir hale getirilmesinden önce çeşitli güvenlik açıklarının giderilmesi gerektiği belirtilmektedir . Özellikle, aracı tabanlı tarayıcılar hızlı enjeksiyon saldırılarına karşı hassastır.

Guardio ve Brave uzmanlarının Perplexity Comet ile gösterdiği gibi, siber suçlular, yapay zeka aracısının kullanıcı müdahalesi olmadan çalıştırdığı e-postalara, mesajlara, web sayfalarına, sosyal medya gönderilerine ve yorumlara komut istemleri gizleyebilir. Bu sayede kişisel verileri çalabilir, hesaplara giriş yapabilir veya alışveriş yapabilirler.

Anthropic, talimatların yanlış yorumlanması ve hatalı yanıtlar da dahil olmak üzere diğer risklerin bir listesini yayınladı. Kaliforniya merkezli şirket, 29 saldırı türünü temsil eden 123 test gerçekleştirdi. Önlem alınmadan yapılan saldırılar, vakaların %23,6'sında başarılı oldu. Önlemler uygulandıktan sonra bu oran %11,2'ye düştü.

Araştırmacı Simon Willison'a göre, %11,2 hâlâ "felaket" bir oran. Anthropic, Chrome eklentisinin yüzde sıfıra yaklaştığında herkesin kullanımına sunulacağını vurguluyor. Ancak Willison, aracı tabanlı tarayıcıların asla %100 güvenlik garantisi veremeyeceğine inanıyor.