Agent Tabanlı Tarayıcılarda Prompt Injection Saldırıları

Perplexity Comet ve Fellou gibi agent tabanlı browser'larda tespit edilen yeni saldırı vektörleri bize ne söylüyor biraz düşünelim.

Brave'in güvenlik araştırmacıları tarafından açıklanan bulgular, sarı arka plan üzerinde açık mavi renkte yazılmış ve insan gözüyle neredeyse fark edilemeyen talimatların, OCR veya benzeri metin tanıma teknolojileri aracılığıyla doğrudan LLM'e iletildiğini ortaya koyuyor. Sistem bu gizli komutları güvenilir kullanıcı girdisi olarak değerlendiriyor ve kötü niyetli talimatları yerine getiriyor. Bu akış başlı başına ciddi bir sorun.

Daha da endişe verici olan, Fellou tarayıcısında keşfedilen zafiyet. Kullanıcı sadece bir web sitesine gitmesini istediğinde, tarayıcı o sitenin içeriğini otomatik olarak LLM'e gönderiyor ve kötü niyetli talimatlar kullanıcının gerçek amacını manipüle edebiliyor. Artık bir Reddit yorumu okumak bile banka hesabınıza yetkisiz erişim anlamına gelebilir. Same-origin policy gibi onlarca yıldır bizi koruyan güvenlik mekanizmaları, AI agent'ları devreye girdiğinde anlamsızlaşıyor çünkü bu agent'lar kullanıcının kimlik bilgileriyle hareket ediyor.

Bu durumlarla alakalı gözlemlediğim kritik sorun şu: Güvenilir kullanıcı girdisi ile güvenilmeyen web içeriği arasındaki sınırların LLM promptlarında yeterince net çizilememesi. Bu, mimari bir kusur ve çözümü de mimari düzeyde ele almayı gerektiriyor. Her iki tarayıcıda da aynı temel zaafiyetin farklı varyasyonlarını görmemiz, bunun izole bir sorun değil, sektör genelinde sistemik bir problem olduğunu gösteriyor.

Brave'in önerdiği gibi, agent tabanlı browser ortamlarının normal tarayıcı oturumlarından tamamen izole edilmesi ve yalnızca kullanıcının açık onayıyla aktif hale gelmesi, kısa vadede alınabilecek en kritik önlemlerden biri. Ancak uzun vadeli çözüm, LLM tabanlı sistemlerin güvenilir ve güvenilmeyen veri kaynaklarını kategorik olarak ayırt edebilmesini sağlayacak yeni güvenlik paradigmalarının geliştirilmesinden geçiyor.

AI sistemlerinin yetenekleri arttıkça, saldırı yüzeyimiz de katlanarak büyüyor. Bu teknolojileri geliştiren şirketlerin güvenlik-öncelikli bir yaklaşım benimsemesi artık bir tercih değil, zorunluluk. Aksi takdirde, yapay zeka destekli sistemler en büyük yardımcımız yerine en büyük açığımız haline gelecek.