Yapay Zeka (AI) tarayıcılar çekiş kazanıyor, yani “hızlı enjeksiyon” adı verilen bir şeyin potansiyel tehlikeleri hakkında endişelenmeye başlamamız gerekebilir.
Büyük dil modelleri (LLM’ler) – Chatgpt, Claude ve Gemini dahil olmak üzere AI chatbot’ları güçlendirenler gibi – insanların bilgi bakarken veya bir konuda yardım alırken sağladığı talimatlar ve sorular olan “istemleri” takip etmek için tasarlanmıştır. Bir sohbet botunda, AI’ya sorduğunuz sorular “istemler” dir. Ancak AI modelleri, kullanıcılardan gelen istek türlerinden sadece gözleri için tasarlanan komut türlerini (örneğin, doğrudan geliştiricilerden gelen gizli arka plan kuralları, “fidye yazma” gibi) anlatmakta harika değildir.
Buradaki riskleri sergilemek için, Leo adlı kendi AI asistanı olan Web tarayıcı geliştiricisi Cesur, bir AI tarayıcısını kullanıcılara zarar veren tehlikeli istemleri okumak için kandırıp kandırmayacağını yeniden test etti. Ve bu hafta bir blogda yazdıkları gibi şirketin ne bulduğu alarm verdi:
“Kullanıcılar AI tarayıcılarıyla rahatça büyür ve bankacılık, sağlık hizmetleri ve diğer kritik web siteleri gibi oturumlarda oturumlarda hassas verilerle güvenmeye başladıkça riskler çoğalır. Ya model, talep etmediğiniz eylemleri veya daha da kötüsü, bir sosyal medya sitesinde bırakılan bir sosyal medya sitesinde kalan bir yorum yaparak, hoşgörü görünümlü bir web sitesi veya diğer bir yorum yaparsa,” ya da daha da kötüsü?
Hızlı enjeksiyon, temel olarak, birisinin sıradan bir konuşma veya veri şeklinde dikkatlice hazırlanmış girdi eklediği, bir AI’yı yapmak veya yapmak istemediği bir şeyi yapmaya zorlamak veya açıkça zorlamak için bir hiledir.
Hızlı enjeksiyonu eski okul hacklemesinden ayıran şey, buradaki silahın kod değil dil olmasıdır. Saldırganların sunuculara girmeleri veya geleneksel yazılım hataları aramaları gerekmez, sadece kelimelerle akıllı olmaları gerekir.
Bir AI tarayıcısı için, girişin bir kısmı ziyaret ettiği sitelerin içeriğidir. Bu nedenle, insan kullanıcıları için zararsız veya görünmez görünen ancak komut bağlamlarının bir parçası olarak AI tarayıcıları tarafından işlenen içeriğe kötü niyetli talimatları yerleştirerek Web sayfalarındaki dolaylı hızlı enjeksiyonları gizlemek mümkündür.
Şimdi bir AI tarayıcısı ile bir ajan tarayıcı arasındaki farkı tanımlamamız gerekiyor. AI tarayıcısı, kullanıcılara yardımcı olmak için yapay zeka kullanan herhangi bir tarayıcıdır. Bu, soruları cevaplamak, makaleleri özetlemek, önerilerde bulunmak veya aramalara yardımcı olmak anlamına gelebilir. Bu araçlar kullanıcıyı destekler, ancak genellikle bazı manuel rehberliğe ihtiyaç duyar ve yine de görevleri onaylamak veya tamamlamak için kullanıcıya güvenir.
Ancak, daha yakın zamanlarda, yapay zeka tarafından desteklenen yeni bir web tarayıcısı olan ve web sitelerini görüntülemekten çok daha fazlasını yapmak için tasarlanmış yeni bir web tarayıcısı olan artan tarayıcıların yükselişini görüyoruz. Bu tarayıcılar, tüm iş akışlarını devralacak şekilde tasarlanmıştır, kullanıcı müdahalesi çok az veya hiç olmayan karmaşık çok aşamalı görevleri yürütür, yani kullanıcı için görevleri yerine getirmek için siteleri kullanabilir ve etkileşime girebilirler, neredeyse bir çevrimiçi asistana sahip olmak gibi. Tıklamalar ve manuel talimatlar beklemek yerine, ajan tarayıcılar web sayfalarında gezinebilir, formları doldurabilir, satın alma veya randevuları kullanıcının başarmak istediğine bağlı olarak kendi başlarına kitap yapabilir.
Örneğin, “önümüzdeki ay Paris’e en ucuz uçuş bulup rezervasyona uğradığını” söylediğinizde, tarayıcı tüm araştırmaları yapacak, fiyatları karşılaştıracak, yolcu ayrıntılarını dolduracak ve rezervasyonu ekstra adımlar veya manuel çaba olmadan tamamlayacak – kullanıcı beslemesi için gerekli tüm ayrıntılara sahip olacak.
Burada hızlı enjeksiyonların potansiyel tehlikelerini görüyor musunuz?
Ya bir web sitesini ziyaret ederken ajan tarayıcısım yeni ayrıntılar alırsa? Suçluların sadece ziyaretçileri çekmek için son derece rekabetçi fiyatlandırmaya sahip bir web sitesi kurduğunu hayal edebiliyorum, ancak asıl amaç, Ajan tarayıcısının sizin adınıza satın alması gereken ödeme bilgilerini elde etmektir. Fransa’ya başka birinin tatili için ödeme yapabilirsiniz.
Araştırmaları sırasında Brave, şaşkınlığın kuyruklu yıldızının “tarayıcılarda ajanik AI uygulamalarının karşılaştığı güvenlik zorluklarının altını çizen” bazı güvenlik açıkları olduğunu buldu.
Güvenlik açıkları, dolaylı istemi enjeksiyonuna dayalı bir saldırıya izin verir, bu da kötü niyetli talimatların, kullanıcının isteğini yerine getirmenin bir parçası olarak tarayıcı AI asistanı işlemlerinin harici içeriğe (bir web sitesi veya PDF gibi) gömüldüğü anlamına gelir. Bu kötü niyetli içeriği rahat bir incelemeden saklamanın çeşitli yolları vardır. BRAVE, AI tarayıcılarının okuma problemleri olmayan beyaz bir arka plan üzerinde beyaz metin örneğini kullanır ve bir insanın daha yakından incelenmeden görmeyeceği.
Bir kullanıcıyı x üzerinden alıntı yapmak için:
“Kelimenin tam anlamıyla istemi enjekte edebilirsiniz ve banka hesabınız Reddit’te Doomscrolling tarafından boşaltılabilir”
Bu tür hızlı enjeksiyonu önlemek için, aracı tarayıcıların, talimatları yerine getirmek ve bunları buna göre tedavi etmek için işlenen kullanıcı tarafından sağlanan talimatlar ile Web içeriği arasındaki farkı anlamaları zorunludur.
Şaşkınlık, Brave tarafından bildirilen kırılganlığı düzeltmek için iki kez girişimde bulundu, ancak bu raporlama zamanından itibaren bu tür bir saldırıyı tam olarak azaltmadı.
Ajan tarayıcılarının güvenli kullanımı
Her zaman en son araçları kullanmak cazip olsa da, bu belirli bir riskle birlikte gelir. Ajan tarayıcıları kullanırken bu riskleri sınırlamak için:
- İzinlerle dikkatli olun: Yalnızca kesinlikle gerektiğinde hassas bilgilere veya sistem kontrollerine erişim verin. Ajan tarayıcısının mümkün olduğunca hangi verileri veya hesapları erişebileceğini ve izinlere sınırlandırabileceğini inceleyin.
- Bağlantılara veya komutlara güvenmeden önce kaynakları doğrulayın: Tarayıcının alışılmadık web siteleri veya içerik ile otomatik olarak etkileşime girmesine izin vermekten kaçının. URL’leri dikkatlice kontrol edin ve ani yönlendirmelere veya beklenmedik girdi isteklerine karşı dikkatli olun.
- Yazılımı güncel tutun: Ajan tarayıcısının ve ilgili AI araçlarının, güvenlik yamalarından ve hızlı enjeksiyon istismarlarına karşı iyileştirmelerden yararlanmak için her zaman en son sürümleri çalıştırdığından emin olun.
- Güçlü kimlik doğrulama ve izleme kullanın: Çok faktörlü kimlik doğrulama ile ajan tarayıcılarına bağlı hesapları koruyun ve olağandışı davranışı erken tespit etmek için etkinlik günlüklerini düzenli olarak inceleyin.
- Hızlı enjeksiyon riskleri konusunda kendinizi eğitin: Güvenli AI etkileşimleri için en son tehditler ve en iyi uygulamalar hakkında bilgi sahibi olun. Farkında olmak, sömürü önlemenin ilk adımıdır.
- Hassas işlem otomasyonunu sınırlayın: Manuel inceleme olmadan yüksek bahisli işlemleri veya işlemleri tam olarak otomatikleştirmekten kaçının. Ajan tarayıcılar yardımcı olmalı, ancak kritik kararlar insan gözetiminden yararlanır. Örneğin: Açık izniniz olmadan harcayabileceği para miktarını sınırlayın veya her zaman ödemeleri yetkilendirmenizi istemesine izin verin.
- Şüpheli Davranışı Bildirin: Bir aracı tarayıcı öngörülemez davranırsa veya garip izinler isterse, soruşturma için derhal geliştiricilere veya güvenlik ekiplerine bildirin.
Sadece tehditler hakkında rapor vermiyoruz, onları kaldırıyoruz
Siber güvenlik riskleri asla bir başlığın ötesine yayılmamalıdır. Bugün MalwareBebytes’i indirerek tehditleri cihazlarınızdan uzak tutun.