Google Chrome, Gemini AI aracılı tarama için yeni güvenlik katmanı ekliyor

Google, Gemini tarafından desteklenen yakında çıkacak ajansal AI tarama özelliklerini korumak için Chrome tarayıcısına ‘Kullanıcı Hizalama Eleştirmeni’ adı verilen yeni bir savunma katmanını sunuyor.

Aracılı tarama, bir yapay zeka aracısının, sitelerde gezinmek, içeriklerini okumak, düğmelere tıklamak, formları doldurmak ve bir dizi eylemi gerçekleştirmek de dahil olmak üzere web üzerinde kullanıcı için çok adımlı görevleri özerk bir şekilde gerçekleştirmek üzere yapılandırıldığı, yeni ortaya çıkan bir moddur.

Kullanıcı Hizalama Eleştirmeni, “yüksek güvene sahip sistem bileşeni” görevi gören, güvenilmeyen içerikten izole edilmiş ayrı bir LLM modelidir.

Gemini, Google’ın metin, medya ve kod oluşturabilen yapay zeka asistanıdır. Android ve çeşitli Google hizmetlerinde kullanılmakta olup Eylül ayından itibaren Chrome’a ​​entegre edilmiştir.

O zamanlar Google, Gemini aracılığıyla Chrome’a ​​aracılı tarama özellikleri eklemeyi planladığını duyurmuştu ve şimdi şirket, bunu korumak için yeni bir güvenlik mimarisi sunuyor.

Google mühendisi Nathan Parker tarafından duyurulan yeni mimari, kötü amaçlı sayfa içeriğinin AI aracılarını kullanıcı verilerini açığa çıkaran veya sahte işlemleri kolaylaştıran güvenli olmayan eylemler gerçekleştirmeye yönlendirdiği dolaylı istem enjeksiyonu riskini azaltıyor.

Parker, yeni güvenlik sisteminin deterministik kuralları, model düzeyinde korumaları, izolasyon sınırlarını ve kullanıcı gözetimini birleştiren katmanlı bir savunma yaklaşımını içerdiğini açıklıyor.

Yeni mimarinin ana sütunları:

• Kullanıcı Hizalama Eleştirmeni – Kötü niyetli istemlerle “zehirlenemeyen” ikinci, izole bir Gemini modeli, meta verileri inceleyerek ve güvenliğini bağımsız olarak değerlendirerek birincil AI aracısının yapmak istediği her eylemi inceleyecek. Eylemin riskli veya kullanıcının belirlediği hedefle alakasız olduğu düşünülürse, yeniden deneme emri verilir veya kontrolü kullanıcıya geri verir.

• Köken Setleri – Temsilcinin web’e erişimini kısıtlar ve yalnızca belirli siteler ve öğelerle etkileşime izin verir. İframe’ler de dahil olmak üzere ilgisiz kaynaklar tamamen gizlenir ve güvenilir bir geçiş fonksiyonunun yeni kaynakları onaylaması gerekir. Bu, siteler arası veri sızıntısını önler ve güvenliği ihlal edilmiş bir ajanın patlama yarıçapını sınırlar.

• Kullanıcı gözetimi – Aracı, bankacılık portalları gibi hassas siteleri ziyaret ettiğinde veya saklanan şifrelere erişmek için Şifre Yöneticisinde oturum açılmasını gerektirdiğinde, Chrome süreci duraklatır ve kullanıcıdan işlemi manuel olarak onaylamasını ister.

• Hızlı enjeksiyon tespiti – Chrome’daki özel bir sınıflandırıcı, dolaylı bilgi istemi ekleme girişimleri için sayfaları tarar. Bu sistem, Güvenli Tarama ve cihaz içi dolandırıcılık tespitiyle birlikte çalışarak şüpheli kötü amaçlı eylemleri veya dolandırıcılık içeriğini engeller.

Aracılı taramaya yönelik bu katmanlı savunma yaklaşımı, Google’ın, yüksek lisans öğrencilerine tarayıcıya erişim izni verme konusunda, araştırmacıların kimlik avına, anlık enjeksiyon saldırılarına ve sahte mağazalardan satın almaya karşı savunmasız olduğunu gösterdiği benzer ürün satıcılarına göre daha dikkatli olduğunu gösteriyor.

Google ayrıca, savunmaları sürekli olarak test etmek ve gerektiğinde yenilerini geliştirmek için test siteleri ve LLM odaklı saldırılar oluşturan ve Chrome’un otomatik güncelleme mekanizması aracılığıyla kullanıcılara hızlı bir şekilde iletilen otomatik kırmızı ekip oluşturma sistemleri de geliştirmiştir.

Google, “Finansal işlemler veya hassas kimlik bilgilerinin sızdırılması gibi kalıcı zararlara yol açabilecek saldırılara da öncelik veriyoruz” diyerek mühendislerinin saldırı başarı oranı hakkında anında geri bildirim alacağını ve Chrome’un otomatik güncelleme mekanizması aracılığıyla sağlanan düzeltmelerle hızlı bir şekilde yanıt verebileceklerini ekledi.

Bu alanda güvenlik araştırmalarını teşvik etmek için Google, yeni sistemi kırabilecek herkese 20.000 ABD Dolarına kadar ödül ödeneceğini duyurdu ve topluluğu Chrome’da sağlam bir aracılı tarama çerçevesi oluşturma çabasına katılmaya çağırdı.