Araştırmacılar, Google’ın teknoloji devinin çalışma alanı verimlilik paketi ile birlikte paketlenmiş İkizler Yapay Zekası, e -postaların içinde gizlenmiş kötü amaçlı talimatların yürütülmesi için kandırılabilir.
Güvenlik açığı, Mozilla Vakfı’nın 0din Genai Bug Bounty platformunda yayınlandı ve isimsiz bir araştırmacı, bir kullanıcı bir e -posta açtığında sahte bir güvenlik uyarısını tetikleyen bir kimlik avı saldırısı gösterdi ve bunu özetlemek için İkizler kullanıyor.
Saldırı beyaz üzerine beyaz metin kullandığından, Gmail’deki kullanıcılara mesajlarda hızlı enjeksiyon görünmez.
Ayrıca, talimatları bir etiketle sararak, bir saldırgan Gemini’nin sistem hızlı hiyerarşisini kullanabilir: AI, etiket içindeki talimatları daha yüksek pratik bir yönerge olarak ele alacaktır.
Güvenlik açığı gösterisinde araştırmacı, aranacak bir telefon numarası ile makul görünümlü bir güvenlik uyarısı hazırlamıştı.
Bir kullanıcı “Bu e -postayı özetle” ni tıklatırsa Gemini Güvenlik uyarısını görüntüler.
0din’in Teknik Ürün Müdürü Marco Figueroa, benzer saldırıların ilk olarak geçen yıl bildirildiğini ve Google’ın bu yıl Haziran ayında ayrıntılı hafifletmeleri yayınladığını belirtti.
Ancak Figueroa, tekniğin bugün uygulanabilir kaldığını söyledi.
Figueroa ayrıca Google çalışma alanının Dokümanlar, Slaytlar, Drive Arama gibi diğer bölümlerine, Gemini’nin üçüncü taraf içeriğini benzer hızlı enjeksiyon saldırılarına karşı korunmasız olarak aldığı yönlendirdi.
Teknik ürün yöneticisi, bültenler, müşteri ilişkileri yönetim sistemleri ve otomatik bilet e -postaları da derhal enjeksiyon vektörleri haline gelebilir, “tehlikeye atılan bir SaaS hesabını binlerce kimlik avı işaretine dönüştürebilir” diye yazdı.
Figueroa, “Güvenlik ekipleri AI asistanlarına saldırı yüzeyinin bir parçası olarak davranmalı ve bunları enstrüman olmalı, bunları sanaldan alan ve asla çıktılarının iyi huylu olduğunu varsaymalıdır.” Dedi.
Yukarıdaki güvenlik açığı ılımlı risk ve toplu spam ile ölçekler olarak derecelendirilmiştir, ancak kullanıcı etkileşimi gerektiren bir şeydir.