Güvenlik araştırmacıları, Google Gemini’de, tehdit aktörlerinin gizli kötü amaçlı talimatları e -postalara yerleştirmesini sağlayan önemli bir güvenlik açığı ortaya çıkardılar.
Saldırı, AI asistanının Google’ın kendisinden kaynaklanan fabrikasyon güvenlik uyarılarını görüntülemek için “Bu E -postayı Özetle” özelliğinden yararlanarak potansiyel olarak kimlik hırsızlığı ve sosyal mühendislik saldırılarına yol açıyor.
Key Takeaways
1. Attackers hide malicious instructions in emails using invisible HTML/CSS that Gemini processes when summarizing emails.
2. Attack uses only crafted HTML with tags—no links, attachments, or scripts required.
3. Gemini displays attacker-created phishing warnings that appear to come from Google, tricking users into credential theft.
4. Vulnerability affects Gmail, Docs, Slides, and Drive, potentially enabling AI worms across Google Workspace.
Güvenlik açığı, bulgularını 0xe24d9e6b teslim kimliği altında 0din’e gönderen bir araştırmacı tarafından gösterilmiştir. Saldırı, E-posta mesajlarına gömülü hazırlanmış HTML ve CSS kodu aracılığıyla Gemini’nin AI işleme yeteneklerini manipüle eden hızlı bir enjeksiyon tekniğinden yararlanıyor.
Geleneksel kimlik avı denemelerinden farklı olarak, bu saldırı, e -posta gövdesi içinde gizlenmiş sadece özel olarak biçimlendirilmiş metin, bağlantı, ek veya harici komut dosyası gerektirmez.
Saldırı, Gemini’nin gizli HTML direktiflerine yönelik muamelesini kullanarak çalışıyor. Saldırganlar içindeki talimatları yerleştirir
Mağdurlar Gemini’nin “Bu e -postayı özetleyin” özelliğini tıkladığında, AI asistanı gizli direktifi meşru bir sistem komutu olarak işler ve saldırganın fabrikasyon güvenlik uyarısını özet çıktısında sadakatle yeniden üretir.
Çalışma alanı güvenlik açığı için Google Gemini
Güvenlik açığı, AI modeline verilen harici içerik, etkili istemin bir parçası haline gelen gizli talimatlar içerdiği bir dolaylı istemi enjeksiyonunu (IPI) temsil eder. Güvenlik uzmanları, 0din taksonomisi altındaki bu saldırıyı ılımlı bir sosyal etki puanı ile “Stratagems → Meta-Hasta → Aldatıcı Biçimlendirme” olarak sınıflandırır.
Kavram kanıtı örneği, saldırganların e-posta özetlerine acil güvenlik uyarıları eklemek için İkizler’i yönlendiren yönetici tarzı talimatlar içeren görünmez açıklıklar ekleyebileceğini göstermektedir.
Bu uyarılar genellikle alıcıları belirli telefon numaralarını çağırmaya veya web sitelerini ziyaret etmeye çağırarak kimlik bilgisi hasat veya ses aklama şemalarını mümkün kılar.
Güvenlik açığı, Dokümanlar, Slaytlar ve Arama Arama İşlevleri de dahil olmak üzere Google çalışma alanında İkizler Entegrasyonunu potansiyel olarak etkilemek için Gmail’in ötesine uzanır. Bu, Gemini tarafından işlenen üçüncü taraf içeriği içeren herhangi bir iş akışının potansiyel bir enjeksiyon vektörü olabileceği önemli bir çapraz ürün saldırısı yüzeyi yaratır.
Güvenlik araştırmacıları, tehlikeye atılan SaaS hesaplarının otomatik bültenler, CRM sistemleri ve biletleme e -postaları aracılığıyla “binlerce kimlik avı işaretine” dönüşebileceği konusunda uyarıyor.
Teknik ayrıca, bireysel kimlik avı girişimlerinden özerk yayılmaya yükselen, e-posta sistemleri arasında kendi kendine kopya yapabilen gelecekteki “AI solucanları” ile ilgili endişeleri de gündeme getirmektedir.
Hafifletme
Güvenlik ekiplerine, görünmez stil, LLM güvenlik duvarı yapılandırmaları ve şüpheli içerik için İkizler çıkışını tarayan işleme sonrası filtreler dahil olmak üzere gelen HTML lirasyonu dahil olmak üzere çeşitli savunma önlemleri uygulamaları tavsiye edilir.
Kuruluşlar ayrıca AI özetlerinin yetkili güvenlik uyarıları yerine bilgilendirici olduğunu vurgulamak için kullanıcı farkındalık eğitimini geliştirmelidir.
Google gibi AI sağlayıcıları için önerilen azaltma, yutulmada HTML dörektifikasyonu, AI tarafından oluşturulan metni kaynak materyalden ayırmak için gelişmiş bağlam ilişkilendirmesi ve kullanıcılara gizli istemleri ortaya çıkaran gelişmiş açıklanabilirlik özelliklerini içerir.
Bu güvenlik açığı, AI asistanlarının saldırı yüzeyinin yeni bir bileşenini temsil ettikleri ve güvenlik ekiplerinin enstrüman, sanal alan ve çıktılarını potansiyel tehdit vektörleri olarak dikkatlice izlemesini gerektiren ortaya çıkan gerçeğin altını çiziyor.
Canlı kötü amaçlı yazılım davranışını araştırın, bir saldırının her adımını izleyin ve daha hızlı, daha akıllı güvenlik kararlarını alın -> Herhangi birini deneyin. Şimdi