Yakın zamanda yapılan bir araştırma, çeşitli Google ürünlerine entegre edilmiş çok yönlü bir yapay zeka asistanı olan Google Gemini for Workspace’in dolaylı anlık enjeksiyon saldırılarına karşı duyarlı olduğunu ortaya çıkardı.
Bu güvenlik açıkları, kötü niyetli üçüncü tarafların asistanı yanıltıcı veya istenmeyen yanıtlar üretecek şekilde manipüle etmesine olanak tanır ve bu, bu chatbot tarafından oluşturulan bilgilerin güvenilirliği ve güvenilirliği konusunda ciddi endişelere yol açar.
Gemini for Workspace, yapay zeka destekli araçları Gmail, Google Slaytlar ve Google Drive gibi Google ürünlerine entegre ederek üretkenliği artırmak için tasarlanmıştır.
Ancak Gizli Katman araştırmacıları, ayrıntılı kavram kanıtlama örnekleri aracılığıyla, saldırganların hedef Gemini örneğinin oluşturduğu yanıtların bütünlüğünü tehlikeye atmak için dolaylı istem ekleme güvenlik açıklarından yararlanabileceğini gösterdi.
Bu güvenlik açıklarının en endişe verici yönlerinden biri, kimlik avı saldırıları gerçekleştirme yeteneğidir.
Küçük İşletmelerin Gelişmiş Siber Tehditlere Karşı Nasıl Korunacağı Konusunda Ücretsiz Web Semineri -> Ücretsiz Kayıt
Örneğin saldırganlar, Gemini for Workspace tarafından işlendiğinde asistanın, ele geçirilen parolalarla ilgili sahte uyarılar ve parolaları sıfırlamak için kötü amaçlı web sitelerini ziyaret etme talimatları gibi yanıltıcı mesajlar görüntülemesine neden olan kötü amaçlı e-postalar oluşturabilir.
Ayrıca araştırmacılar, bu güvenlik açıklarının Gmail’in ötesinde diğer Google ürünlerine de yayıldığını gösterdi.
Örneğin, Google Slaytlar’da saldırganlar, konuşmacı notlarına kötü amaçlı veriler enjekte ederek Gemini for Workspace’in ünlü bir şarkının sözleri gibi istenmeyen içerik içeren özetler oluşturmasına neden olabilir.
Araştırma aynı zamanda Google Drive’daki Gemini for Workspace’in tipik bir RAG (Al, Büyüt, Oluştur) örneğine benzer şekilde davrandığını ve saldırganların belgeleri çapraz enjekte etmesine ve asistanın çıktılarını manipüle etmesine olanak tanıdığını da ortaya çıkardı.
Bu, saldırganların kötü amaçlı belgeleri diğer kullanıcılarla paylaşarak hedef Gemini örneğinin oluşturduğu yanıtların bütünlüğünü tehlikeye atabileceği anlamına gelir.
Bu bulgulara rağmen Google, bu güvenlik açıklarını “Amaçlanan Davranışlar” olarak sınıflandırarak şirketin bunları güvenlik sorunu olarak görmediğini belirtti.
Ancak bu güvenlik açıklarının sonuçları, özellikle bilginin güvenilirliğinin ve güvenilirliğinin çok önemli olduğu hassas bağlamlarda önemlidir.
Bu güvenlik açıklarının keşfi, LLM destekli araçları kullanırken dikkatli olmanın önemini vurgulamaktadır. Kullanıcıların bu araçlarla ilgili potansiyel risklerin farkında olması ve kendilerini kötü niyetli saldırılardan korumak için gerekli önlemleri alması gerekir.
Google, Gemini for Workspace’i kullanıcılara sunmaya devam ederken, bu chatbot tarafından oluşturulan bilgilerin bütünlüğünü ve güvenilirliğini sağlamak için şirketin bu güvenlik açıklarını ele alması büyük önem taşıyor.
ANY.RUN’un Yeni Güvenli Tarama Aracını Kullanarak Şüpheli Bağlantıları Analiz Edin: Ücretsiz Deneyin