Siber güvenlik araştırmacıları, Google’ın İkizler Yapay Zeka (AI) asistanı, başarılı bir şekilde sömürülürse, kullanıcıları büyük gizlilik risklerine ve veri hırsızlığına maruz bırakabilecek üç güvenlik açıklığını açıkladılar.
Tenable Haberler ile paylaşılan bir raporda, “İkizler Kişiselleştirme modelinde arama enjeksiyonu saldırılarına karşı savunmasız hale getirdiler; İkizler Bulut Assist’e karşı kütük için log-to-to-to-to-teats enjeksiyon saldırıları; ve kullanıcının İkizler Tarama Aracı aracılığıyla kaydedilen bilgilerinin ve konum verilerinin eksfiltrasyonu.” Dedi.
Güvenlik açıkları toplu olarak kodlanmıştır. İkizler Trifecta Siber Güvenlik Şirketi tarafından. Gemini Suite’in üç farklı bileşeninde ikamet ediyorlar –
- İkizler bulut yardımcısında, saldırganların bulut tabanlı hizmetlerden yararlanmasına ve aracın doğrudan ham kütüklerden çekilen günlükleri özetleyebilmesinden yararlanarak, tehdit aktörünün bulut çalışması, bulut motoru, bulut motoru, bulut motoru ve diğer bir bulutun bir parçası olarak bir parçası olarak gizlemesine izin verebilecek şekilde, bulut kaynakları, bulut kaynaklarını, bulut kaynaklarını, bulut kaynaklarını, bir bulut, COUT, COUT, COLICE, CULUT, COLICE, CULUT, COUT MOTORU, BULUT, COUT MOTORU, BULUT, BULUT MOTORUNUNUNUZ. API ve Tavsiye API
- İkizler Arama Kişiselleştirme Modelinde, saldırganların istemi enjekte etmesine ve AI Chatbot’un davranışını, bir kullanıcının kaydedilen bilgilerini ve konum verilerini, javascript kullanarak krom arama geçmişlerini manipüle ederek ve modelin meşru kullanıcı sorguları ve enjekte edilmiş istemleri dış kaynaklardan ayırma yetersizliğini kaldırarak sızdırmak için bir arama enjeksiyonu kusuru
- İkiz tarama aracında, saldırganların bir web sayfasının içeriğini özetlemek için yaptığı dahili çağrıdan yararlanarak saldırganların bir kullanıcının kaydedilmiş bilgilerini ve konum verilerini harici bir sunucuya eklemelerine izin verebilecek dolaylı bir hızlı enjeksiyon kusuru
Tenable, güvenlik açığının, kullanıcının özel verilerini, Gemini’nin bağlantılar veya görüntüler oluşturmasına gerek kalmadan saldırgan tarafından kontrol edilen kötü amaçlı bir sunucuya bir istek içine yerleştirilebileceğini söyledi.
Matan, Bulut Assist Flaw’dan, “Etkili bir saldırı senaryosu, Gemini’ye tüm kamu varlıklarını sorgulamasını veya IAM yanlış konfigürasyonlarını sorgulamasını isteyen bir istemi enjekte eden ve daha sonra bu hassas verileri içeren bir köprü oluşturan bir saldırgan olacaktır.” Dedi. Diyerek şöyle devam etti: “Gemini’nin bulut varlık API’sı aracılığıyla varlıkları sorgulama iznine sahip olduğundan bu mümkün olmalıdır.”
Sorumlu açıklamanın ardından Google, o zamandan beri tüm günlük özetleme yanıtlarının yanıtlarında köprü oluşturmayı durdurdu ve hızlı enjeksiyonlara karşı korunmak için daha fazla sertleştirme önlemleri ekledi.
Matan, “İkizler Trifecta, AI’nın kendisinin sadece hedefe değil, saldırı aracına dönüştürülebileceğini gösteriyor. Organizasyonlar AI’yı benimsedikçe güvenliği göz ardı edemezler.” Dedi. “Yapay zeka araçlarının korunması, çevre genelinde bulundukları yerlerde görünürlük ve kontrolü sürdürmek için politikaların sıkı bir şekilde uygulanmasını gerektirir.”
Geliştirme, Ajan Güvenlik Platformu CodeIntegrity, Notion’un AI aracısının, modelin gizli verileri toplamasını ve ardından saldırganlara göndermesini talimat veren beyaz bir metin kullanarak bir PDF dosyasındaki hızlı talimatları gizleyerek veri açığa vurma için kötüye kullanan yeni bir saldırı detaylandırdı.
Şirket, “Geniş çalışma alanı erişimi olan bir ajan, belgeler, veritabanları ve harici konektörler arasındaki görevleri RBAC’ın asla beklemediği şekilde zincirleyebilir.” Dedi. “Bu, hassas verilerin veya eylemlerin çok adımlı, otomatik iş akışları yoluyla açıklanabileceği veya yanlış kullanılabileceği büyük ölçüde genişletilmiş bir tehdit yüzeyi yaratır.”