Google Gemini Enterprise ve Vertex AI Search’te bulunan ve GeminiJack olarak adlandırılan kritik bir güvenlik açığı, saldırganların herhangi bir kullanıcı etkileşimi veya güvenlik uyarısı olmadan hassas kurumsal verileri sızdırmasına olanak tanıyor.
Kusur, kurumsal yapay zeka sistemlerinin bilgiyi işleme ve yorumlama biçimindeki mimari zayıflıktan yararlanarak yapay zekanın kendisini kurumsal veriler için yetkisiz erişim katmanına dönüştürüyor.
GeminiJack Nasıl Çalışır?
Güvenlik açığı, paylaşılan Google Dokümanlar, takvim davetiyeleri veya e-postalara yerleştirilmiş dolaylı bilgi istemi ekleme tekniklerinden yararlanıyor.
Bir çalışan Gemini Enterprise’da “bana bütçelerimizi göster” gibi rutin bir arama yaptığında yapay zeka, gizli talimatlar içeren zehirli belgeleri otomatik olarak alır.
Bu talimatlar daha sonra herhangi bir güvenlik uyarısını veya DLP uyarısını tetiklemeden, Gmail, Takvim, Dokümanlar ve diğer bağlı veri kaynakları da dahil olmak üzere kuruluşun tüm Google Workspace ekosistemine yayılır.
Sızıntı, gizlenmiş bir harici görüntü isteği yoluyla sessizce gerçekleşir ve veri hırsızlığını güvenlik izleme araçlarına yönelik meşru trafikten ayırt edilemez hale getirir.
Kimlik avı veya kimlik bilgisi hırsızlığı gerektiren geleneksel siber saldırıların aksine GeminiJack tamamen görünmez bir şekilde çalışır.
Çalışanlar hiçbir şüpheli faaliyet görmüyor; standart bir arama yaparlar ve sonuçları alırlar.
Güvenlik ekipleri olağandışı hiçbir şey gözlemlemiyor: kötü amaçlı yazılım yürütme yok, anormal kimlik bilgileri kullanımı yok, yalnızca rutin AI davranışı ve standart görüntü yükleme. Bu görünmezlik, güvenlik açığını özellikle tehlikeli hale getiriyor.
Tek bir başarılı saldırı, yıllarca süren e-posta yazışmalarını, iş ilişkilerini ve organizasyon yapısını açığa çıkaran takvim geçmişlerini ve gizli anlaşmalar ile teknik spesifikasyonları içeren tüm belge havuzlarını sızdırabilir.
Saldırı dört adımda gerçekleşiyor: Saldırgan, erişilebilir veri kaynakları içinde görünüşte meşru içerik oluşturuyor ve anında enjeksiyon yüklerini yerleştiriyor.
Çalışanlar standart aramalar yaptığında RAG (Geri Alma-Artırılmış Üretim) sistemi, zehirli içeriği alır.
Gemini, yerleşik kötü amaçlı talimatları meşru komutlar olarak ele alır, erişilebilir tüm verilerde hassas terimleri arar ve sonuçları HTTP istekleri aracılığıyla saldırganın sunucusuna iletir.
Google, bulguları doğrulamak ve güncellemeleri dağıtmak için doğrudan Noma Labs ile çalışarak Gemini Enterprise ve Vertex AI Search’ün erişim ve indeksleme sistemleriyle etkileşimini değiştirdi.
Keşfin ardından Vertex AI Search, Gemini Enterprise’dan tamamen ayrıldı ve artık aynı LLM destekli iş akışlarını veya RAG yeteneklerini paylaşmıyor.
GeminiJack, yapay zeka araçlarının kurumsal olarak benimsenmesi hızlandıkça kuruluşların derhal ele alması gereken, giderek büyüyen yapay zekaya özgü güvenlik açıkları sınıfını temsil ediyor.
Anında Güncellemeler Almak ve GBH’yi Google’da Tercih Edilen Kaynak Olarak Ayarlamak için bizi Google Haberler, LinkedIn ve X’te takip edin.