Araştırma, Google’ın Gemini AI Asistan Suite’ında, siber suçluların kullanıcıların kaydedilmiş verilerini ve canlı konum bilgilerini çalmasına izin verebilecek “Gemini Trifecta” olarak adlandırılan üç önemli güvenlik açıkını ortaya çıkardı.
O zamandan beri Google tarafından iyileştirilen güvenlik açıkları, yapay zeka sistemlerinin sadece hedeflerden ziyade nasıl saldırı vektörleri olabileceğini gösteriyor.
Bir bilgisayardan hassas verileri çalan ve Google Gemini’dekiler gibi AI güvenlik açıklarının risklerini vurgulayan bir hacker’ın çizimi
İkizler Trifecta Güvenlik Açıkları
Tenable’a göre, keşfedilen güvenlik açıkları İkizler ekosisteminin farklı bileşenlerini hedefledi. İlk kusur, kullanıcıların günlükleri ve bulut kaynaklarını analiz etmesine yardımcı olmak için tasarlanmış Google’ın bulut tabanlı yapay zeka aracı olan Gemini Cloud Assist’i etkiledi.
İkizler Bulut Yardımı : Saldırganlar, günlük girişlerinde HTTP kullanıcı-ajanı başlıkları aracılığıyla kötü niyetli istemler enjekte edebilirler, bu da kullanıcılar günlük özetleri istediğinde AI tarafından işlenir.
İkizler Arama Kişiselleştirme Modeli : İkinci güvenlik açığı, Gemini’nin yanıtları özelleştirmek için tarama geçmişini kullanan arama kişiselleştirme modelini kullandı.
Siber suçlular, kurbanların tarayıcılarına kötü niyetli JavaScript kodu enjekte edebilir ve daha sonra AI sistemi tarafından meşru talimatlar olarak yorumlanacak hazırlanmış arama sorguları ekleyebilir.
İkizler Tarama Aracı: Üçüncü ve belki de en ilgili kusur, İkizler Tarama Aracı’nı içeriyordu. Bu güvenlik açığı, saldırganların URL parametrelerine gömülü kullanıcı bilgileri ile AI’yı kötü amaçlı web sitelerini ziyaret ederek hassas kullanıcı verilerini çıkarmasına izin verdi.
Güvenlik açıkları iki aşamalı bir saldırı paternini izledi: infiltrasyon ve eksfiltrasyon. Sızma sırasında, saldırganlar günlük girişleri veya arama geçmişi manipülasyonu gibi dolaylı yöntemlerle kötü niyetli istemler enjekte ederler. Bu istemler AI sistemi için meşru görünecektir.
Eksfiltrasyon için araştırmacılar, Google’ın kötü niyetli bağlantılar veya görüntüler oluşturma gibi belirgin veri hırsızlığı yöntemlerine karşı önlemler uygularken, tarama aracının alternatif bir yol sağladığını keşfettiler.
Saldırganlar Gemini’ye harici web sitelerini “özetlemesini” söyleyebilir ve AI’nın saldırgan kontrolündeki sunuculara hassas kullanıcı verileri içeren HTTP istekleri yapmasına neden olabilir.
Kavram kanıtı gösterileri, saldırganların kaydedilmiş kullanıcı tercihleri, konum verileri ve İkizler ekosisteminde depolanan diğer hassas ayrıntılar da dahil olmak üzere çeşitli kişisel bilgileri nasıl çalabileceğini gösterdi.
Saldırılar, bariz güvenlik kusurlarından yararlanmak yerine meşru AI işlevselliğini kullandıkları için özellikle gizlidi.
Bir gösteri, bir saldırganın bulut hizmetleri aracılığıyla günlük girişlerini nasıl enjekte edebileceğini, ardından kurbanlar bu günlükleri analiz etmek için İkizler Bulutu Yardımı kullandığında Phish kullanıcı kimlik bilgilerini gösterdi.
Başka bir örnek, tarama geçmişine kötü niyetli arama sorgularının nasıl enjekte edilebileceğini göstererek, daha sonra kullanıcılar kişiselleştirilmiş arama özellikleriyle etkileşime girdiğinde verileri tetikledi.
Google, birden fazla azaltma stratejisi ile her üç güvenlik açığını da başarıyla ele almıştır. Bulut desteği güvenlik açığı için şirket, köprülerin günlük özeti yanıtlarında nasıl oluşturulduğunu değiştirdi.
Arama kişiselleştirme güvenlik açığı, etkilenen modeli geri döndürerek ve katmanlı hızlı enjeksiyon savunmaları uygulanarak ele alınmıştır.
Göz atma aracı güvenlik açığı, dolaylı hızlı enjeksiyonlar yoluyla veri açığa çıkmasını önleyerek azaltıldı ve kötü niyetli talimatların aracın meşru web tarama özelliklerini kötüye kullanamayacağını sağladı.
Bu keşifler, yapay zeka ile çalışan sistemlerde gelişen güvenlik zorluklarını vurgulamaktadır. Organizasyonlar giderek daha fazla AI asistanını ve araçlarını benimsedikçe, güvenlik ekipleri bu sistemlerin özel koruma stratejileri gerektiren yeni saldırı yüzeyleri oluşturduğunu kabul etmelidir.
Araştırma, geleneksel siber güvenlik yaklaşımlarının geleneksel sömürü teknikleri yerine derhal mühendislik yoluyla manipüle edilebilen AI sistemleri için yetersiz olabileceğini göstermektedir.
AI araçlarını kullanan kuruluşlar, güvenliği korumak için AI altyapılarına ve katı politika uygulamalarına kapsamlı bir görünürlük gerektirir.
Anında güncellemeler almak ve GBH’yi Google’da tercih edilen bir kaynak olarak ayarlamak için bizi Google News, LinkedIn ve X’te takip edin.