Güvenlik araştırmacıları, Google’ın İkizler AI asistanında, saldırganların masum Google takvim davetiyeleri ve e -postaları aracılığıyla sistemi kullanmalarına izin veren, kullanıcıların hassas verilerini potansiyel olarak tehlikeye atan ve hatta akıllı ev cihazlarını kontrol eden bir dizi kritik güvenlik açığı keşfettiler.
Çığır açan araştırma, ortak kullanıcı etkileşimlerine gömülü dolaylı hızlı enjeksiyon tekniklerinden yararlanan “hedeflenen hızlı yazılım saldırıları” adı verilen yeni bir tehdit sınıfı ortaya koyuyor.
Bu sofistike saldırılar, kullanıcılar İkizler Güçlü Yardımcılara e-postaları, takvim etkinlikleri veya paylaşılan belgeler hakkında sorduğunda, davet başlıkları veya e-posta konuları içinde gizlenen kötü amaçlı kodları etkinleştirdiğinde tetiklenebilir.
Beş sınıf kötü niyetli saldırı tanımlandı
Araştırmacılar, keşfedilen güvenlik açıklarını her biri artan risk seviyeleri sunan beş farklı saldırı sınıfına kategorize ettiler.
Kısa vadeli bağlam zehirlenmesi, ilk giriş noktası olarak hizmet eder ve saldırganların paylaşılan kaynaklardaki kötü amaçlı içerik yoluyla tek bir kullanıcı oturumunu manipüle etmesine izin verir.
Bu geçici saldırı yöntemi, Gemini’nin kalıcı “kaydedilmiş bilgi” özelliğini etkileyen ve birden fazla bağımsız oturumda sürekli kötü amaçlı etkinlik sağlayan uzun süreli bellek zehirlenmesine dönüşebilir.
En ilgili keşifler, saldırganların takvim olaylarını silme veya kişisel bilgilere erişme gibi yetkisiz eylemler gerçekleştirmek için Gemini’nin entegre araçlarını kullandığı araç kötüye kullanımını içerir.
Otomatik ajan çağırma, saldırganların pencereleri açmak, kazanları etkinleştirmek ve kurbanların evlerindeki aydınlatma sistemlerini kontrol etmek de dahil olmak üzere akıllı ev cihazlarını kontrol etmelerini sağlayan önemli bir ayrıcalık artış tehdidini temsil eder.
Beşinci ve belki de en invaziv sınıf otomatik uygulama çağrısı, saldırganların kurbanların akıllı telefonlarında uygulamalar başlatmasını, potansiyel olarak yetkisiz video görüşmeleri başlatmasını, web tarayıcılarına erişmesini veya hassas e -posta verilerini ekspilit etmelerini sağlar.
Araştırma, tipik veri ihlallerinin ötesinde endişe verici gerçek dünya sonuçları göstermektedir. Saldırı senaryoları, yakınlaştırma yoluyla yetkisiz video akışı, web tarayıcıları aracılığıyla coğrafi konum izleme, spam kampanyaları, kimlik avı operasyonları ve dezenformasyon kampanyaları içerir.
En rahatsız edici bir şekilde, saldırganlar, diğer cihaz uygulamalarını kullanarak kötü niyetli eylemleri tetiklemek için AI başvurusunun sınırlarından kaçarak “cihazdaki yanal hareket” elde edebilirler.
Araştırmacılar tarafından yürütülen kapsamlı tehdit analizi ve risk değerlendirmesi (TARA), analiz edilen tehditlerin% 73’ünün son kullanıcılar için yüksek kritik risk oluşturduğunu ortaya koymuştur.
Bununla birlikte, değerlendirme aynı zamanda uygun hafifletmelerle, bu risklerin çok düşük-orta seviyelere önemli ölçüde azalabileceğini göstermektedir.
Google bu bulgular hakkında bilgilendirildi ve belirlenen güvenlik açıklarını ele almak için özel önlemleri zaten kullandı.
Şirketin hızlı yanıtı, keşfedilen saldırı vektörlerinin ciddiyetini ve yapay zeka destekli uygulamalarda devam eden güvenlik araştırmalarının önemini vurgulamaktadır.
Bu araştırma, yapay zeka günlük uygulamalara giderek daha fazla entegre hale geldikçe, gelişen tehdit manzarasının altını çizerek, sağlam güvenlik önlemlerine duyulan ihtiyacı ve AI sistem gelişiminde devam eden uyanıklığı vurgulamaktadır.
The Ultimate SOC-as-a-Service Pricing Guide for 2025– Ücretsiz indir