SafeBreach Labs’taki siber güvenlik araştırmacıları, Google takvim daveti kadar sıradan bir şeyle başlayan yeni bir siber saldırı türünü ortaya çıkardılar. Ekibe göre, bu yöntem bir kişinin Google Gemini AI ajanını ele geçirmek için kullanılabilir, saldırganlara onları gözetleme, kişisel veriler çalma ve hatta akıllı ev cihazlarının kontrolünü uzaktan ele geçirme yeteneği verir.
“İhtiyacınız olan tek şey davet” başlıklı araştırma Ben Nassi, Stav Cohen ve / veya Yair tarafından gerçekleştirildi. Hackread.com ile yapılan bir röportajda SafeBreach Labs, saldırının hızlı yazılım olarak bilinen yeni bir tehdide dayandığını açıkladı. Bu teknik, dikkatlice oluşturulmuş metin veya istemler ekleyerek bir AI modelini manipüle eder, bu da onu zararlı eylemler yürütmeye kandırır.
Safe Breach ekibi, saldırının daha gelişmiş bir versiyonunu geliştirdi ve bu da hedeflenen bir hızlı yazılım saldırısı adını verdiler. Çalışma alanı için İkizler üzerinde nasıl çalıştığını gösterdiler. Kötü niyetli bir Google takvim davetiyesi göndererek, bir kullanıcının İkizler Temsilcisini ele geçirebildiler, hepsi farkına varmadan.
Bu teknik “dolaylı istemi enjeksiyon” olarak bilinir, çünkü kötü niyetli talimatlar, AI’nın doğrudan kullanıcı tarafından girilmesi yerine, bir olay başlığı gibi kendi başına okuduğu bir şeyde gizlenir.
Güvenlik açığının ne kadar ciddi olduğunu göstermek için araştırmacılar, Gemini’den yararlanmak için bağlam zehirlenmesi ve otomatik araç çağırma da dahil olmak üzere bir dizi teknik kullandılar. Testleri, AI ajanından ödün verildikten sonra saldırının ne kadar ileri gidebileceğini gösterdi.
İkizler Ajanının kontrolünü ele geçirdikten sonra,
- Özel e -postalar çal
- Bir kişinin yerini bul
- Spam ve Kimlik Yardım E -postaları Gönderin
- Bir kişinin takvim etkinliklerini silin
- Zararlı ve toksik içerik üretin
- Zoom aracılığıyla bir kişinin video kamerasını açın
Daha da önemlisi, saldırının çevrimiçi durmamasıdır. Araştırmacılar, tehlikeye atılmış bir AI asistanının, akıllı ev cihazlarına bağlı olanlar da dahil olmak üzere bir kişinin akıllı telefonundaki uygulamaların kontrolünü ele geçirebileceğini gösterdi.
Araştırmacılar ayrıca bir saldırganın bağlı pencereler, kazanlar ve ışıklar gibi şeyleri uzaktan kontrol edebileceğini buldular. Bu, hızlı yazılım saldırılarının Gemini’nin ötesine geçebileceğini ve gerçek dünyadaki fiziksel etkiye yol açabileceğini doğruladı.
Araştırmacılar bulgularını Şubat 2025’te Google’a bildirdi. Yanıt olarak Google, hassas eylemler etrafında daha güçlü güvenlik ve hızlı enjeksiyon saldırılarını tespit etmek için daha iyi sistemler de dahil olmak üzere yeni korumalar yayınladı.
SafeBreach Labs, bu tehditlerin% 73’ünün “kritik risk” kategorisine girdiğini tahmin ediyor ve diğer AI destekli araçların da risk altında olabileceği konusunda uyarıyor. Tüm araştırma Black Hat USA ve Def Con 33’te sunulacak.
Bu arada, SafeBreach’in teknik blog yayınını ve şirketin paylaştığı yedi demo videosunu kontrol etmeniz şiddetle tavsiye edilir.