Zararsız görünen bir Google Takvim daveti, yapay zekanın (AI) kullanılmasında yeni bir sınırı ortaya çıkardı.
Miggo’daki güvenlik araştırmacıları, Google Gemini’nin Google Takvim ile entegrasyonunda, saldırganların herhangi bir kullanıcı etkileşimi olmadan gizlilik kontrollerini atlamasına ve hassas toplantı verilerini sızdırmasına olanak tanıyan bir güvenlik açığı keşfetti.
Google’ın yapay zeka asistanı Gemini, etkinlik başlıklarını, zamanları ve katılımcıları analiz ederek kullanıcıların programları yönetmesine yardımcı olmak için Takvim ile etkileşime giriyor.
Araştırmacılar bu entegrasyonun kullanıcının aleyhine dönebileceğini fark etti. Saldırganlar, bir takvim etkinliğinin açıklama alanına kötü amaçlı dil yerleştirerek hızlı bir enjeksiyon gerçekleştirebilir., Gemini’nin daha sonra bilmeden uygulayacağı gizli bir talimat.
Standart bir istek olarak gizlenen veri, kullanıcı Gemini’ye “Cumartesi günü boş muyum?” gibi masum bir soru sorana kadar hareketsiz kaldı. Gemini kurbanın olaylarını cevaplamak için analiz ettiğinde gömülü talimatla karşılaştı.
Model daha sonra o güne ait tüm özel toplantıları otomatik olarak özetledi, bu verileri içeren yeni bir etkinlik oluşturdu ve “Bu bir boş zaman dilimi” şeklinde sahte bir güvence gönderdi.
Perde arkasında Gemini, özel toplantı özetlerini yeni oluşturulan bir takvim etkinliğine sızdırarak bunları saldırganın görebilmesini sağladı ve yalnızca anlamsal manipülasyon yoluyla kullanıcının gizliliğini etkili bir şekilde ihlal etti.
Geleneksel uygulama güvenliği (AppSec), farklı dizeler veya giriş anormallikleri yoluyla tespit edilebilen SQL enjeksiyonları veya XSS saldırıları gibi sözdizimi tabanlı tehdit modellerine odaklanır.
Bununla birlikte, Gemini’nin istismarı, kötü niyetli niyetin kulağa normal gelen bir dilin içinde saklandığı anlamsal bir saldırıyı ortaya çıkardı.
Enjekte edilen metin söz dizimi açısından zararlı görünmüyordu; bu modelinkiyditercümeonu bir istismara dönüştüren dil.
Bu, sistemlerin doğal dilde akıl yürüttüğü yeni bir güvenlik paradigması yaratır; Saldırganlar kod yerine amacı kodlayabilir. Giriş temizleme ve Web Uygulaması Güvenlik Duvarları gibi mevcut korumalar, bu tür bağlam odaklı veri yüklerini tespit etmekte zorlanıyor.
Bu olayda Gemini yalnızca bir yapay zeka asistanı olarak değil, ayrıcalıklı API erişimine sahip bir uygulama katmanı olarak da hizmet vererek dilin kendisini potansiyel bir saldırı vektörüne dönüştürdü.
Standart savunmalar başarısız oluyor çünkü dil modelleri yalnızca sözdizimini değil anlamı da yorumluyor. Bu değişim, korumanın bağlam, amaç ve model davranışı hakkında gerçek zamanlı akıl yürütmeyi içermesi gereken AppSec stratejilerinin yeniden düşünülmesini gerektiriyor.
Google, sorumlu bir açıklamanın ardından güvenlik açığını yamaladı ancak miggo tarafından bildirildiği üzere bunun etkileri Gemini’nin çok ötesine uzanıyor.
Yapay zeka ile entegre ürünler daha yaygın hale geldikçe, savunucuların büyük dil modellerini katı çalışma zamanı politikaları, amaç doğrulama ve semantik bilinçli izleme gerektiren ayrıcalıklı uygulama katmanları olarak ele alması gerekiyor.
Anında Güncellemeler Almak ve GBH’yi Google’da Tercih Edilen Kaynak Olarak Ayarlamak için bizi Google Haberler, LinkedIn ve X’te takip edin.