Çalışma alanı için Google Gemini, meşru görünen ancak kullanıcıları ek veya doğrudan bağlantılar kullanmadan kimlik avı sitelerine yönlendiren kötü niyetli talimatlar veya uyarılar içeren e -posta özetleri oluşturmak için kullanılabilir.
Böyle bir saldırı, bir e -postanın içine gizlenmiş ve mesaj özeti oluştururken İkizler tarafından itaat edilen dolaylı hızlı enjeksiyonlardan yararlanır.
2024’ten beri benzer hızlı saldırılar bildirilmesine ve yanıltıcı yanıtları engellemek için korumalar uygulanmasına rağmen, teknik başarılı olmaya devam etmektedir.
İkizler aracılığıyla saldırı
Google’ın İkizler Modeline derhal enjeksiyon saldırısı, Mozilla’daki Genai Bug Bounty Programları yöneticisi araştırmacı Marco Figueroa tarafından Mozilla’nın üretken AI Tools için Bug Bounty programı 0din aracılığıyla açıklandı.
Süreç, İkizler için görünmez bir yönerge olan bir e -posta oluşturmayı içerir. Bir saldırgan, yazı tipi boyutunu sıfıra ve rengini beyaza ayarlayan HTML ve CSS kullanarak mesajın sonundaki vücut metnindeki kötü niyetli talimatı gizleyebilir.
Kaynak: 0din
Kötü niyetli talimat Gmail’de oluşturulmayacaktır ve mevcut ek veya bağlantı olmadığı için, mesajın potansiyel hedefin gelen kutusuna ulaşması muhtemeldir.
Alıcı e -postayı açar ve Gemini’den e -postanın bir özetini oluşturmasını isterse, Google’ın AI aracı görünmez yönergeyi ayrıştırır ve itaat eder.
Figueroa tarafından sağlanan bir örnek, Gemini’yi gizli talimattan sonra gösterir ve bir destek telefon numarası ile birlikte kullanıcının Gmail şifresinin tehlikeye girmesi hakkında bir güvenlik uyarısı içerir.
Kaynak: 0din
Birçok kullanıcının Google çalışma alanı işlevselliğinin bir parçası olarak Gemini’nin çıktısına güvenmesi muhtemel olduğundan, bu uyarının kötü niyetli bir enjeksiyon yerine meşru bir uyarı olarak kabul edilmesi ihtimali yüksektir.
Figueroa, güvenlik ekiplerinin bu tür saldırıları önlemek için uygulayabilecekleri birkaç tespit ve hafifletme yöntemi sunar. Bunun bir yolu, vücut metninde gizlenecek şekilde tasarlanmış içeriği kaldırmak, nötralize etmek veya yok saymaktır.
Başka bir yaklaşım, acil mesajlar, URL’ler veya telefon numaraları için İkizler Çıkışını tarayan ve daha fazla inceleme için mesajı işaretleyen bir işlem sonrası filtre uygulamaktır.
Kullanıcılar ayrıca, Güvenlik uyarıları söz konusu olduğunda İkizler Özetlerinin Yetkili düşünülmemesi gerektiğinin de farkında olmalıdır.
BleepingComputer, bu tür saldırıları önleyen veya hafifleten savunmaları sormak için Google ile iletişime geçti ve bir sözcü bizi derhal enjeksiyon saldırılarına karşı güvenlik önlemleri hakkında bir Google blog yayınına yönlendirdi.
Bir Google sözcüsü BleepingComputer’a verdiği demeçte, “Modellerimizi bu tür düşmanca saldırılara karşı savunmak için eğiten kırmızı takım egzersizleri yoluyla zaten sağlam savunmamızı sürekli olarak sertleştiriyoruz.” Dedi.
Şirket temsilcisi, BleepingComputer’a bazı hafifletmelerin uygulanma sürecinde olduğunu veya dağıtılmak üzere olduğunu açıkladı.
Sözcü, Google’ın Gemini’yi Figueroa’nın raporunda gösterdiği şekilde manipüle eden olayların hiçbir kanıtı görmediğini söyledi.
Bulut saldırıları daha sofistike büyüyor olsa da, saldırganlar hala şaşırtıcı derecede basit tekniklerle başarılı oluyorlar.
Wiz’in binlerce kuruluşta tespitlerinden yararlanan bu rapor, bulut-yüzlü tehdit aktörleri tarafından kullanılan 8 temel tekniği ortaya koymaktadır.