Yılın ilk Salı Yaması (Çarşamba Antipodes’ta), Microsoft’un Copilot yapay zekasının (AI) kullanıcı verilerini sızdırabilecek tüketici sürümünü etkileyen tek tıklamayla anında enjeksiyon saldırısına yönelik bir düzeltme içeriyordu.
Güvenlik açığını belgeleyen ve Microsoft’a bildiren veri güvenliği satıcısı Varonis, kusura Reprompt adını verdi.
Zincirleme istismar Reprompt, kötüye kullanılması durumunda dosya erişim geçmişi, konum, konuşma belleği, kullanıcının adı ve Copilot sohbet geçmişindeki olaylar gibi verileri sızdırmayı başardı.
Saldırı, bir hedefin bir web tarayıcısı aracılığıyla Microsoft’un Copilot sohbet robotuna giden meşru bir bağlantıya tıklaması için kandırılmasını içeriyor.
Bağlantıdaki özel olarak hazırlanmış bir ?q= parametresi, sohbet arayüzü için önceden doldurulmuş bir yapay zeka istemi içeriyordu; Varonis buna Parametre 2 İstemi veya P2P enjeksiyonu adını verir.
Kurbanın kimliği doğrulanmış Copilot oturumu tarayıcıya yüklendikten sonra, istem enjeksiyonu, yapay zekanın saldırgan tarafından kontrol edilen bir sunucuyla iletişim kurmasına neden olur.
Saldırganın sunucusundan Copilot’a kadar birbirine zincirlenen ve yapay zekadan dönen takip istemleri, oturum üzerinde komuta ve kontrol sağlıyordu.
Bu aşamada saldırgan, güvenliği ihlal edilen oturumda Copilot’un erişebildiği konuşma geçmişi, ekli dosyalar ve diğer hassas veriler gibi bilgileri sızdırmaya başlayabilir.
Oturum düzeyi bağlamı kötüye kullanıldığından, kullanıcı tarayıcıdaki Copilot sohbet sekmesini kapatsa bile saldırı devam edebilir.
İstemci tarafı tespit araçları, saldırı yükünü de kaçırabilir; çünkü bu yük, Copilot’un iletişim kurduğu sunucudan gelen zincirleme yanıtlar sırasında daha sonra gelir.
Varonis, ilk bağlantı tıklamasının ötesinde, Copilot ile başka bir kullanıcı etkileşimine veya herhangi bir eklentiye gerek olmadığını söyledi ve sızdırılabilecek veri miktarı veya türü konusunda herhangi bir sınırlama olmadığını ekledi.
Varonis, kullanıcıların özellikle yapay zeka araçlarını açtıklarında veya istemleri önceden doldurduklarında bağlantılara tıklarken dikkatli olmalarını tavsiye etti.
Güvenli göründüklerinden emin olmak için AI için önceden doldurulmuş istemleri gözden geçirmek de iyi bir fikirdir.
Güvenlik sağlayıcısı ayrıca kişisel bilgi isteyen yapay zekalara karşı dikkatli olunması ve bu durumda oturumun kapatılması ve rapor edilmesi gerektiğini söyledi.
Reprompt’a Ortak Güvenlik Açıkları ve Etkilenmeler (CVE) dizini atanmadı ve kötüye kullanıldığına dair herhangi bir rapor yok.