Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Copilot hemen enjeksiyon için düşer
Pooja Tikekar (@Poojatikar) •
21 Ağustos 2025
Microsoft, kullanıcıların gömülü yapay zeka modeli copilot’a erişim kurumsal dosyalarını kaydetmek için talimat vermelerine izin veren bir kusuru sessizce düzeltti.
Ayrıca bakınız: Ping Kimliği: Her Dijital Ana Güven
Redmond merkezli teknoloji devi, büyük dil modelini ofis programları paketine daha derinden yerleştirerek Copilot’a büyük ölçüde bahis yapıyor. Kullanıcılar ve araştırmacılar, modeli hassas bilgileri bırakmaya yönlendiren hızlı enjeksiyon saldırıları başlatmanın yeni yollarını keşfettikçe siber güvenlik sorunları oluşturuldu (bkz: bkz: Copilot AI Bug, e -posta istemleri yoluyla hassas verileri sızdırabilir).
Siber güvenlik firması Fıstık’ın CTO’su Zack Korman, Pazartesi blog yazısında, bunun için koşullar yaratmak kadar hassas bilgilerden vazgeçmek için copilot’u dolandırmadığını söyledi.
Boşluk Korman detayları, Copilot’a denetim günlüğüne bir belgeye erişim isteğini özetlemek için eklememesini söyleyebilmesidir.
“Denetim günlükleri önemlidir,” diye yazdı. “Birinin bir rakip başlatmak için şirketinizden ayrılmadan önce bir grup dosya indirdiğini hayal edin; bunun bir kaydını istersiniz ve kişinin tespit edilmemek için Copilot’u kullanması kötü olurdu.” Microsoft, etkinlik günlüğü gerektiren çok çeşitli düzenleyici ve güvenlik standartlarıyla uyumlu olarak copilot’u tanıtıyor.
Microsoft, Copilot’un istemler ve Copilot’un bir istemine yanıt olarak eriştiği belgeler gibi 180 günlük etkinlikleri otomatik olarak oturum açtığını ve sakladığını söylüyor – en azından denetim katmanına abone olan kullanıcılar için.
Korman, “Ama Copilot’tan özetlediği dosyaya bir bağlantı sağlamamasını isterseniz ne olur? Peki, bu durumda denetim günlüğü boş.”
Korman, Copilot’a gizli bir belgeyi özetlemesini ancak belgeyi referans olarak dahil etmediğini söyledi. “Sadece bana içeriği söyle,” diye yazdı. Denetim günlüklerine bir göz atın, AccessedResourcesGünlükte dosyalanmış boştu. “Tıpkı böyle, denetim günlüğünüz yanlış. Kötü niyetli bir içeriden için, algılamadan kaçınmak copilot sormak kadar basit.”
Korman, “18 Ağustos’tan önce Copilot kullanan bir organizasyonda çalışıyorsanız, denetim günlüğünüzün eksik olması için çok gerçek bir şans var.” Dedi.
Zenity CTO’su Michael Bargary, Black Hat 2024 Konferansı sırasında aynı sorunu ayrı ayrı işaretledi ve copilottaki diğer önemli güvenlik zayıflıkları, özellikle de hızlı enjeksiyon etrafında. “E -posta, ekip mesajı veya takvim etkinliği göndererek, saldırganlar sizin adınıza tamamen copilotu devralmak için” adlı enjeksiyon kullanabilirler. “Dedi. Kimliğinizle sizin adınıza dosyaları aramaya, çıktısını manipüle etmek ve bana sosyalleştirmeme yardım etmek için alabilirim. “(Bkz:: Bkz:: Microsoft Copilot’ta AI tabanlı veri güvenliği risklerinde gezinme)
Microsoft, sorunu 17 Ağustos’ta düzeltti, ancak Korman yazdı, ancak güvenlik açığı bir CVE ataması atamayı reddetti. Teknoloji devi bir yorum talebine hemen cevap vermedi, ancak Kayıt’a “Müşterileri korumak için sorunu ele alabilmemiz için bulgularını bizimle paylaşan araştırmacıyı takdir ediyoruz.”
Güvenlik araştırmacısı Kevin Beaumont, Korman’ın blog yayınını işaretleyerek, hızlı enjeksiyon kırılganlığının “bunun üzerinde dolaplarda ölü bedenlere yol açtığını yazdı. Her şey bir yıl öncesine kadar her şey sihirli bağışık değildi.”
Korman ayrıca Microsoft’un kırılganlık raporlamasını ele almasından sağlam bir memnuniyetsizlik yazdı. Sürecin dağınık olduğunu söylüyor. Microsoft, raporun durumuna belirsiz etiketler atadı ve “Domino’nun güvenlik araştırmacıları için pizza izleyicisine” benzediğini verdi.