Microsoft, Dynamics 365 ve Power Platform ürünlerinde AI sistemlerinde kritik güvenlik açıklarını belirleyen araştırmacılar için 30.000 dolara kadar ödül sunan genişletilmiş bir Bug Bounty programı başlattı.
Microsoft Güvenlik Yanıtı tarafından açıklanan girişim, kötü amaçlı aktörler bunlardan yararlanmadan önce potansiyel zayıflıkları ortaya çıkarmaya teşvik ederek kurumsal AI’daki güvenliği güçlendirmeyi amaçlamaktadır.
AI Güvenlik Sınıflandırma Çerçevesi
Program, Microsoft’un yapay zeka-spesifik güvenlik risklerini üç temel güvenlik açığı türüne kategorize eden AI sistemleri için yeni geliştirilen güvenlik açığı önemi sınıflandırmasını kullanıyor:
.png
)
Bu kategori, bir modelin modelin kendisini değiştirmeden bireysel çıkarım taleplerine yanıtını değiştirmek için kullanılabilecek güvenlik açıklarını ele alır. Temel güvenlik açığı türleri şunları içerir:
Hızlı enjeksiyon: Enjekte edilen talimatların modelin istenmeyen çıktı oluşturmasına neden olduğu ve potansiyel olarak saldırganların kullanıcı verilerini püskürmesine veya ayrıcalıklı eylemler gerçekleştirmesine izin verdiği saldırılar.
Hiçbir kullanıcı etkileşimi gerektiren kritik şiddet istemi enjeksiyonları en yüksek ödülleri kazanamaz.
Giriş Pertürbasyonu: Saldırganların model kaçırma veya düşman örnekleri olarak da bilinen yanlış çıktılar üretmek için geçerliliği bozduğu güvenlik açıkları.
Model manipülasyonu
Bu güvenlik açıkları, AI sistemlerinin eğitim aşamasını hedefleyin,:
Model Zehirlenmesi: Model mimarisinin, eğitim kodu, hiperparametrelerin veya eğitim verilerinin kurcalandığı saldırılar.
Veri Zehirlenmesi: Saldırganlar, eğitmek veya ince ayar modelleri için kullanılan veri kümelerine zehirli veri kayıtları eklediğinde, potansiyel olarak belirli girişler tarafından tetiklenebilecek geri dönüşler getirir.
Çıkarımsal bilgi açıklaması
Bu kategori, modelin eğitim verileri, mimarisi veya ağırlıkları hakkında hassas bilgileri ortaya çıkarabilecek güvenlik açıklarını kapsar:
- Üyelik Çıkarımı: Belirli veri kayıtlarının modelin eğitim verilerinin bir parçası olup olmadığını belirleme yeteneği.
- Öznitelik Çıkarımı: Eğitimde kullanılan kayıtların hassas özelliklerini çıkarma teknikleri.
- Veri Yeniden Yapılandırma: Eğitim veri kümesinden bireysel veri kayıtlarını yeniden yapılandırmanın yöntemleri.
- Model Çalma: Yalnızca çıkarım yanıtlarını kullanarak hedef modellerin işlevsel olarak eşdeğer kopyalarının oluşturulmasına izin veren saldırılar.
Ödül yapısı ve uygunluk
Ödül Ödülleri 500 ila 30.000 dolar arasında değişmektedir ve en yüksek ödüller yüksek kaliteli raporların eşlik ettiği kritik önemsizlik güvenlik açıkları için ayrılmıştır.
Program özellikle PowerApps, Model Odaklı Uygulamalar, DataVers, AI Builder ve Microsoft Copilot Studio’da AI entegrasyonlarını hedeflemektedir.
Şiddet Sınıflandırma Sistemi, saldırganların başka bir kullanıcının verilerini sunmasına veya kullanıcı etkileşimi olmadan ayrıcalıklı eylemler gerçekleştirmesine izin verebilecek güvenlik açıkları için en yüksek ödüllerle hem güvenlik açığı türünü hem de güvenlik etkisini göz önünde bulundurur.
Katılmakla ilgilenen güvenlik araştırmacıları, Dynamics 365 veya Power Platform hizmetlerinin ücretsiz denemelerine kaydolarak başlayabilir.
Microsoft, araştırmacıların test ettikleri sistemleri anlamalarına yardımcı olmak için her ürün için ayrıntılı belgeler sunar.
Microsoft’un Güvenlik Müdahale Ekibi, “Araştırmanız, Enterprise AI’nın güvenliğini güçlendirmemize yardımcı olabilir.” Diye açıkladı.
Program, Microsoft’un çeşitli Microsoft ürün ve hizmetleri için ödül programlarını içeren daha geniş güvenlik girişiminin bir parçasını oluşturmaktadır.
Tüm başvurular ödül uygunluğu için incelenir ve araştırmacılar para ödüllerine hak kazanmadıklarında, ancak güvenlik iyileştirmelerine yol açtıklarında bile tanınır.
Bu girişim sayesinde Microsoft, AI entegrasyonu işletme çözümlerinde derinleştikçe işbirlikçi güvenlik çabalarını vurgulamaya devam ediyor.
Malware Trends Report Based on 15000 SOC Teams Incidents, Q1 2025 out!-> Get Your Free Copy