Microsoft, yapay zeka odaklı Bing deneyimine odaklanan ve ödüllerin 15.000 dolara ulaştığı yeni bir yapay zeka ödül programını duyurdu.
Yeni hata ödül programının kapsam dahilindeki ilk ürünü olan yapay zeka destekli Bing deneyimiyle, güvenlik araştırmacıları aşağıdaki uygun hizmet ve ürünler listesinde bulunan güvenlik açıklarını gönderebilir:
- Tarayıcıda bing.com’da yapay zeka destekli Bing deneyimleri (Bing Chat, Bing Chat for Enterprise ve Bing Image Creator dahil olmak üzere tüm büyük sağlayıcılar desteklenir)
- İşletmeler için Bing Chat de dahil olmak üzere Microsoft Edge’de (Windows) yapay zeka destekli Bing entegrasyonu
- Microsoft Start Uygulamasında (iOS ve Android) yapay zeka destekli Bing entegrasyonu
- Skype Mobil Uygulamasında (iOS ve Android) yapay zeka destekli Bing entegrasyonu
Microsoft, yapay zeka ödül programının web sitesinde şöyle açıklıyor: “Microsoft AI ödül programı, dünya çapındaki güvenlik araştırmacılarını yeni, yenilikçi, AI destekli Bing deneyimindeki güvenlik açıklarını keşfetmeye davet ediyor. Nitelikli başvurular, 2.000 ila 15.000 ABD Doları arasında ödül ödülleri almaya hak kazanıyor.” .
“Bing ile ilgili çevrimiçi hizmetlerdeki güvenlik açıklarını tanımlayan gönderimler, M365 Ödül Programı kapsamında değerlendirilecektir. Tüm gönderimler, ödüle uygunluk açısından incelenir, bu nedenle gönderiminizin nereye uyduğundan emin değilseniz endişelenmeyin.”
| Güvenlik açığı türü | Rapor kalitesi | Şiddet | |||
| Kritik | Önemli | Ilıman | Düşük | ||
| Çıkarım Manipülasyonu | Yüksek Orta Düşük |
15.000$ 10.000$ 6.000$ |
6.000$ 3.000$ 2.000$ |
0$ | 0$ |
| Model Manipülasyonu | Yüksek Orta Düşük |
15.000$ 10.000$ 6.000$ |
6.000$ 3.000$ 2.000$ |
0$ | 0$ |
| Çıkarımsal Bilgilerin Açıklanması | Yüksek Orta Düşük |
15.000$ 10.000$ 6.000$ |
6.000$ 3.000$ 2.000$ |
0$ | 0$ |
Microsoft’un Yapay Zeka Sistemlerine İlişkin Güvenlik Açığı Önem Derecesi Sınıflandırmasında belirtilen sorunların yanı sıra, araştırmacıların aşağıdaki sonuçlara yol açan güvenlik açıklarını bildirmeleri de teşvik edilmektedir:
- Bing’in sohbet davranışını kullanıcı sınırları ötesinde değiştirmek, yani yapay zekayı diğer tüm kullanıcıları etkileyebilecek şekilde değiştirmek.
- Hata ayıklama ve özellik işaretlerinin değiştirilmesi de dahil olmak üzere, istemci ve/veya sunucunun görünür yapılandırmasını değiştirerek Bing’in sohbet davranışını ayarlama.
- Bing’in çapraz konuşma belleği ve geçmişi silmeyle ilgili korumalarını atlamak.
- Bing’in dahili mekanizmalarını ve istemlerini, karar verme süreçlerini ve gizli bilgileri ifşa etmek.
- Bing’in sohbet modu oturumlarındaki sınırlamaları ve kuralları aşmak.
Şirket ayrıca, yalnızca saldırganı etkileyecek olanlar, bazı model halüsinasyon saldırıları, yanlış veya rahatsız edici sohbet yanıtları ve daha fazlasını içeren, kapsam dışı olan sorunların ve güvenlik açığı türlerinin uzun bir listesini de vurguladı.
MSRC Teknik Program Müdürü Lynn Miyashita, “Hata ödül programlarımız aracılığıyla güvenlik araştırmacılarıyla ortaklık kurmak, Microsoft’un müşterileri güvenlik tehditlerinden korumaya yönelik bütünsel stratejisinin önemli bir parçasıdır” dedi.
“Küresel güvenlik araştırma topluluğuyla olan ortaklığımıza değer veriyoruz ve kapsamımızı yapay zeka destekli Bing deneyimini de içerecek şekilde genişletmekten heyecan duyuyoruz.”
Geçtiğimiz yıl ödülle ilgili bir inceleme blog yazısında Microsoft, 17 farklı hata ödül programında 1.180 güvenlik açığı bildiren dünya çapındaki 345 güvenlik araştırmacısına 13,8 milyon dolar ödül ödediğini söyledi.
Geçtiğimiz yıl şirket, hata ödül programına şirket içi Exchange, SharePoint ve Skype Kurumsal’ı ekledi ve Microsoft 365 programı aracılığıyla bildirilen yüksek etkili güvenlik kusurlarına yönelik maksimum ödülleri artırdı.