Google, hata ödül programını, diğer adıyla Güvenlik Açığı Ödül Programı’nı (VRP), Google’ın üretken yapay zeka sistemlerinden kaynaklanabilecek tehditleri kapsayacak şekilde genişletti.
Google’ın AI hata ödül programı
Biden-Harris Yönetimi’nin sorumlu yapay zeka geliştirme ve risklerini yönetme konusundaki gönüllü taahhüdünün ardından Google, Google sistemlerindeki güvenlik açıklarını başarıyla bulup ifşa eden etik bilgisayar korsanlarına takdir ve tazminat sağlayan hata ödül programına yapay zeka ile ilgili riskleri ekledi. .
Şirket, tehdit aktörlerinin yapay zeka sistemlerine saldırmak için kullanabileceği ortak taktikleri, teknikleri ve prosedürleri (TTP’ler) belirledi:
- Hızlı saldırılar – Bir saldırgan, çıktıyı uygulamanın amaçlamadığı şekillerde etkilemek için büyük dil modeline (LLM) kötü niyetli bir bilgi istemi girer
- Eğitim verilerinin çıkarılması – Bir saldırgan, ML modellerini geliştirmek için kullanılan eğitim verilerine yetkisiz erişim elde eder ve bu verileri çıkarır; bu da potansiyel olarak bu modelin bütünlüğünü ve güvenilirliğini tehlikeye atar
- Modelleri manipüle etmek – Önceden tanımlanmış düşmanca davranışları tetiklemek için modelin davranışını değiştirmek
- Olumsuz tedirginlik – Modelin yanlış veya istenmeyen çıktılar üretmesine neden olmak için tasarlanmış küçük, kasıtlı olarak hazırlanmış bir girdi değişikliği
- Model hırsızlığı / sızma – Google modellerinin mimarisi veya ağırlıkları gibi ayrıntılara izinsiz erişim ve bunların sızması
Şirket, “Yapay zeka destekli bir araçta yukarıda listelenenlerin dışında bir kusur bulursanız, nitelikleri karşılaması koşuluyla yine de gönderebilirsiniz” dedi.
Yapay zeka risklerini yönetmek
Bu yılki DEF CON Yapay Zeka Köyü’nde kırmızı ekipler, popüler Yüksek Lisans’ları potansiyel güvenlik açıkları açısından inceleme ve üretken yapay zeka özelliklerinin olası kötüye kullanımını inceleme fırsatı buldu.
Microsoft kısa süre önce, şirketin yapay zeka destekli Bing deneyimindeki güvenlik açıklarını bulmaları için hata avcılarını 15.000 dolara kadar ödüllendiren kendi yapay zeka hata ödül programını duyurdu.
Google ayrıca SLSA tedarik zinciri güvenlik yönergelerinden ve Sigstore kod imzalama araçlarından yararlanarak AI tedarik zincirinin güvenliğini sağlamak için adımlar attığını da duyurdu.