Google, amiral gemisi Gemini platformu da dahil olmak üzere AI ürünlerinde güvenlik kusurlarını başarılı bir şekilde tanımlayan ve rapor eden araştırmacılar için 30.000 dolara kadar ödemeler sunan yeni bir AI güvenlik açığı ödül programı (VRP) sundu.
Bu yeni program, Google’ın özellikle 2023’te kötüye kullanımı VRP’sinin genişlemesinden sonra etik hackleme ve güvenlik açığı raporlamasını teşvik etme çabalarının bir gelişimidir. AI’yi geleneksel güvenlik açığı ödül sistemine entegre eden daha önceki girişim, umut verici sonuçlar verdi.
Kuruluşundan bu yana, yalnızca AI ürünleri ile ilgili bulgular için araştırmacılara 430.000 dolardan fazla para verildi. Güvenlik mühendisliği yöneticileri Jason Parsons ve Zak Bennett tarafından kabul edildiği gibi, bu çabanın başarısı, sadece AI’ya odaklanmış daha tanımlanmış ve kapsamlı bir ödül sistemi başlatma zeminini attı.
Neden yeni Google AI VRP?
Google, şimdiye kadar AI ile ilgili hata raporlarının kapsamının belirsiz olduğunu kabul ediyor. Araştırmacılar, hangi tür sorunların ödüller için kalifiye olduğu ve belirli hataları nerede rapor edeceğinden emin değildi. Bir yanıt olarak, şirket hem güvenlik açıklarını hem de istismar sorunlarını tek bir ödül yapısı altında birleştirerek bağımsız bir AI VRP oluşturdu.
Parsons ve Bennett, netlik eksikliğinin temel bir endişe olduğunu belirttiler: “AI ödüllerinin kapsamının her zaman net olmadığını duyduk” dedi. Güncellenen program, belirli kategorileri tanımlayarak ve etki, yenilik ve ürün hassasiyetine göre ödülleri hizalayarak ele alır.
Güvenlik açığı olarak ne sayılır?
AI VRP, S1 arasında A6’ya kadar değişen sekiz farklı kategoriyi özetlemektedir:
- S1: Rogue Eylemleri – Bir kurbanın hesabını veya önemli güvenlik sonuçlarına sahip verileri değiştirebilecek saldırılar (20.000 dolara kadar).
- S2: Hassas Veri Defiltrasyonu – Kişisel veya hassas verileri içeren sızıntılar.
- A1 ila A6-Kimlik avı etkinleştirme, model hırsızlığı, bağlam manipülasyonu, erişim kontrol baypası, yetkisiz ürün kullanımı ve kullanıcı çapraz hizmet reddi gibi kapak senaryoları.
Raporun ciddiyetine ve yaratıcılığına bağlı olarak, bonuslar toplam ödülü 30.000 dolara çıkarabilir.
Ne kapsanmadı?
Google, halüsinasyonlar, hizalama sorunları, hızlı enjeksiyonlar ve jailbreaks gibi içerikle ilgili sorunların AI VRP kapsamında olmadığını açıkça belirtti. Bu konular, önemli olarak kabul edilmesine rağmen, VRP’lerin yapısıyla uyumlu olmayan uzun vadeli analiz ve model iyileştirmesi gerektirir. Bunun yerine Google, kullanıcıları ürün içi geri bildirim araçlarını kullanarak bu sorunları bildirmeye çağırıyor.
Şirket, “Bir güvenlik açığı ödül programının içerikle ilgili sorunları ele almak için doğru format olduğuna inanmıyoruz” diyor şirket, bu tür endişelerin model güncellemelerini, içerik gözden geçirenleri ve daha geniş trend analizini içeren disiplinler arası çözümlere ihtiyaç duyduğunu da sözlerine ekledi.
Yine de şirket, kullanıcıları bu tür geri bildirimleri göndermeye devam etmeye teşvik ediyor – sadece doğru kanallar aracılığıyla.
Anahtar AI ürünleri kapsamda
Google, AI ürünlerini yeni VRP altında üç katman halinde sınıflandırdı:
- Amiral gemisi katmanı: Google Search, Gemini uygulamaları (Web, Android, iOS arasında) ve Gmail, Dokümanlar, Sayfalar ve Meet gibi Core Google çalışma alanı uygulamaları gibi yüksek profilli araçlar içerir. Bunlar en yüksek ödemeleri sunar.
- Standart kademe: P’yi kapsıyorAI Studio, Jules ve NotebeBeLM ve Appsheet gibi çekirdek olmayan çalışma alanı gibi Roducts.
- Diğer Seviye: Daha az bilinen veya üçüncü taraf ürünlerde, genellikle nakit yerine kredilerle ödüllendirilen çeşitli AI özelliklerini kapsar.
Özellikle, Vertex AI ve Gemini-CLI ile ilgili konular, AI VRP’nin değil, Google Cloud VRP’nin yargı yetkisi altında kalmaktadır.
Ödül dökümü
Ödemelerin nasıl yapılandırıldığı aşağıda açıklanmıştır:
| Kategori | Amiral gemisi | Standart | Diğer |
| S1: haydut eylemler | 20.000 dolar | 15.000 dolar | 10.000 dolar |
| S2: Hassas Veri Defiltrasyonu | 15.000 dolar | 15.000 dolar | 10.000 dolar |
| A1 -A6 | 5.000 $ ile 500 $ arasında değişiyor | Bazı durumlarda krediler |
Bu rakamlar rapor kalitesi ve yenilik için çarpanlarla artabilir. Gerçekten yenilikçi bir güvenlik açığı raporu, özellikle Gemini veya başka bir amiral gemisi ürününü hackleyebilirse, maksimum 30.000 dolara kadar kazanabilir.