HackerOne, yapay zeka sistemlerini iyi niyetle test eden araştırmacılar için yetkilendirme ve yasal koruma sağlayan yeni bir sektör çerçevesi olan İyi Niyetli Yapay Zeka Araştırma Güvenli Limanı’nı tanıttı. Yapay zeka sistemleri kritik ürün ve hizmetlerde hızla ölçeklendiğinden, testlerle ilgili yasal belirsizlikler sorumlu araştırmayı yavaşlatabilir ve riski artırabilir. Yeni güvenli liman, kuruluşlara ve yapay zeka araştırmacılarına yapay zeka risklerini daha hızlı ve daha büyük etkiyle bulup düzeltmeleri için ortak bir standart sunarak bu sürtüşmeyi ortadan kaldırıyor.
Bu duyuru, HackerOne’ın 2022’de tanıtılan ve geleneksel yazılımlarda iyi niyetli güvenlik araştırmalarını korumak için geniş çapta benimsenen Altın Standardı Güvenli Liman’ı temel alıyor. İki çerçeve birlikte kuruluşların hem geleneksel hem de yapay zeka destekli sistemlerde araştırmayı nasıl yetkilendirmesi, desteklemesi ve koruması gerektiğini tanımlar.
Yapay zeka testleri genellikle geleneksel güvenlik açığı açıklama çerçevelerine tam olarak uymayan teknikleri ve sonuçları içerir, bu da keşfi yavaşlatabilecek ve riski artırabilecek yasal belirsizlik yaratır. İyi Niyetli Yapay Zeka Araştırması Güvenli Limanı, İyi Niyetli Yapay Zeka Araştırmasını tanımlayarak ve sorumlu yapay zeka testlerine açıkça yetki vererek bu sorunu çözmektedir.
HackerOne Hukuk ve Politika Direktörü Ilona Cohen, “Beklentiler belirsiz olduğunda yapay zeka testleri başarısız oluyor” dedi. “Kuruluşlar yapay zeka sistemlerinin test edilmesini istiyor ancak araştırmacıların, doğru şeyi yapmanın onları riske atmayacağına dair güvene ihtiyacı var. İyi Niyetli Yapay Zeka Araştırma Güvenli Limanı, yapay zeka araştırmaları için açık, standartlaştırılmış yetkilendirme sağlayarak her iki taraftaki belirsizliği ortadan kaldırıyor.”
İyi Niyetli Yapay Zeka Araştırma Güvenli Limanı’nı benimseyen kuruluşlar, iyi niyetli yapay zeka araştırmalarını yetkili faaliyet olarak tanımayı taahhüt ederler. Bu, yasal işlem yapmaktan kaçınmayı, kısıtlayıcı hizmet koşullarından sınırlı muafiyetler sağlamayı ve üçüncü tarafların yetkili araştırmalarla ilgili iddialarda bulunması durumunda araştırmacıları desteklemeyi içerir. Güvenli liman yalnızca benimseyen kuruluşun sahip olduğu veya kontrol ettiği yapay zeka sistemleri için geçerlidir ve sorumlu açıklama ve işbirliğini desteklemek üzere tasarlanmıştır.
HackerOne CEO’su Kara Sprague, “Yapay zeka güvenliği sonuçta güven ile ilgilidir” dedi. “Yapay zeka sistemleri gerçek dünya koşullarında test edilmezse güven hızla erozyona uğrar. Güvenli liman korumalarını yapay zeka araştırmalarına kadar genişleterek HackerOne, yapay zeka çağında sorumlu testlerin nasıl çalışması gerektiğini tanımlıyor. Bu, kuruluşların sorunları daha erken bulmasının, araştırmacılarla verimli bir şekilde çalışmasının ve yapay zekayı güvenle kullanmanın yoludur.”
Good Faith AI Research Safe Harbor, HackerOne müşterilerine, Gold Standard Safe Harbor ile birlikte benimsenebilecek bağımsız bir çerçeve olarak sunulmaktadır. Bunu benimseyen programlar, araştırmacılara yapay zeka testlerinin memnuniyetle karşılandığının, izin verildiğinin ve korunduğunun sinyalini vererek daha yüksek kalitede testler ve daha güçlü sonuçlar sağlayabilir.