Bu yılın başlarında, federal kurumlar için bütçe kurallarını belirleyen Yönetim ve Bütçe Ofisi (OMB), hem kurumlar hem de kamu için sorumlu yapay zeka tedarikinin önemli yönlerini özetleyen, Hükümette Yapay Zekanın Sorumlu Ediniminin Geliştirilmesine ilişkin bir mutabakat belgesi yayınladı. dağıtım. OMB’nin bildirisinde özellikle yapay zeka kırmızı ekibinin ABD devlet kurumları için yapay zekanın satın alınmasında kritik bir unsur olduğu vurgulandı.
ABD Federal Ajansı Yapay Zeka Tedarik Kuralları
Geçtiğimiz Ekim ayında Biden-Harris Yönetimi, Yapay Zekanın Güvenli, Emniyetli ve Güvenilir Geliştirilmesi ve Kullanımına (AI EO) ilişkin bir Yönetici Kararnamesi yayınladı. Bu kapsamlı eylem, ABD hükümetinin yapay zekayı güvenli ve emniyetli bir şekilde kullanma yaklaşımının tonunu belirledi ve OMB’nin, ABD devlet kurumlarına yapay zeka ürünleri ve hizmetleri alırken risklerin nasıl yönetileceği konusunda rehberlik sağlamasını gerektirdi.
HackerOne’ın sorumlu yapay zeka dağıtımı lehine uzun süredir devam eden politika savunuculuğuna uygun olarak, HackerOne tarafından desteklenen en iyi güvenlik ve emniyet uygulamalarının yapay zeka EO ile nasıl uyumlu hale geldiği ve OMB’nin bu kılavuzu geliştirmesinde kullanılması gerektiği konusunda OMB’ye yorumlar sunduk. HackerOne özellikle yapay zeka kırmızı ekip oluşturmanın, yapay zeka kırmızı ekip metodolojisinin şeffaflığını sağlamanın ve federal kurumların kaçınmaya çalıştığı belirli zararları ve önyargıları belgelemenin faydalarından bahsetti. Bu öneriler, siber güvenliği geliştirmek için devlet kurumları ve şirketlerle çalışma konusundaki kapsamlı deneyimimize ve yapay zeka modellerini test ederken benzer en iyi uygulamaları kullanmamıza dayanmaktadır.
Notun temel tavsiyelerimizi yansıttığını görmek bizi memnun etti:
-
Yapay Zeka Kırmızı Takım Çalışmasını Benimsetmek: OMB, genel kullanım için kurumsal çapta üretken yapay zeka tedarik eden kurumların, satıcıların yapay zeka kırmızı ekip sonuçlarının belgelerini sağlamasını sağlayan sözleşme gerekliliklerini içermesini bir gereklilik haline getirdi.
-
Belirli Zararların Belirlenmesi: Satıcıların dahil ettiği risk kategorilerine ek olarak OMB, kurumları dokuz spesifik risk kategorisiyle ilgili yapay zeka kırmızı ekip çalışmasını kapsayacak belgeler talep etmeye teşvik etti.
Bu unsurların bildiriye dahil edilmesi, kritik operasyonları destekleyen yapay zeka ürün ve hizmetlerinin potansiyel riskleri ve zararları belirlemek için proaktif olarak test edilmesini zorunlu kılarak ABD federal hükümetinin güvenliğinin ve etkinliğinin korunmasına yardımcı olacaktır. Ayrıca, yapay zeka ürünlerinin ve hizmetlerinin emniyetini ve güvenliğini sağlamaya ve müşterilerinin güvenini oluşturmaya yardımcı olmak için tüm şirketlerin benimsemesi gereken en iyi uygulama olarak yapay zeka kırmızı ekibinin rolünün altını çiziyor.
HackerOne ile AI kırmızı ekibi hakkında daha fazla bilgi edinin.