ABD İç Güvenlik Bakanlığı (DHS), kritik altyapılarda yapay zekanın (AI) güvenli bir şekilde nasıl geliştirilip dağıtılacağını ana hatlarıyla açıklayan öneriler yayınladı. Öneriler, bulut ve bilgi işlem altyapısı sağlayıcılarından başlayarak yapay zeka geliştiricilerine ve kritik altyapı sahiplerine ve operatörlerine kadar yapay zeka tedarik zincirindeki tüm oyuncular için geçerlidir. Sivil toplum ve kamu sektörü kuruluşlarına yönelik de öneriler var.
“Kritik Altyapıda Yapay Zeka için Görevler ve Sorumluluklar Çerçevesi”ndeki gönüllü tavsiyeler, beş temel alandaki rollerin her birini ele alıyor: ortamların güvenliğini sağlamak, sorumlu model ve sistem tasarımını desteklemek, veri yönetimini uygulamak, emniyetli ve emniyetli dağıtımı sağlamak ve performansı izlemek. ve etki. Yapay zeka sistemlerinin emniyetini, emniyetini ve güvenilirliğini artırmak için teknik öneriler ve süreç önerileri de mevcuttur.
DHS, yaptığı açıklamada yapay zekanın halihazırda sektörler arasında dayanıklılık ve risk azaltma için kullanıldığını belirterek, yapay zeka uygulamalarının deprem tespiti, elektrik şebekelerinin stabilizasyonu ve postaların sınıflandırılması için zaten kullanıldığını belirtti.
Çerçeve her rolün sorumluluklarına baktı:
-
Bulut ve bilgi işlem altyapısı sağlayıcıları donanım ve yazılım tedarik zincirlerini incelemeleri, güçlü erişim yönetimi uygulamaları ve yapay zeka sistemlerini destekleyen veri merkezlerinin fiziksel güvenliğini korumaları gerekiyor. Çerçeve aynı zamanda anormal faaliyetleri izleyerek ve şüpheli ve zararlı faaliyetleri rapor etmek için net süreçler oluşturarak alt müşteri ve süreçleri destekleme konusunda da tavsiyeler içermektedir.
-
Yapay zeka geliştiricileri Güvenli Tasarım yaklaşımını benimsemeli, yapay zeka modellerinin tehlikeli yeteneklerini değerlendirmeli ve “modelin insan odaklı değerlerle uyumunu sağlamalıdır.” Çerçeve ayrıca yapay zeka geliştiricilerini güçlü gizlilik uygulamaları uygulamaya teşvik ediyor; olası önyargıları, hata türlerini ve güvenlik açıklarını test eden değerlendirmeler yürütmek; ve kritik altyapı sistemleri ve bunların tüketicilerine yönelik yüksek riskler sunan modeller için bağımsız değerlendirmeleri desteklemek.
-
Kritik altyapı sahipleri ve operatörleri Yapay zeka ile ilgili riskleri hesaba katan güçlü siber güvenlik uygulamalarının sürdürülmesi, yapay zeka ürünlerinde ince ayarlar yapılırken müşteri verilerinin korunması ve halka mal, hizmet veya fayda sağlamak için yapay zeka kullanımlarına ilişkin anlamlı şeffaflık sağlanması da dahil olmak üzere yapay zeka sistemlerini güvenli bir şekilde dağıtmalıdır.
-
Sivil toplumYapay zeka emniyeti ve güvenliği konularıyla ilgilenen üniversiteler, araştırma kurumları ve tüketici savunucuları da dahil olmak üzere, hükümet ve endüstrinin yanı sıra standart geliştirme üzerinde çalışmaya ve ayrıca kritik altyapı kullanım durumlarını dikkate alan yapay zeka değerlendirmeleri üzerine araştırmalar yapmaya devam etmelidir.
-
Kamu sektörü Federal, eyalet, yerel, kabile ve bölgesel hükümetler de dahil olmak üzere kuruluşlar, yasal ve düzenleyici eylemler yoluyla yapay zeka emniyeti ve güvenliğine yönelik uygulama standartlarını geliştirmelidir.
DHS sekreteri Alejandro N. Mayorkas yaptığı bir açıklamada, “Çerçeve geniş çapta benimsenirse, temiz su, tutarlı güç, internet erişimi ve daha fazlasını sağlayan kritik hizmetlerin emniyet ve güvenliğini daha iyi sağlamak için uzun bir yol kat edecek” dedi.
DHS çerçevesi, yapay zekanın kritik altyapıda güvenli ve emniyetli kullanımı için paylaşılan ve ayrı sorumluluklardan oluşan bir model önermektedir. Ayrıca kuruluşların belirli sistemler veya uygulamalar için yapay zeka kullanmanın zarara yol açabilecek ciddi riskler taşıyıp taşımadığını değerlendirmesini sağlamak için mevcut risk çerçevelerine de güveniyor.
Mayorkas bir medya görüşmesi sırasında şunları söyledi: “Açıkçası, çerçevenin yaşayan bir belge olmasını ve sektördeki gelişmeler değiştikçe değişmesini amaçlıyoruz.”