Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Uzmanlar, Yapay Zekayla İlişkili Güvenlik Risklerine Odaklanılan Yönetici Kararını Övdü
Chris Riotta (@chrisriotta) •
30 Ekim 2023
ABD Başkanı Joe Biden, AI sistemleri için yeni standartlar ve düzenlemeler belirlemeyi amaçlayan kapsamlı bir yürütme emriyle Soğuk Savaş döneminde özel sektör üzerindeki yürütme yetkilerine başvurduktan sonra Kongre’ye yapay zeka konusunda kapsamlı bir yasa çıkarmaya çağrıda bulundu.
Ayrıca bakınız: Güvenlik Operasyon Merkezini Modernleştirmeye Yönelik 5 İpucu
Biden Pazartesi günkü imza töreninde, “Bu başkanlık emri cesur bir eylemi temsil ediyor, ancak yine de Kongre’nin harekete geçmesine ihtiyacımız var” dedi. Başkan, yapay zeka sistemleriyle ilgili risklerin azaltılmasına yönelik “kongre eyleminin gerekliliğini vurgulamak için” Salı günü Beyaz Saray’da iki partili bir grup milletvekilini toplayacağını da sözlerine ekledi.
Yürütme emri, Beyaz Saray’ın yeni koronavirüs salgını boyunca aşılar ve temel tıbbi malzemeleri geliştirmek için kullandığı 1950 tarihli Savunma Üretim Yasası’nı yürürlüğe koyuyor ve gelişmiş yapay zeka modellerinin geliştiricilerine, güvenlik testlerinin sonuçlarını federal hükümete bildirmeleri yönünde talimat veriyor.
Karar aynı zamanda bir Yapay Zeka Güvenlik ve Güvenlik Kurulu oluşturuyor, kilit alanlarda yapay zeka araştırmaları için hibe programlarını genişletiyor ve Ulusal Standartlar ve Teknoloji Enstitüsü’ne yeni temel modellerin kapsamlı kırmızı ekip testleri için standartlar belirlemesi yönünde talimat veriyor. Rehberlik uyarınca yapay zeka geliştiricilerinin, ulusal güvenliğe “ciddi risk” oluşturabilecek modelleri eğitirken hükümeti bilgilendirmeleri gerekecek.
Biden, Doğu Odası imza töreninde izleyicilere kendisinin yapay zekaya sahip derin sahte bir videosunu gördüğünü söyledi. “Benden birini izledim. ‘Ben bunu ne zaman söyledim?’ dedim. Ama şaka bir yana, ailenizi veya sizi kandırmaya yetecek kadar iyi bir taklit oluşturmak için sesinizin üç saniyelik bir kaydı,” dedi. “Bu akıllara durgunluk veren bir şey.”
Senato Çoğunluk Lideri Chuck Schumer (D-NY), imza töreninin ardından yaptığı açıklamada, Kongre’nin yönetimin yapay zeka sistemlerinin sorumlu bir şekilde geliştirilmesini iki partili mevzuatla desteklemek için gerçekleştirdiği eylemleri “arttırması, genişletmesi ve sağlamlaştırması” gerektiğini kabul etti.
Schumer, “Bu ileriye doğru atılmış büyük bir adım, ancak elbette daha fazlasına ihtiyaç var” dedi. “Kongre artık acil ve tevazu ile hareket etmelidir.”
Yönetici emri, yapay zeka araştırmacılarına ve öğrencilerine Ulusal Yapay Zeka Araştırma Kaynağı aracılığıyla kaynaklara erişim hakkı vermek de dahil olmak üzere, yapay zeka araştırma ve geliştirmesinde yeniliği teşvik ediyor. Aynı zamanda uluslararası işbirliğinin ve kamu ile özel sektör arasında artan bilgi paylaşımının öneminin altını çiziyor. Emir, Dışişleri ve Ticaret bakanlıklarına yapay zeka risklerini yönetmek için kapsamlı uluslararası çerçeveler oluşturma konusunda öncü çaba gösterme görevi veriyor ve NIST’e, yapay zekanın sorumlu bir şekilde geliştirilmesi ve konuşlandırılması için kapsamlı yönergeler ve en iyi uygulamalar geliştirerek yapay zeka emniyeti ve güvenliğini ilerletmede önemli bir rol oynama talimatı veriyor. sistemler.
Güvenlik firması Elastic’in CISO’su Mandy Andress, Information Security Media Group’a, emrin düzenlemelerin geliştirilmesi ve yapay zeka geliştiricilerinden destek alınması yönünde “pragmatik” bir yaklaşım gerektirdiğini, NIST’in standartların geliştirilmesinde ve bilgi paylaşımı girişimlerinin genişletilmesinde lider olduğunu söyledi. Siber Güvenlik ve Altyapı Güvenliği Ajansı da dahil olmak üzere hükümet. Elastic, bu yılın başlarında CISA’nın amiral gemisi olan kamu-özel ortaklığı Ortak Siber Savunma İşbirliği’ne katıldı.
Güvenlik araştırmacıları, yapay zeka geliştiricilerine potansiyel olarak zararlı temel modelleri eğitirken hükümeti bilgilendirme zorunluluğu getiren ve NIST’e kırmızı ekip oluşturma standartları oluşturma görevi veren yönetim emrini övdü. Düşünce kuruluşu Yeni Amerikan Güvenliği Merkezi’nin başkan yardımcısı ve araştırma direktörü Paul Scharre, bu adımların “en güçlü yapay zeka sistemlerinin halka açılmadan önce güvenli olduklarından emin olmak için sıkı bir şekilde test edilmesini” sağlamaya yardımcı olacağını söyledi.
Karar, federal desteğin geliştirilmesine ve gizliliği koruyan tekniklerin kullanılmasına öncelik verilmesi ve yapay zeka sistemlerinin gizlilik önlemleriyle eğitilmesini sağlamak da dahil olmak üzere, Amerika Birleşik Devletleri’nde yapay zeka geliştirme ve kullanımı etrafında gizliliğin korunması için bir temel oluşturuyor. Mevzuat olmadan, yapay zekanın ortaya çıkardığı geniş kapsamlı gizlilik kaygılarının tam olarak ele alınmasında sınırlamalar hızla ortaya çıkabilir.
Kâr amacı gütmeyen kamu yararına çalışan bir grup olan Public Knowledge’in başkanı ve CEO’su Chris Lewis, “Bu yönetim emri önemli bir ilk adım olsa da, etkisi federal kurumların satın alma ve araştırma yoluyla örnek teşkil etme gücüyle sınırlıdır” dedi. “Kongrenin yapay zeka için sağlam bir düzenleyici çerçeve geliştirme konusundaki çalışmalarına devam etmesini umuyoruz.”
“Bu, kapsamlı bir gizlilik yasasının çıkarılmasını, daha güçlü antitröst korumalarını ve inovasyonun hızına ayak uydurabilecek kaynaklara ve yetkiye sahip uzman bir düzenleyici kurumu içerecektir” diye ekledi.
ABD’de, özellikle yapay zekaya ve onun potansiyel risklerine odaklanan kapsamlı bir gizlilik yasası veya düzenleyici yasa bulunmamasına rağmen, son dönemdeki bazı yasa tasarıları ve Beyaz Saray yönergeleri, yapay zeka etiği ve hesap verebilirliği için bir temel oluşturmaya çalıştı. Yönetim daha önce önde gelen yapay zeka şirketlerinden yapay zeka sistemleri için güvenli ve şeffaf geliştirme süreçleri uygulamaya yönelik gönüllü taahhütler almış ve yapay zeka haklar bildirgesi için bir plan yayınlamıştı (bkz: ABD Milletvekilleri Yapay Zekanın ‘Güvenlik Frenine’ İhtiyacı Olduğu Konusunda Uyardı).
Temsilciler Meclisi Enerji ve Ticaret Komitesi Başkanı Cathy McMorris Rodgers (R-WA), Kongre’nin halihazırda Ticaret Bakanlığı’na yapay zeka geliştirmede ABD’nin rekabet gücünü keşfetme talimatı veren 2020 Amerikan REKABETLER Yasası kapsamında yapay zekayı güvence altına almak için stratejiler uyguladığını söyledi.
“Şirketler yapay zekayı bünyesine katmaya başladıkça, süreçteki yenilikçiliği korurken her Amerikalının, özellikle de çocuklarımızın kişisel bilgilerini korumamız ve güvence altına almamız gerekiyor” dedi. “Bunu yapmanın en iyi yolunun kapsamlı bir veri gizliliği ve güvenliği yasasını yürürlüğe koymak olduğu konusunda Başkan Biden’a katılıyorum; bu, Amerika’nın yapay zeka alanındaki liderliğini güçlendirmenin ilk adımı olmalıdır” (bkz: ABD Temsilciler Meclisi Paneli: Yapay Zeka Düzenlemesi Gizlilikle Başlıyor).