Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Uzmanlar Son Yapay Zeka Rehberliklerinin Gönüllü Doğası Hakkında Endişelerini Dile Getiriyor
Chris Riotta (@chrisriotta) •
31 Ekim 2023
Yedi sanayileşmiş demokrasinin üyeleri, gelişmiş yapay zeka geliştiricileri için küresel bir dizi yönerge ve beklenti oluşturmayı amaçlayan gönüllü bir davranış kuralları üzerinde anlaştılar.
Ayrıca bakınız: Güvenlik Operasyon Merkezini Modernleştirmeye Yönelik 5 İpucu
Kanada, Fransa, Almanya, İtalya, Japonya, İngiltere ve ABD’den oluşan G7 ekonomilerinin liderleri bu hafta anlaşmaya vardı. Rehber, geliştiricileri yapay zeka sistemleriyle ilgili yetenekler, riskler ve sınırlamalar hakkında kamuya açık raporlama yapmaya teşvik ediyor ve küresel yapay zeka düzenlemelerini, sınır ötesi yapay zeka dağıtımları için uluslararası teknik standartlarla uyumlu hale getirmeyi amaçlıyor.
Davranış kuralları tamamen isteğe bağlıdır ve G7 ülkelerindeki kuruluşların yasal olarak bu kurallara uyma zorunluluğu yoktur. Güvenlik araştırmacıları ve teknoloji uzmanları, Bilgi Güvenliği Medya Grubu’na, anlaşmanın gönüllü yapısının, etkinliği ve hükümlerinin özel sektörde ne kadar geniş çapta benimseneceği konusunda soru işaretleri yarattığını söyledi.
Yönergeyi takip eden kuruluşlar, yapay zeka yaşam döngüsü boyunca içeriden gelen tehditlere karşı koruma gibi sağlam güvenlik kontrollerini uygularken kırmızı ekip oluşturma ve test önlemlerini uygulamalıdır. Yapay zeka geliştiricilerinin ayrıca güvenlik, güvenlik ve toplumsal risklere yönelik yapılan değerlendirmeleri kamuya açık olarak raporlamaları da beklenecek.
Güvenlik firması Elastic’in siber çözümlerden sorumlu bölgesel başkan yardımcısı John Harmon, davranış kurallarının “konsept olarak harika” olduğunu ancak “vatandaşları gelecekteki yapay zeka kullanımının olumsuz sonuçlarından koruma amacını gerçekten yerine getirmek için ince ayar gerektirebileceğini” söyledi. Aynı zamanda bu alanda yeniliği teşvik ederken.”
Elastic’in federal siber çözümler işini yöneten Harmon, “Kamu sektörü için yapay zekanın şu anda en büyük sorunlarından biri, iç hükümet kullanımına yönelik merkezi bir modelin bulunmaması gerçeğidir” dedi. “Gerici olmak yerine, yapay zeka kullanımıyla ilgili olası sorunların önüne geçmeli ve teknolojinin kullanımını detaylandıracak mevzuatı kullanmalıyız.”
G7 anlaşması, ABD Başkanı Joe Biden’ın Soğuk Savaş dönemi yürütme yetkilerine başvurduğu ve yapay zeka modellerinin geliştiricilerinin güvenlik testi sonuçlarını federal hükümetle paylaşmalarını gerektiren bir emri imzaladığı gün açıklandı. Güvenlik analistleri ve politika yapıcılar, Beyaz Saray kılavuzunun şu anda düzenin temel önlemlerini uygulamak için gereken mevzuattan yoksun olduğunu söyledi.
Başkan, imza töreni sırasında “Bu yönetim emri cesur bir eylemi temsil ediyor, ancak yine de Kongre’nin harekete geçmesine ihtiyacımız var” diyerek milletvekillerini yapay zekaya ilişkin iki partili yasayı geçirmeye teşvik etti.
Hükümetin yapay zekadan sorumlu kıdemli başkan yardımcısı ve askeri istihbarat yüklenicisi Booz Allen Hamilton’dan Graham Gilmer, yürütme emri ve G7 davranış kuralları tavsiyelerinin temalar ve spesifik tavsiyeler açısından “önemli örtüşmelere” sahip olduğunu söyledi.
Gilmer, ISMG’ye şöyle konuştu: “Her ikisi de dünya genelindeki hükümetlerin, yapay zekanın vaatlerini gerçekleştirmede liderlik pozisyonunu üstlenmesinde ve bunu sorumlu bir şekilde gerçekleştirmesinde mükemmel ilk adımları temsil ediyor.” Yeni yönergeleri güvenli ve emniyetli yapay zeka teknolojisi gelişimini ve yeniliğini teşvik etmek için bir “başlangıç noktası” olarak nitelendirdi.
Ayrıca G7 davranış kurallarının, yapay zeka sistemleri için kendi standartlarını ve düzenlemelerini geliştiren ülkelerdeki diğer yapay zeka yasama paketleriyle nasıl uyum sağlayacağını da zaman gösterecek. Uzmanlar, değişen çerçeve potansiyelinin küresel yapay zeka ortamında yeni karmaşıklıklar ortaya çıkarabileceğini ve yapay zeka geliştirme ve yönetişimi konusunda uluslararası işbirliği için önemli zorluklar yaratabileceğini söyledi.
“Hem G7 davranış kuralları hem de [executive order] Risk yönetimi şirketi ClearForce’un CEO’su Tom Miller, “Hükümetlerin ve özel sektör kuruluşlarının üzerine inşa edebileceği ve geliştirebileceği bir işaretleyiciyi önceden belirlemek amacıyla aynı doğrultuda hareket ediyoruz” dedi ve şöyle devam etti: “Bu kesinlikle Amerika Birleşik Devletleri’nin liderlik etmesi için harika bir fırsat. örnek olmak ve demokratik piyasa ilkelerini sağlamak – diğerlerinin yanı sıra önyargı veya ayrımcılığın ortadan kaldırılması – bu ilk girişimlerin ön saflarında yer alıyor.”