Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Newsom, Tasarının Felaket Risklerini Azaltmak İçin ‘Esnek’ Bir Çözüm Olmadığını Söyledi
Rashmi Ramesh (raşmiramesh_) •
29 Eylül 2024
California Valisi Gavin Newsom Pazar günü, geliştiricileri “kritik zararları” önlemeye yönelik önlemler uygulamaya itecek, hararetle tartışılan bir yapay zeka güvenlik yasa tasarısını veto etti. Newsom, tasarının “potansiyel felaket risklerini azaltmak için esnek ve kapsamlı bir çözüm sağlamakta yetersiz kaldığını” söyledi.
Ayrıca bakınız: Copilot+PC’lerle inovasyonu hızlandırın – en hızlı, en akıllı Windows PC
Demokrat Senatör Scott Wiener tarafından yazılan mevzuat, geliştirilmesi en az 100 milyon dolara mal olan yapay zeka modellerine uygulanacaktı.
Wiener, vetonun “halkın güvenliğini ve refahını ve gezegenin geleceğini etkileyen kritik kararlar alan devasa şirketlerin gözetimine inanan herkes için bir başarısızlık” olduğunu söyledi. Tasarı etrafındaki tartışmaların “uluslararası sahnede yapay zeka güvenliği konusunu önemli ölçüde ilerlettiğini” ekledi.
Sınır Yapay Zeka Modelleri için Güvenli ve Güvenli Yenilik Yasası yasa tasarısı, etkilenen yapay zeka şirketlerinin, ürünlerini halka sunmadan önce güvenliğini test etmelerini zorunlu kılmak için yazılmıştır. Bu, eyalet başsavcısının geliştiricilere bu modellerin neden olduğu ciddi zararlar nedeniyle dava açmasına olanak tanıyacaktı. Devlet dairesini dolaşırken yasa koyucu değişiklikleri, yapay zeka güvenliğine rehberlik edecek yeni bir hükümet kurumu oluşturacak dili kaldırdı. Tasarı, yeni kurulan şirketlerin ve araştırmacıların sorumlu yapay zeka gelişimine katkıda bulunmalarına olanak sağlamak ve öncü yapay zeka laboratuvarlarının çalışanları için ihbarcı korumaları oluşturmak için genel bir bulut bilişim kümesi kurmayı amaçlıyordu.
Kaliforniya senatosunun teknoloji endüstrisini sakinleştirme çabalarına rağmen yasa, güvenli yapay zeka geliştirmek için gönüllü taahhütlerde bulunan Google, Meta ve OpenAI gibi şirketlerin sürekli eleştirilerine maruz kaldı.
Değişiklik önerileri çoğunlukla değiştirilen versiyona dahil edilen tasarıyı temkinli bir şekilde destekleyen Anthropic, yayın tarihi itibarıyla Demokrat valinin vetosuna herhangi bir tepki göstermedi.
Newsom tasarıyı “iyi niyetli” olarak nitelendirdi, ancak yapay zeka sisteminin yüksek riskli ortamlarda konuşlandırılıp kurulmayacağını, kritik karar almayı mı yoksa hassas verilerin kullanımını mı kapsayacağını dikkate almadığını söyledi. Tasarının, büyük bir sistem uygulandığı sürece en temel işlevlere bile katı standartlar uyguladığını söyledi. “Bunun, halkı teknolojinin oluşturduğu gerçek tehditlerden korumanın en iyi yaklaşımı olduğuna inanmıyorum” dedi.
Eski Demokrat Meclis Başkanı Nancy Pelosi, duyurunun ardından Newsom’u “büyük teknolojinin değil, küçük girişimcilerin ve akademinin hakimiyet kurmasını sağlamak için hepimizin paylaştığı fırsat ve sorumluluğu kabul ettiği” için övdü.
Newsom, geçtiğimiz ay, Wiener yasa tasarısının “gelişmekte olan yapay zeka ekosistemimize zarar vereceğini” söyleyen “Yapay Zeka’nın vaftiz annesi” Fei-Fei Li’nin rehberliğiyle, yapay zeka düzenlemesi ve dağıtımına odaklanan 17 yasa tasarısını daha imzaladı.
Newsom, aralarında Dr. Li, Ulusal Bilimler Akademisi Bilgisayar Araştırmalarının Sosyal ve Etik Etkileri Komitesi’nden Tino Cuéllar ve UC Berkeley Bilgisayar, Veri Bilimi ve Toplum Koleji’nden Jennifer Tour Chayes’in de bulunduğu üretken yapay zeka uzmanlarına sorular sorduğunu söyledi. Kaliforniya’nın “ampirik, bilime dayalı bir yörünge analizi geliştirmeye” odaklanan “çalışabilir korkuluklar” geliştirmesine yardımcı olmak. Ayrıca devlet kurumlarından, yapay zeka kullanımıyla ilgili potansiyel yıkıcı olaylardan kaynaklanan yapay zeka risklerine ilişkin değerlendirmelerini genişletmelerini istedi.
“Kaliforniyalıları GenAI konuşlandırmasının potansiyel felaket risklerinden koruma sorumluluğumuz var. Bu hızlı hareket eden teknolojiye uyarlanabilen ve kamu yararını ilerletme potansiyelini kullanan bir çözüm üzerinde düşünceli ve hızlı bir şekilde çalışacağız” dedi.
Newsom’un imzaladığı yapay zeka yasa tasarıları arasında, Kaliforniya Acil Durum Hizmetleri Ofisi’nin yapay zekanın kritik altyapıya yönelik potansiyel tehdidini değerlendiren çalışmalarını genişletmesini gerektiren SB 896 da yer alıyor. Vali ayrıca kuruma su altyapısı sağlayıcıları ve iletişim sektörüyle aynı risk değerlendirmesini yapması talimatını verdi.
Dünyanın önde gelen 50 yapay zeka kuruluşundan 32’sine ev sahipliği yapan Kaliforniya, geçtiğimiz yıl bir idari emirle başlayarak yapay zekanın kötüye kullanımını engellemek için çeşitli tedbirleri yürürlüğe koyarak teknoloji düzenlemelerinde ulusal düzeyde ön saflarda yer aldı. Bu ayın başlarında Newsom, derin sahtekarlıkların etkisini azaltmaya odaklanan beş yasa tasarısı imzaladı.
Yeni kabul edilen Kaliforniya yasaları aynı zamanda kişisel bilgilerin yapay zeka sistemleri tarafından işlenmesini de ele alıyor, kullanımda şeffaflığı zorunlu kılıyor ve yapay zeka tarafından oluşturulan aldatıcı veya zararlı içeriğe karşı koruma sağlıyor. Kanunlar aynı zamanda eğitimde yapay zeka okuryazarlığına da odaklanıyor ve devlet iletişimlerinde, kritik altyapılarda ve sağlık hizmetleri kararlarında yapay zekanın sorumlu kullanımına yönelik çerçeveler oluşturuyor.