Yapay Zeka ve Makine Öğrenmesi, Hükümet, Sektöre Özel
Yeni Sürüm, Yapımcılarını Mutlu Tutarken Yapay Zeka Güvenliğini Sağlamayı Amaçlıyor
Rashmi Ramesh (raşmiramesh_) •
20 Ağustos 2024
Kaliforniya eyalet milletvekilleri, sektörden ve federal temsilcilerden gelen eleştiriler sonrasında yapay zeka felaketlerini önlemeyi amaçlayan bir yasa tasarısını sulandırdı.
Yapay zeka firması Anthropic, Temsilciler Zoe Lofgren ve Nancy Pelosi gibi federal Demokrat Körfez Bölgesi milletvekilleriyle birlikte, eyalet senatörü Scott Wiener’ın Sınır Yapay Zeka Modelleri için Güvenli ve Emniyetli Yenilik Yasası’na son birkaç haftadır karşı çıktı ve bu yasanın yürürlüğe girmesinin, Yasa tasarısı Kaliforniya’yı inovasyona karşı düşmanca bir tutuma sokabilir ve şirketleri ülkenin başka yerlerinde şirket kurmaya zorlayabilir.
Ayrıca bakınız: 2024’e Bakış: Kara Para Aklama ve Mali Suçlara Uyumda Küresel Eğilimler
Perşembe günü Kaliforniya Meclisi Tahsisat Komitesi tarafından onaylanan düzeltilmiş bir versiyon, eyalet başsavcısının felaketli bir olaydan önce ihmalkar güvenlik uygulamaları nedeniyle AI şirketlerine dava açmasına izin veren bir dil içermiyor. Uzlaşma dili, en üst düzey kolluk kuvvetleri görevlisinin tehlikeli operasyonların durdurulmasını isteyebileceğini söylüyor. Eyalet başsavcısı, felaketli bir olaydan sonra dava açabilecek.
Wiener, Perşembe günü yasa tasarısının revizyonu hakkında, “Önerilen çok makul sayıda değişikliği kabul ettik… Temel endişeleri giderdik” dedi.
“Değişiklikler, hem inovasyon hem de güvenlik konusunda dünya lideri olan Anthropic’in talep ettiği değişikliklerin yüzde 100’ünü yansıtmasa da, önerilen çok makul değişiklikleri kabul ettik ve Anthropic ile sektördeki diğer birçok şirketin dile getirdiği temel endişeleri giderdiğimize inanıyorum” dedi.
Yeni sürüm, AI şirketlerinin yalan yere yemin cezası altında güvenlik testi sonuçlarını sunma gerekliliğini ortadan kaldırıyor. Model geliştiricilerinin, önceki sürümün zorunlu kıldığı “makul güvence” yerine, ürünlerinin felaket riskleri oluşturmamasını sağlamak için yalnızca “makul özen” göstermeleri gerekecek. Geliştiricilerin açık kaynaklı modelleri ince ayar yaptığı durumlarda, sorumluluk yalnızca geliştiricinin altta yatan modeli ince ayarlamak için en az 10 milyon dolar harcaması durumunda bir sorun haline gelecektir.
Vali Gavin Newsom’un, yapay zeka geliştirme kullanım durumları ve riskleri hakkında daha derinlemesine araştırma yapılmasını talep eden yürütme emrine göre, dünyanın en iyi 50 yapay zeka şirketinin 35’i Kaliforniya’da bulunuyor (bkz: Kaliforniya Yürütme Emri ‘Güvenilir Yapay Zeka’yı Güvence Altına Almayı Umuyor).
Bölgesi San Jose’nin bazı kısımlarını da kapsayan Lofgren, bu ayın başlarında Weiner’a, mevzuatın “kamu için herhangi bir açık faydası” olmadığı için “çok endişeli” olduğunu söyledi. “Şirketlerin diğer yargı bölgelerinde şirketleşmeye karar vermeleri veya Kaliforniya’da modelleri yayınlamamaları konusunda gerçek bir risk var” dedi.
San Francisco’nun büyük bir bölümünü kapsayan seçim bölgesinin eski Temsilciler Meclisi Başkanı Pelosi, daha önce yasa tasarısını “yardımcı olmaktan çok zararlı” olarak tanımlamış ve “Kongre’deki çoğumuzun görüşü, SB 1047’nin iyi niyetli ama bilgisizce olduğu yönünde” demişti. Pelosi, Kaliforniya’nın “küçük girişimcilerin ve akademisyenlerin – büyük teknoloji şirketlerinin değil – egemen olmasına izin veren bir yasaya sahip olması gerektiğini” söyledi.
Wiener, Pelosi’nin açıklamalarına “kesinlikle” katılmadığını belirterek, yasa tasarısının “sadece en büyük yapay zeka geliştiricilerinin, her birinin tekrar tekrar yapmayı taahhüt ettiği şeyi yapmasını: Çok güçlü yapay zeka modelleri üzerinde temel güvenlik testleri gerçekleştirmesini” gerektirdiğini sözlerine ekledi.
Demokrat senatörler Richard Roth, Susan Rubio ve Henry Stern tarafından ortaklaşa hazırlanan yasa tasarısı, Toronto Üniversitesi’nde bilgisayar bilimi alanında emekli profesör olan yapay zeka öncülerinden Geoffrey Hinton ve Montreal Üniversitesi’nde bilgisayar bilimi profesörü ve eski Google yapay zeka şefi olan Yoshua Bengio’dan destek aldı.
“Kırk yıl önce, ChatGPT gibi araçların arkasındaki AI algoritmalarının ilk versiyonunu eğitirken, kendim de dahil olmak üzere hiç kimse AI’nın ne kadar ilerleyeceğini tahmin edemezdi. Güçlü AI sistemleri inanılmaz bir vaat getiriyor, ancak riskler de çok gerçek ve son derece ciddiye alınmalı,” dedi Hinton ve mevzuatın “bu endişeleri dengelemek için çok mantıklı bir yaklaşım benimsediğini” ekledi.
Tasarı, komitede değiştirildikten sonra hala muhalefetle karşı karşıya. Girişim sermayesi şirketi Andreessen Horowitz’in genel ortağı Martin Casado, değişiklikleri tasarının “gerçek sorunlarını veya eleştirilerini” ele almayan “vitrin süslemesi” olarak nitelendirdi. Ayrı olarak, Kaliforniya’yı temsil eden ABD Temsilciler Meclisi’nin sekiz Demokrat üyesi Newsom’a, tasarıyı veto etmesi için Newsom’a mektup yazdı. Mektupta, bu mevzuatın “eyaletimiz, yeni kurulan şirket topluluğu, bilimsel gelişim veya hatta yapay zeka gelişimiyle ilişkili olası zararlara karşı koruma için iyi olmayacağını” söylüyor.
Yasa tasarısının şimdi Kaliforniya Meclisi’nin son oylamasından geçmesi gerekiyor. Eğer geçerse, Senato’ya sevk edilecek.