Yapay zeka sorunları üzerinde çalışan bir ABD hükümet yetkilisi, raporlama gerekliliklerinin, hükümeti giderek daha güçlü hale gelen yapay zeka modellerindeki potansiyel olarak tehlikeli yeni yetenekler konusunda uyarmak için gerekli olduğunu söylüyor. Özgürce konuşmak için isminin gizli kalmasını talep eden yetkili, OpenAI’nin son modelinin “sinir gazlarını sentezleme taleplerini tutarsız bir şekilde reddettiğini” kabul ettiğine dikkat çekiyor.
Yetkili, raporlama zorunluluğunun aşırı külfetli olmadığını söylüyor. Avrupa Birliği ve Çin’deki AI düzenlemelerinin aksine, Biden’ın EO’sunun “yeniliği teşvik etmeye devam eden çok geniş, hafif dokunuşlu bir yaklaşımı” yansıttığını iddia ediyorlar.
2019’dan 2023’e kadar İç Güvenlik Bakanlığı’nın gelişen teknolojilerden sorumlu ilk yöneticisi olarak görev yapan Nick Reese, raporlama zorunluluğunun şirketlerin fikri mülkiyetini tehlikeye atacağı yönündeki muhafazakar iddiaları reddediyor. Ve kendisi, bunun startupları raporlama eşiğinin altına düşen “hesaplama açısından daha verimli”, daha az veri ağırlıklı yapay zeka modelleri geliştirmeye teşvik ederek aslında fayda sağlayabileceğini söylüyor.
Beyaz Saray teknoloji yetkilisi olarak Biden’ın EO’sunun hazırlanmasına yardımcı olan Ami Fields-Meyer, yapay zekanın gücünün hükümet gözetimini zorunlu hale getirdiğini söylüyor.
Fields-Meyer, “Dünya tarihindeki en güçlü sistemleri ürettiklerini söyleyen şirketlerden bahsediyoruz” diyor. “Devletin ilk görevi insanları korumaktır. ‘İnan bana, bu bizim elimizde’ sözü özellikle zorlayıcı bir argüman değil.”
Uzmanlar, NIST’in güvenlik rehberliğini yeni teknolojiye koruma sağlamak için hayati bir kaynak olarak övüyor. Kusurlu yapay zeka modellerinin, kiralama ve borç vermede ayrımcılık ve devlet yardımlarının uygunsuz şekilde kaybedilmesi de dahil olmak üzere ciddi sosyal zararlara yol açabileceğini belirtiyorlar.
Trump’ın kendi ilk dönem yapay zeka emri, federal yapay zeka sistemlerinin sivil haklara saygı duymasını gerektiriyordu; bu, sosyal zararların araştırılmasını gerektirecek bir şey.
Yapay zeka endüstrisi Biden’ın güvenlik gündemini büyük ölçüde memnuniyetle karşıladı. ABD’li yetkili, “Duyduklarımız, bu hususların ayrıntılı olarak açıklanmasının genel olarak faydalı olduğu yönünde” diyor. Küçük ekiplere sahip yeni şirketler için “çalışanlarının bu endişeleri giderme kapasitesini genişletiyor.”
Biden’ın EO’sunun geri alınması, kar amacı gütmeyen bir bilgi paylaşımı kuruluşu olan Siber Tehdit İttifakı’na liderlik eden eski başkanlık siber danışmanı Michael Daniel, “ABD hükümetinin yapay zeka güvenliği konusunda müdahaleci bir yaklaşım benimseyeceğine” dair endişe verici bir sinyal göndereceğini söylüyor.
Çin ile rekabete gelince, EO’nun savunucuları, güvenlik kurallarının, ABD yapay zeka modellerinin Çinli rakiplerinden daha iyi çalışmasını ve Pekin’in ekonomik casusluğundan korunmasını sağlayarak Amerika’nın galip gelmesine yardımcı olacağını söylüyor.
Birbirinden Çok Farklı İki Yol
Trump gelecek ay Beyaz Saray’ı kazanırsa hükümetin yapay zeka güvenliğine yaklaşımında büyük bir değişiklik beklenebilir.
Helberg, Cumhuriyetçilerin teknolojiye yeni ve geniş kısıtlamalar getirmek yerine “mevcut haksız fiil ve yasal yasaları” uygulayarak yapay zekanın zararlarını önlemek istediklerini ve “riske aşırı odaklanmak yerine yapay zekanın sunduğu fırsatları en üst düzeye çıkarmaya daha fazla odaklanmayı” tercih ettiklerini söylüyor. hafifletme.” Bu muhtemelen raporlama gerekliliği ve muhtemelen NIST rehberliğinin bir kısmı için kıyamet anlamına gelecektir.
Yüksek Mahkeme’nin, mahkemelerin kendi düzenlemelerini değerlendirirken kurumlara gösterdiği saygıyı zayıflatması nedeniyle, raporlama zorunluluğu yasal zorluklarla da karşı karşıya kalabilir.
Ve GOP’un geri çekilmesi, NIST’in önde gelen şirketlerle olan gönüllü yapay zeka testi ortaklıklarını bile tehlikeye atabilir. “Yeni bir yönetimde bu taahhütlere ne olacak?” ABD’li yetkili soruyor.
Yapay zeka etrafındaki bu kutuplaşma, Trump’ın daha güvenli modeller arayışını baltalayacağından endişe eden teknoloji uzmanlarını hayal kırıklığına uğrattı.
Brookings Enstitüsü Teknoloji İnovasyon Merkezi direktörü Nicol Turner Lee, “Yapay zekanın vaatlerinin yanı sıra tehlikeler de var” diyor ve “bir sonraki başkanın bu sistemlerin emniyetini ve emniyetini sağlamaya devam etmesi hayati önem taşıyor.”