Yapay Zeka ve Makine Öğrenimi , Siber Savaş / Ulus Devlet Saldırıları , Dolandırıcılık Yönetimi ve Siber Suçlar
Otokratik Hükümet ve Sahte Yerli Aktörler Tarafından Yapay Zekanın Kötüye Kullanımını Durdurmak İçin Korkuluklar Gerekiyor
Micheal Novinson (Michael Novinson) •
21 Haziran 2023
Senato Çoğunluk Lideri Chuck Schumer, güvenlik, hesap verebilirlik, açıklanabilirlik ve yabancı müdahaleyi en aza indirmeye odaklanan yapay zeka geliştirme için bir çerçeve açıkladı.
Ayrıca bakınız: İsteğe Bağlı | İnsan Davranışını Anlamak: Perakende Sektörünün ATO ve Dolandırıcılığı Önleme Zorluğunun Üstesinden Gelmek
Schumer, DN.Y, milletvekillerini otokratik hükümetlerin ve haydut yerel aktörlerin yapay zekayı mali gasp veya siyasi kargaşa gibi yasa dışı veya kötü amaçlar için kullanmamasını sağlayacak korkuluklar koymaya çağırdı. Önümüzdeki yıl siyasi kampanyaların, karşıt adayların aslında söylemedikleri şeyleri söylediği uydurma ama çok inandırıcı ve inandırıcı görüntüleri kullanabileceklerinden endişe ediyor (bkz:: Federaller, Yapay Zeka Sistemlerinin Doğruluğunu Onaylamak ve Değerlendirmek İçin Çağrı Yapıyor).
Schumer, Çarşamba günü Stratejik ve Uluslararası Çalışmalar Merkezi’nde yaptığı bir konuşmada, “Yapay zekanın uygun kullanımları için normları biz belirlemezsek, diğerleri belirleyecektir.” Dedi. “Demokratik yönetişim normlarına çok az saygı duyan Çin Komünist Partisi, önümüze geçebilir ve AI oyununun kurallarını belirleyebilir. Demokrasi, keskin bir düşüş çağına girebilir.”
Schumer, yapay zekadaki ilerlemelerin, sohbet robotlarının siyasi ikna için milyonlarca bireysel seçmeni hedef alarak büyük ölçekte konuşlandırılabileceği anlamına geldiğini söyledi. Schumer, uydurma bilgiler 100 milyon eve gönderildikten sonra “cini şişeye geri koymanın” zor olduğunu söyledi. Milletvekillerinin ABD vatandaşlarının dış müdahale olmadan demokrasiye girebilmelerini sağlamak için hızlı hareket etmesi gerektiğini söyledi.
Schumer, “Demokrasi ile uyumlu korkuluklar geliştirmeli ve dünya uluslarını bunları kullanmaya teşvik etmeliyiz.” dedi. Yapay zekanın ülkemizin temellerini koruduğundan emin olmak için adımlar atmazsak, demokrasimizin hayatta kalmasını riske atmış oluruz.”
Yapay Zekanın Yanıtları Nasıl Ürettiği Konusunda Şeffaflık Gerekiyor
Schumer, sözlerinin çoğunu açıklanabilirliğe veya bir yapay zeka sisteminin belirli bir yanıtı nasıl bulduğuna odakladı. Kullanıcılar, bir yapay zekanın bilgilerini nereden aldığını ve bu bilginin neden diğer olasılıklar yerine seçildiğini bilmesi gerektiğini söyledi. Açıklanabilirlik olmadan, güvenliğin diğer hedefleri olan hesap verebilirlik ve demokratik temellerin korunması mümkün olmayacak dedi.
Schumer, “Uzmanlar bile, bu algoritmaların ürettikleri yanıtları neden ürettiklerini her zaman bilmezler. Bu genellikle bir kara kutudur,” dedi. “Her gün AI kullanıcısı, AI sistemlerinin bir soruya veya göreve yanıt olarak ne ürettiğini belirleyen karmaşık, sürekli gelişen algoritmaları anlayamaz.”
Schumer tarafından kabul edilen algoritmalar, yapay zeka geliştiricileri için en yüksek fikri mülkiyet seviyesini temsil eder. Şirketleri bu algoritmaları tam olarak ifşa etmeye zorlamak, yeniliği bastırır ve düşmanları bunları kötü amaçlarla kullanmaya teşvik eder, dedi. Şirketleri ve dışarıdan uzmanları, kanun koyucuların yapay zekanın “kara kutusunu” kırmak için kullanabilecekleri adil bir çözüm bulmaya çağırdı.
“Bunu çok ciddi bir şekilde bir araya getirebilirsek, dünyanın geri kalanının onu takip edeceğini düşünüyorum.”
– Senato Çoğunluk Lideri Chuck Schumer, DN.Y.
Schumer, “Sıradan bir insanın bu algoritmaların iç işleyişini bilmesine gerek yok” dedi. “Ancak şirketlerin – basit ve anlaşılır terimlerle – kullanıcıların sistemin neden belirli bir yanıt ürettiğini ve bu yanıtın nereden geldiğini anladıkları bir sistem geliştirmelerini şart koşuyoruz. Bu çok karmaşık ama çok önemli bir iş.”
Kötü Amaçlı Kullanımın Önlenmesi, Herkes İçin Adil Rekabetin Sağlanması
Hesap verebilirlik açısından Schumer, Kongre’nin şirketlerin küçüklerin hareketlerini izlemek için yapay zeka kullanmasını engellemesi ve onları öz değerlerine veya zihinsel sağlıklarına zarar veren zararlı reklamlarla doldurması gerektiğini söyledi. Ayrıca milletvekillerinin hain işletmelerin yapay zekayı bağımlılık sorunları, mali sorunları veya ciddi akıl hastalıkları olan yetişkinleri sömürmek için kullanmamasını sağlamaları gerektiğini söyledi.
Schumer, “Yapay zekanın nasıl geliştirildiğini, denetlendiğini ve konuşlandırıldığını düzenleyen korkuluklar olmadan – ve belirli uygulamaların sınırların dışında olması gerektiğini açıkça belirtmeden – hiç kimsenin istemediği, tamamen herkes için özgür yaşama riskine gireriz” dedi.
Bunun ötesinde, Schumer, milletvekillerinin yapay zeka geliştiren kuruluşlar arasındaki işbirliği ve rekabet arasındaki uygun dengeyi ve yeniliği teşvik etmek için ne kadar federal müdahaleye ihtiyaç duyulduğunu düşünmeleri gerektiğini söyledi. Kongre ayrıca, özel yapay zeka sistemleri ile açık yapay zeka sistemleri arasındaki uygun dengeyi ve ayrıca yapay zeka inovasyonunun herkese açık olmasını etkili bir şekilde nasıl sağlayacağını incelemelidir.
Schumer, “İki veya üç şirketin hakim olduğu ve diğer herkesin kapalı olduğu bir durumu kesinlikle istemiyoruz” dedi.
Schumer, Birleşik Krallık, Avrupa Birliği, Singapur ve Brezilya’dan çıkan yapay zeka politikalarına baktığını ve bunların “dünyanın hayal gücünü yakalamakta” başarısız olduğunu bulduğunu söyledi. Tekliflerin çoğunun zaten geri çekildiğini veya değiştirildiğini söyledi. ABD ekonomisinin büyüklüğü ve ABD merkezli büyük şirketlerin sayısı göz önüne alındığında, Schumer Amerika’nın AI düzenlemesi için gündemi belirleyebileceğine inanıyor.
Schumer, “Dünyanın çoğu tek bir sistem görmek istiyor” dedi. “Bunu çok ciddi bir şekilde bir araya getirebilirsek, dünyanın geri kalanının onu takip edeceğini ve yapay zekada nasıl gitmemiz gerektiğine dair yönü belirleyebileceğimizi düşünüyorum.”