Federaller, Yapay Zeka Sistemlerinin Doğruluğunu Onaylamak ve Değerlendirmek İçin Çağrı Yapıyor

Önümüzdeki 60 gün boyunca kamuoyundan bilgi talep eden bir belgede yönetim, denetimleri, raporlamayı, test etmeyi ve değerlendirmeyi içeren bir “AI hesap verebilirlik ekosistemi” sağlamak için bir dizi olası mekanizmayı ortaya koyuyor.

Salı günü Pittsburgh Üniversitesi’nde yaptığı konuşmada iletişim ve bilgiden sorumlu ticaret bakanı yardımcısı Alan Davidson, “Hesap verebilirlik politikaları, bu sistemlere ışık tutmamıza ve güvenli, etkili, sorumlu ve yasal olup olmadıklarını doğrulamamıza yardımcı olacak” dedi.

Ulusal Telekomünikasyon ve Bilgi İdaresi başkanının duyurusu, Başkan Joe Biden’ın gazetecilere yapay zekanın tehlikeli olup olmadığının “görüleceğini” söylemesinden günler sonra ve bir dizi üst düzey teknoloji yöneticisinin en az altı aylık bir duraklama çağrısı yapmasından haftalar sonra geldi. gelişmiş yapay zeka sistemleri geliştirme (bkz: Tech Luminaries, AI Geliştirmede Duraklatma Çağrısı Yapıyor).

Bilgisayar korsanları, bazı siber güvenlik uzmanları bunun savunuculara da yardımcı olabileceğini belirtmesine rağmen, ChatGPT’nin arkasındaki doğal dil modeli gibi araçları hain amaçlar için kullanmakta hızlı davrandılar.

ChatGPT’nin rekor kıran büyümesinden önce bile Biden yönetimi, yapay zekanın mevcut önyargıları kodlayarak fırsatları sınırlayabileceğinden açıkça endişe duyuyordu.

Davidson, NTIA’nın özellikle yapay zeka sistemlerinin dağıtımdan önce ihtiyaç duyabileceği sertifikaları ele alan yanıtlar aradığını söyledi; AI denetimleri ve değerlendirmeleri yapmak için gereken veri setleri; geliştiricilerin yapay zeka sistemlerinin güvenli olduğunu kanıtlamak için seçmesi gereken tasarımlar; ve sistemler yayınlanmadan önce halkın beklemesi gereken test ve güvence düzeyi.

Davidson, “İnsanlar, sorumlu yapay zekanın faydalarından yararlanırken zararları en aza indirdiğimiz veya ortadan kaldırdığımız bir dünyadan büyük ölçüde yararlanacak” dedi. The Guardian’a “Hızlı hareket etmeliyiz çünkü bu AI teknolojileri bazı açılardan çok hızlı ilerliyor” dedi.

Otonom sürüş teknolojisi satıcısı Aurora’nın baş güvenlik sorumlusu Nat Beuse, Pittsburgh Üniversitesi etkinliğinin katılımcılarına, beklentileri karşılamayan teknolojinin ayarlanabilmesi için anomali çözümünün AI sistemlerine kodlanması gerektiğini söyledi.

Davidson’un açılış konuşmasının ardından düzenlenen panelde Beuse, düzenleyicilerin yapay zeka sistemlerinin nasıl eğitildiğiyle muhtemelen daha fazla ilgileneceğini, müşterilerin ise genellikle çalışma süresi veya sahadaki sorunlar hakkında daha fazla bilgi edinmek istediğini söyledi.

Yapay zekanın ne kadarının düzenlenip düzenlenemeyeceği sorusu, Washington’un giderek daha fazla ilgisini çeken bir soru. Google’ın eski CEO’su ve AI savunucusu Eric Schmidt, Mart ayı başlarında bir Meclis Gözetim Komitesi duruşmasında inovasyonun birincil endişe olması gerektiğini söyledi.

“Bırakın Amerikan yaratıcılığı, Amerikalı bilim adamları, Amerikan hükümeti ve Amerikan şirketleri bu geleceği icat etsin ve istediğimize oldukça yakın bir şey elde edelim. O zaman [the government] Kötüye kullandığınız kenarlarda çalışabilir” dedi. Schmidt, bu ayın başlarında Australian Financial Review’e yapay zeka geliştirmede altı aylık bir duraklamaya karşı olduğunu söyledi, “çünkü bu sadece Çin’e fayda sağlayacak.”

Pittsburgh’da, Mozilla Üyesi Deb Raji başka bir endişeyi dile getirdi.

“Tabii ki, adaletle ilgili endişeler var” dedi. “Fakat tüm bunlardan önce, piyasaya sürülen şeyin gerçekten yapay zeka olup olmadığını gerçekten sorgulamalıyız. Bir şirketin, ürün iddiaları karşılamıyorsa yapay zeka teknolojisinin belirli şeyler yaptığını söylemesi yanlış bir pazarlama mıdır? “