Üst düzey yapay zeka araştırmacıları bir makalede, yapay zeka şirketlerinin ve hükümetlerin yapay zeka araştırma ve geliştirme fonlarının en az üçte birini sistemlerin güvenliğini ve etik kullanımını sağlamaya ayırması gerektiğini söyledi.
Londra’daki uluslararası Yapay Zeka Güvenliği Zirvesinden bir hafta önce yayınlanan belge, hükümetlerin ve şirketlerin yapay zeka risklerini ele almak için alması gereken önlemleri listeliyor.
Üç Turing Ödülü sahibi, bir Nobel ödüllü ve bir düzineden fazla üst düzey yapay zeka akademisyeninin yazdığı makaleye göre, “Hükümetler aynı zamanda şirketlerin sınır yapay zeka sistemlerinden kaynaklanan, makul şekilde öngörülebilen ve önlenebilen zararlardan yasal olarak sorumlu olmalarını zorunlu kılmalıdır.”
Şu anda yapay zeka güvenliğine odaklanan geniş tabanlı bir düzenleme bulunmuyor ve yasa koyucular henüz birçok konu üzerinde anlaşmaya varamadığı için Avrupa Birliği’nin ilk mevzuat seti henüz yasalaşmadı.
Yapay zekanın vaftiz babası olarak bilinen üç kişiden biri olan Yoshua Bengio, “Son teknoloji ürünü yapay zeka modelleri, demokratik gözetim olmadan gelişmelerine izin vermeyecek kadar güçlü ve önemli” dedi.
“Bunun (Yapay Zeka güvenliğine yapılan yatırımların) hızlı olması gerekiyor çünkü Yapay Zeka, alınan önlemlerden çok daha hızlı ilerliyor” dedi.
Yazarlar arasında Geoffrey Hinton, Andrew Yao, Daniel Kahneman, Dawn Song ve Yuval Noah Harari yer alıyor.
OpenAI’nin üretken yapay zeka modellerinin piyasaya sürülmesinden bu yana, üst düzey akademisyenler ve Elon Musk gibi önde gelen CEO’lar, güçlü yapay zeka sistemleri geliştirmede altı aylık bir duraklama çağrısı da dahil olmak üzere yapay zeka üzerindeki riskler konusunda uyardılar.
Bazı şirketler ise yüksek uyumluluk maliyetleri ve orantısız sorumluluk riskleriyle karşı karşıya kalacaklarını söyleyerek buna karşı çıktı.
İngiliz bilgisayar bilimcisi Stuart Russell, “Şirketler düzenlemeleri yerine getirmenin çok zor olduğundan, ‘düzenlemelerin yeniliği engellediğinden’ şikayet edecekler, bu çok saçma” dedi.
“Sandviç mağazalarında yapay zeka şirketlerine göre daha fazla düzenleme var.”