Geçici bir yapay zeka (AI) güvenlik raporu, hem mevcut AI yeteneklerinin durumu hem de bunların zaman içinde nasıl gelişebileceği de dahil olmak üzere çeşitli konularda AI uzmanları arasında evrensel bir anlaşmanın bulunmadığını vurguladı.
Gelişmiş yapay zekanın güvenliğine ilişkin uluslararası bilimsel rapor dönüm noktası niteliğindeki Bletchley Deklarasyonu’nun bir parçası olarak Bletchley Park tartışmalarından ortaya çıkan temel taahhütler arasındaydı.
Rapor, büyük ölçekli işsizlik, yapay zeka destekli terörizm ve teknoloji üzerindeki kontrolün kaybı gibi toplumu etkileyebilecek aşırı risklerin olasılığına ilişkin farklı görüşleri araştırıyor.
Raporda yer alan uzmanlar, toplumun ve hükümetteki politika yapıcıların yapay zeka teknolojisinin etkisine ilişkin anlayışlarını geliştirmeye öncelik vermeleri gerektiği konusunda genel olarak hemfikir.
Raporun başkanı Yoshua Bengio şunları söyledi: “Yapay zeka, sorumlu bir şekilde kullanıldığında, geliştirildiğinde ve düzenlendiğinde, hayatımızın hemen hemen her alanında olumlu, dönüştürücü bir değişim için inanılmaz bir güç olma potansiyeline sahiptir. Ancak etkilerin büyüklüğü, ikili kullanım ve gelecekteki gidişatın belirsizliği nedeniyle, bu faydalardan tam olarak yararlanabilmek için ilgili riskleri azaltmak üzere birlikte çalışmak hepimizin görevidir.
“Hükümetlerin, akademi dünyasının ve daha geniş anlamda toplumun, hepimizin yapay zekayı güvenli, sorumlu ve başarılı bir şekilde kullanabilmemizi sağlamak için yapay zeka güvenliği gündemini geliştirmeye devam etmesi gerekiyor.”
İlk olarak geçen Kasım ayında Bilimin Durumu raporu olarak başlatılan rapor, 30 yapay zeka ülkesinden bir Uzman Danışma Panelinin yanı sıra Birleşmiş Milletler ve Avrupa Birliği temsilcileri de dahil olmak üzere çok çeşitli yapay zeka uzmanlarından oluşan küresel bir ekibi bir araya getiriyor.
Bilim, Yenilik ve Teknolojiden Sorumlu Dışişleri Bakanı Michelle Donelan şunları söyledi: “Bletchley Park’taki tarihi görüşmelerimizle yarattığımız ivmeyi temel alan bu rapor, yapay zekanın inanılmaz fırsatlarını önümüzdeki on yıllar boyunca güvenli ve sorumlu bir şekilde yakalayabilmemizi sağlayacak.
“Yoshua Bengio ve ekibinin çalışması, küresel tartışmayı ilerletmek için mevcut en iyi bilimsel kanıtları sunarak Bletchley Park’ın mirasını geliştirmeye devam ederken, önümüzdeki hafta AI Seul Zirvesi’ndeki tartışmalarımıza bilgi sağlamada önemli bir rol oynayacak” Yapay zeka güvenliği konusunda.”
Ara raporda, metin, resim üretebilen ve otomatik kararlar alabilen yapay zeka sistemleri de dahil olmak üzere gelişmiş “genel amaçlı” yapay zeka incelendi. Nihai raporun Fransa’daki Yapay Zeka Eylem Zirvesi için zamanında yayınlanması bekleniyor ancak artık endüstri, sivil toplum ve yapay zeka topluluğundan geniş bir yelpazedeki temsilcilerden alınan kanıtlar alınacak.
Bilim, İnovasyon ve Teknoloji Bakanlığı, bu geri bildirimin, raporun teknolojinin gelişimine ayak uyduracağı, en son araştırmaları yansıtacak şekilde güncelleneceği ve gelişmiş yapay zeka risklerinin kapsamlı bir görünümünü sağlamak için bir dizi başka alanı genişleteceği anlamına geleceğini söyledi.
Stanford Üniversitesi Siber Politika Merkezi uluslararası politika direktörü Marietje Schaake, “Yapay zekanın demokratik yönetimine, bağımsız araştırmalara dayanarak, abartının ötesinde acilen ihtiyaç var” dedi.
“Geçici Uluslararası Bilimsel Rapor, genel amaçlı yapay zekanın evrimi, riskleri ve gelecekteki etkileri hakkında uzman görüşlerini bir araya getiriyor. Pek çok şey belirsiz kalsa da, toplumu yapay zeka konusunda bilgilendirmek ve önyargı, dezenformasyon ve ulusal güvenlik riskleri gibi günümüzün zararlarını azaltmak ve aynı zamanda daha güçlü genel amaçlı yapay zeka sistemlerinin gelecekteki sonuçlarına hazırlanmak için kamu liderlerinin harekete geçmesi gerekiyor.”