Birleşmiş Milletler’in (BM) yapay zeka (YZ) konusundaki danışma organı, hükümetleri teknolojinin kullanımını yönetecek “küresel olarak kapsayıcı ve dağıtılmış bir mimari” oluşturma konusunda iş birliği yapmaya çağırıyor.
Teknolojinin uluslararası yönetimini analiz etmek için Ekim 2023’te resmen kurulan Birleşmiş Milletler Yapay Zeka Yüksek Düzeyli Danışma Kurulu, yapay zekayla ilgili riskleri ele alma ve teknolojinin dönüştürücü potansiyelinin küresel olarak nasıl paylaşılabileceğine ilişkin planını özetleyen bir rapor yayınladı.
Yönetici özetinde, “Özellikle küresel yönetişimin zorunluluğu yadsınamaz” denildi. “AI’nın kritik minerallerden eğitim verilerine kadar ham maddeleri küresel kaynaklıdır. Sınırlar ötesinde konuşlandırılan genel amaçlı AI, küresel çapta çok sayıda uygulama doğurur. AI’nın hızlanan gelişimi, jeopolitik ve jeoekonomik etkilerle küresel ölçekte güç ve serveti yoğunlaştırıyor.
“Dahası, şu anda hiç kimse AI’nın tüm iç işleyişini, çıktılarını tam olarak kontrol edebilecek veya evrimini tahmin edebilecek kadar anlamıyor. Karar vericiler de anlamadıkları sistemleri geliştirmek, dağıtmak veya kullanmaktan sorumlu tutulmuyor. Bu arada, bu tür kararlardan kaynaklanan olumsuz taşmalar ve aşağı yönlü etkilerin de küresel olması muhtemeldir.”
Ulusal hükümetler ve bölgesel örgütlerin yapay zekanın kullanımının kontrolünde önemli rol oynayacakları belirtilirken, “teknolojinin doğası gereği -yapı ve uygulama açısından sınır ötesi olması- küresel bir yaklaşımı gerekli kılıyor” denildi.
Danışma Kurulu bu nedenle yapay zeka yönetişim düzenlemelerindeki mevcut boşlukları gidermek için bir dizi öneride bulundu ve “tüm hükümetleri ve paydaşları” insan haklarının geliştirilmesi ve korunmasını teşvik etmeye çağırdı.
Bu öneriler arasında, yapay zeka konusunda gönüllülük esasına dayalı olarak kişisel kapasiteleriyle hizmet veren, alanında çeşitli disiplinler arası uzmanlardan oluşan bağımsız bir uluslararası bilimsel panelin oluşturulması ve mevcut BM toplantılarının marjında gerçekleştirilebilecek, yapay zeka yönetimi konusunda iki yılda bir hükümetler arası ve çok paydaşlı bir politika diyaloğunun başlatılması yer alıyor.
Ayrıca, yapay zeka sistemlerini değerlendirmek için tanımların ve uygulanabilir standartların bir kaydını geliştirmek ve sürdürmek üzere bir “yapay zeka standartları paneli” oluşturulması; yapay zeka uçurumunu kapatmak için “küresel bir yapay zeka fonu” kurulması ve bu fonun yeni bir bağımsız yönetim yapısı tarafından yönetilmesi; ve “yerel yapay zeka ekosistemlerinin küresel çapta gelişmesini” sağlamak için “piyasa şekillendirici veri yönetimi ve değişim mekanizmaları” kuran küresel bir yapay zeka veri çerçevesinin geliştirilmesi önerildi.
Southampton Üniversitesi’nde bilgisayar bilimi profesörü ve Danışma Kurulu’ndaki tek İngiliz uzman olan Wendy Hall’a göre, yapay zeka yönetimini tesis etmeye yönelik mevcut küresel çabalar yetersiz.
“Yapay zekanın sağlık, enerji kontrolleri, gıda üretimi ve eğitim alanlarındaki atılımlarının etkisini şimdiden görüyoruz,” dedi. “Yapay zekanın insanlığın iyiliği için gelişmesine izin verilmeli – ancak yönetim olmadan toplum için zararlı olabilecek şekillerde evrimleşme potansiyeli var. En azından bu raporun küresel yönetim hakkında anlamlı konuşmaları ve tartışmaları teşvik edeceğini umuyoruz.
Hall, “Yapay zekanın zorluklarını ele alacak ve sadece gelişimini yöneten birkaç ülkeye değil herkese fayda sağlamasını sağlayacak küresel bir yaklaşıma acilen ihtiyacımız var” dedi.
Yapay zekanın sürdürülebilir kalkınmada ve insan haklarının korunmasında kullanımını teşvik eden BM taslak kararı daha önce Nisan 2024’te 120’den fazla üye ülke tarafından desteklenmişti.
Üye devletleri, özel sektörü, sivil toplumu, araştırma kuruluşlarını ve medyayı “güvenli, emniyetli ve güvenilir yapay zeka sistemleriyle ilgili düzenleyici ve yönetişim yaklaşımları ve çerçeveleri geliştirmeye ve desteklemeye” teşvik ederek “ülkeler arasında ve içinde yapay zeka ve diğer dijital uçurumları kapatmayı” amaçlasa da ABD öncülüğündeki karar bağlayıcı değildi.
Yapay zeka yönetimi küresel bir konuşma değil
Ocak 2024’te Davos’taki Dünya Ekonomik Forumu’nda, BM Genel Sekreteri António Guterres, teknoloji şirketlerini ve hükümetleri yapay zeka konusunda kendi dar çıkarlarını takip etmekle suçladı ve yapay zekanın düzenlenmemiş gelişimini iklim kriziyle artan risklere benzetti.
Guterres, yapay zekanın “kontrolsüz” gelişimini dizginlemeleri çağrısının yanı sıra, küresel zorluklara karşı etkili adımlar atılabilmesi için II. Dünya Savaşı’ndan sonra kurulan uluslararası sistemin reform edilmesi çağrısında bulundu.
Guterres, hem yapay zeka hem de iklim değişikliği konusunda ilerlemenin önündeki en büyük engelin uluslararası sistemdeki belirgin güç eşitsizlikleri olduğunu vurgulayarak, örneğin BM kurulduğunda birçok üye devletin sömürge yönetimi altında olduğunu ve bu nedenle bugün gerçekleşen tartışmalarda “asgari ağırlığa” sahip olduklarını belirtti.
Yapay Zeka Danışma Kurulu, raporunda, yapay zeka yönetişimine odaklanan çok sayıda belge ve diyalog bulunduğunu, son yıllarda hükümetler, şirketler, konsorsiyumlar ve uluslararası örgütler tarafından yüzlerce rehber, çerçeve ve ilkenin benimsendiğini, ancak bunların hiçbirinin gerçek anlamda küresel bir erişime sahip olmadığını ve bunun da temsil, koordinasyon ve uygulama sorunlarına yol açtığını belirtti.
“Dünyanın birçok bölgesinin uluslararası yapay zeka yönetişimi görüşmelerinin dışında bırakıldığı” belirtilen raporda, raporda örneklemlenen BM dışı tüm yapay zeka yönetişim girişimlerine yalnızca yedi ülkenin (Kanada, Fransa, Almanya, İtalya, Japonya, İngiltere ve ABD) taraf olduğu, 118 ülkenin (çoğunlukla Küresel Güney’den) ise hiçbirine taraf olmadığı belirtiliyor.
“Adalet, bizi etkileyen teknolojiyi nasıl yöneteceğimize dair kararlarda daha fazla sesin anlamlı roller oynamasını gerektirir,” dedi. “Yapay zeka teknolojisi sektöründe karar almanın yoğunlaşması haklı gösterilemez; ayrıca tarihsel olarak birçok topluluğun kendilerini etkileyen yapay zeka yönetişimi görüşmelerinden tamamen dışlandığını da kabul etmeliyiz.”
Yapay zeka yönetişimi konusunda daha yakın ve daha adil bir uluslararası iş birliğini sağlamak için Danışma Kurulu, “tutarlı bir çabanın ifadesi olarak hafif ve çevik bir yapı oluşturmayı önerdi: Birleşmiş Milletler Sekreterliği’nde, Genel Sekreter’e yakın, burada önerilen girişimleri etkin ve sürdürülebilir bir şekilde birleştirmek için ‘tutkal’ görevi görecek bir Yapay Zeka ofisi”.