Birleşmiş Milletler (BM) başkanına göre, teknoloji şirketleri insan haklarını, mahremiyeti ve diğer sosyal sonuçları “açık bir şekilde hiçe sayarak” yapay zekadan (AI) kâr elde etmeye çalışırken, dünya çapındaki hükümetler harekete geçmiyor.
Ocak 2024’ün ortasında Davos’ta düzenlenen Dünya Ekonomik Forumu’nda (WEF) konuşan BM genel sekreteri António Guterres, dünyanın iş dünyası ve siyasi elitlerine, yapay zekanın “kontrolden çıkmış” gelişimini kontrol altına almaları ve oluşturulan uluslararası sistemde reform yapmaları için ikili bir çağrı yaptı. İkinci Dünya Savaşı’ndan sonra küresel zorluklarla mücadelede etkili adımlar atılabilsin.
Yapay zekanın kontrolsüz gelişiminin risklerini iklim değişikliğinin oluşturduğu tehditle ilişkilendiren Guterres, her iki konuda da küresel eylemsizliğin bir sonucu olarak “insanların her yerde hükümetlere, kurumlara ve ekonomik sistemlere olan inancını kaybettiğini” kaydetti.
“İklim kaosunun yarattığı ciddi, hatta varoluşsal tehditler ve korkuluklar olmadan yapay zekanın kontrolden çıkan gelişimi karşısında, birlikte hareket etme gücümüz yok gibi görünüyor” dedi.
“İklim çöküşü başlarken, ülkeler emisyonları artırma konusunda kararlı olmaya devam ediyor… Aynı zamanda, üretken yapay zekanın her yeni versiyonu, ciddi istenmeyen sonuçların ortaya çıkma riskini artırıyor.”
Uluslararası Para Fonu’nun (IMF) Ocak 2024’te yaptığı ve yapay zekanın küresel ekonomik eşitsizliği daha da kötüleştirebileceği uyarısında bulunan bir çalışmaya atıfta bulunan Guterras, teknolojinin sürdürülebilir kalkınmayı desteklemek için “muazzam bir potansiyele” sahip olmasına rağmen “güçlü teknoloji şirketlerinin zaten kâr peşinde koştuğunu” söyledi. insan haklarına, kişisel mahremiyete ve sosyal etkiye açık bir şekilde göz ardı edilmesi. Bu bir sır değil.”
Guterras, yapay zekanın yaygınlaşmasının sonuçları ve yaklaşmakta olan iklim felaketinin hali hazırda “kapsamlı bir şekilde tartışıldığını”, ancak uluslararası toplumun her iki tehditle de başa çıkmak için hâlâ etkili bir stratejiye sahip olmadığını ekledi.
BM’nin yapay zekayı ele alma çabalarında merkezi bir toplantı rolü oynaması gerektiğine dikkat çeken Guterras, hükümetlerin ve teknoloji şirketlerinin mevcut yapay zeka gelişimi için risk yönetimi çerçeveleri oluşturmak üzere acilen birlikte çalışmaları gerektiğini söyledi; gelecekteki zararların nasıl izleneceğini ve azaltılacağını da planlayın.
Bununla birlikte, uluslararası sistemdeki keskin güç eşitsizliklerinin hem yapay zeka hem de iklim değişikliği konusunda ilerlemenin önünde büyük bir engel olduğunu vurguladı ve örneğin birçok üye devletin BM kurulduğunda sömürge yönetimi altında olduğunu ve bu nedenle “asgari düzeyde” sahip olduğunu belirtti. Bugün gerçekleşen tartışmalarda ağırlık”.
Uzun süredir devam eden küresel güç eşitsizliklerinin yanı sıra ABD’nin Soğuk Savaş’ın hemen ardından yaşadığı kısa süreli tek kutupluluk döneminden bu yana ortaya çıkan derin jeopolitik bölünmelere dikkat çeken Gutteras, çatlakların daha da derinleşmesini önlemenin mümkün olduğunu söyledi. Uluslararası ilişkilerde denge ve adalete dayalı “yeni, çok kutuplu bir küresel düzen”.
“Çok kutupluluk karmaşıklık yaratıyor. Kendi başına bırakıldığında, Kuzey ile Güney, Doğu ile Batı, gelişmiş ve gelişmekte olan ekonomiler arasındaki, G20 içindeki ve G20 ile diğer herkes arasındaki fay hatlarını derinleştirebilir” dedi.
“Bu karmaşıklığı yönetmenin ve kaosa sürüklenmeyi önlemenin tek yolu, reformdan geçirilmiş, kapsayıcı, ağ bağlantılı çok taraflılıktır. Bu, güçlü çok taraflı kurumlar ve çerçeveler ile etkili küresel yönetişim mekanizmaları gerektirir; bunlar olmadan daha fazla parçalanma kaçınılmazdır ve sonuçları açıktır.”
Rusya’nın Ukrayna’yı yasa dışı işgalinden İsrail’in Gazze’deki sivilleri bombalamasına kadar dünya çapında sergilenen “cezasızlık salgını” hakkında yorum yapan Guttares, uluslararası standartların sistemli bir şekilde baltalanması karşısında “kişisel olarak şok olduğunu” ve “bu kadar çok sayıda kişinin bu duruma öfkelenmesine öfkelendiğini” söyledi. ülkeler ve şirketler, ortak geleceğimizi veya ortak çıkarlarımızı düşünmeden, kendi dar çıkarlarının peşinde koşuyorlar”.
Gelişmekte olan ekonomilerin yapay zekanın muazzam potansiyelinden yararlanabilmesi için yapay zekaya erişimi artırmak için sistematik bir çaba gösterilmesi gerektiğini ekledi. Dijital uçurumu derinleştirmek yerine köprülememiz gerekiyor.”
Yapay zekanın seyahat yönüne ilişkin ayrı bir WEF oturumunda konuşan OpenAI CEO’su Sam Altman, yapay zeka dağıtımına yönelik yinelemeli bir yaklaşım çağrısında bulundu ve bunun kurumlara “bunu nasıl düzenleyeceklerini ve nasıl bazı korkuluklar koyacaklarını anlamak için bu tartışmaları yapma zamanı” vereceğini savundu. yerinde”.
Faydaların risklerden daha ağır basması için sistemlere hangi değerlerin ve güvenlik eşiklerinin yerleştirildiği gibi kararlara toplumdan girdi almanın teknoloji endüstrisinin sorumluluğunda olduğunu ekledi.
“Dünyanın bizim gibi şirketlere karşı duyduğu genel tedirginlik ve rahatsızlık konusunda büyük bir empati duyuyorum… Bizim de kendi tedirginliğimiz var ama bunun üstesinden gelebileceğimize inanıyoruz ve bunu yapmanın tek yolu teknolojiyi devreye almak. insanların elinde.
“Toplumun ve teknolojinin birlikte gelişmesine izin verin… çok sıkı bir geri bildirim döngüsü ve rota düzeltmeyle adım adım, güvenlik gereksinimlerini karşılarken muazzam değer sağlayan bu sistemleri inşa edin.”
10 Ocak 2024’te WEF, bir raporda yapay zeka tarafından üretilen çevrimiçi yanlış bilgi ve dezenformasyonun ülkelerin karşı karşıya olduğu en büyük kısa vadeli risk olduğu ve şu an ile 2026 arasında dünya çapındaki seçimlerde yaklaşık üç milyar insanın oy kullanmasının beklendiği konusunda uyardı.
AI’nın ayrıca düşman devletlerin ve bilgisayar korsanlığı gruplarının siber saldırıları otomatikleştirmesine izin vererek bilgisayar sistemleri için yeni riskler oluşturduğunu, uzun vadede ise karar vermede AI’ya bağımlılığın daha fazla risk yaratacağını ekledi.