Başbakan Rishi Sunak’ın çok abartılı bir şekilde gerçekleştirilen Yapay Zeka Güvenlik Zirvesi’nde düzinelerce hükümet, yapay zeka (AI) şirketi ve sivil toplum temsilcisi, toplumun teknolojinin risklerini nasıl yönetmesi gerektiğini tartışmak üzere bir araya geldi; ancak kiminle konuştuğunuza bağlı olarak etkinlik ya boşa harcanan bir fırsat, doğru yönde atılmış geçici bir adım veya küresel yapay zeka yönetişiminde tarihi bir dönüm noktası.
Yapay Zeka Güvenliği Zirvesi, kısmen halihazırda gerçek dünyada meydana gelen zararlara ilişkin gelecekteki spekülatif risklere odaklanılması nedeniyle (aynı zamanda işçilerin Zirve’den dışlanması nedeniyle) sendikalar ve sivil toplum kuruluşları tarafından “kaçırılmış bir fırsat” olarak geniş çapta eleştirildi. etkinliği ve büyük teknolojinin hakimiyeti), etkinliğin organizasyonunda yer alan önemli kişiler, Birleşik Krallık hükümetinin yapay zeka güvenliğine yönelik yaklaşımını övdü.
Örneğin, son dönemdeki yapay zeka ilerlemelerinin omurgasını oluşturan bilgi işlem gücündeki hızlı büyümeden bahsederken, girişimci ve Birleşik Krallık hükümetinin 100 milyon £’luk Sınır Yapay Zeka Görev Gücü başkanı Ian Hogarth şunları söyledi: “Tüm güçlü teknolojiler, onları nasıl güvenli hale getirdiğimize dair soruları gündeme getiriyor” ”.
“Güç ve risk el ele gider” dedi. “Klinik deneylerden ilaçlara, nükleer endüstrinin uluslararası düzenlemelerine kadar, ortaya çıkan her teknoloji, eğer yeterince güçlüyse, onu nasıl güvenli hale getireceğimize dair bir konuşmayı gerektirir. İşte bu yüzden bugün bir araya geldik.”
Son 10 yılda 10 milyon kat arttığını söylediği bilgi işlem alanındaki sıçramaları yapay zekanın sunduğu potansiyel varoluşsal riskle ilişkilendiren Hogarth, bazı uzmanların yapay zekadaki kontrolsüz ilerlemelerin “felaket sonuçlara” yol açmasından endişe duyduğunu söyledi. ve teknolojideki ilerlemenin toplumu koruma yeteneğimizi aştığı bir durumdan kişisel olarak endişe duyduğunu söyledi.
“Bu odada, bu risklerin kesinliği ve ciddiyeti konusunda çok çeşitli inançlar var; bu odadaki hiç kimse, hesaplama gücündeki bir sonraki sıçramaların nasıl veya yeni model yeteneklerine veya zararlara dönüşüp dönüşmeyeceğini kesin olarak bilmiyor” dedi. dedi ve başkanlığını yaptığı Çalışma Grubunun bu risklere ilişkin anlayışı “deneycilik ve titizlik” temeline oturtmaya çalıştığını ekledi.
Hogarth, zirvenin “bu eğri üzerinde kısa bir düşünme anını, duraklama ve yörüngesini ve etkisini şekillendirme anını” temsil ettiğini ekledi ve ABD’nin, ABD ticaret bakanı Gina Raimondo’nun onayladığını doğruladığı kendi Yapay Zeka Güvenlik Enstitüsü duyurusunu övdü. Sunak’ın bir hafta önce açıkladığı İngiltere versiyonuyla “resmi ortaklık” kurun.
Gelecek zirveler
Teknolojinin önde gelen eski yatırımcılarından ve başbakanın yapay zeka temsilcisi Matt Clifford da sadece 10 haftada bu kadar çok başarı elde etmenin “dikkate değer” olduğunu söyledi; Çin hükümetinin dahil edilmesinden ve gelecekteki iki zirvenin (Güney Kore ve Fransa’da) onaylanmasından, 28 ülkenin ve Avrupa Birliği’nin yapay zekanın güvenilirliğini sağlamak için kapsayıcı, insan merkezli bir yaklaşım ihtiyacını onaylayan Bletchley Yavaşlaması’nı imzalamasına kadar ve Güvenlik.
“Bu deklarasyon gelecekteki konuşmalar ve gelecekteki bilim için bir temeldir” dedi. “Umarım deklarasyondan ortaya çıkan şeylerden biri de uluslararası işbirliğine olan bağlılık ve bir araya gelme kararlılığıdır ve sanırım gerçekten kendimizi sorumlu tutmak isteyeceğiz.”
Basın yuvarlak masa tartışmalarının dışında tutulurken Clifford, çeşitli görüşlerin mevcut olduğunu ve mevcut yapay zeka şirketlerine bazı “zor soruların” sorulduğunu ekledi.
Hollandalı dijital bakanın yorumları
Kapalı yuvarlak masa toplantıları hakkında daha fazla bilgi veren Hollanda Dijital Bakanı Alexandra van Huffelen, bazı tartışmaların şirketlerin yapay zeka ile ilgili çeşitli zararları önlemek için ne yaptıkları etrafında döndüğünü söyledi. “’Ne yaptıklarını tam olarak bilmediğimiz ürünler yapıyoruz’ diyorlar” dedi. “Çok zararlı olabileceklerini biliyoruz, risklerin mevcut olduğunu biliyoruz, ancak aslında bunu yapmakta yeterince iyi olup olmadığımızı bilmiyoruz.”
Firmaların aynı zamanda şirket politikalarına ve güvenlikle ilgili diğer gelişmelere dair tanıtımlar yaptığını da sözlerine ekledi; bunlar “kulağa çok hoş geliyor ama bu biraz okul çocuklarının kendi ödevlerini hazırlamasına benziyor.”
“Odadaki pek çok kişi (STK’lardan veya araştırma enstitülerinden, ama kesinlikle hükümetlerden ve benden de) temelde şöyle diyor: ‘Tabii ki, ürün ve hizmetler hakkında düşünmeniz çok güzel. sağlıyorsun’. Bu yeterince iyi değil.”
Gün boyunca tanık olduğu yuvarlak masa tartışmaları sonucunda herhangi bir konuda fikrini değiştirip değiştirmediği sorulduğunda van Huffelen şöyle yanıt verdi: “Bu beni, elimizden geldiğince hızlı bir şekilde düzenleme yapmamız gerektiğine inandırdı… Gönüllü taahhütlerin yerine getirilmesini istemiyorum.” oyunun sonu, ancak düzenlemelerin önünde olduğumuzdan emin olmak için yakın zamanda çok daha fazlasına ihtiyacımız var”.
Bakan ayrıca, düzenleme yürürlüğe girmeden önce yapay zeka modellerini test etmek, değerlendirmek ve araştırmak için daha fazla zaman isteyen ve ürün ve hizmetlerini yalnızca uygun şekilde test edilebilecekleri temelinde piyasaya sürmek isteyen şirketler arasında bir gerilim olduğunu da sözlerine ekledi. sıradan kullanıcıların elinde. “Bu beni pek rahatlatmıyor, bu, ürünleri dünyada varken test ettiğimizi gösteriyor” dedi ve STK araştırmacıları ile hükümet yetkilileri arasında yoğun tartışmaların olmasının hala olumlu olduğunu ekledi. ve şirketler aynı masanın etrafında.
Ancak van Huffelen, gelecekteki zirvelerde sendikaların, işçilerin ve “sıradan insanların” daha fazla temsil edilmesini istediğini de vurguladı. “Sadece yapay zekanın risklerinden bahsetmiyoruz, aynı zamanda topluma yönelik sonuçlarından da bahsediyoruz” dedi. “Yapay zeka iş yerini değiştirecek, sağlık hizmetlerini değiştirecek… bu yüzden herkesin dahil olması çok önemli. Masada kendilerini temsil edecek daha fazla insanın olması fikrini çok takdir ediyorum… Herkes dijital dünyaya güvenebilmeli ve kendi dijital yaşamının kontrolünü elinde tutabilmeli.”
Van Huffelen, bunu Küresel Güney’den daha fazla sesi kapsayacak şekilde genişletti ve bazı araştırmaların, üretken yapay zekanın mevcut boşlukları kapatmak yerine muhtemelen daha büyük küresel bölünmeler yaratacağını gösterdiğini belirtti.
Yuvarlak masa özetleri
Birinci günün sonunda yuvarlak masa başkanları canlı yayında kapalı oturumlarda neler tartışıldığına dair geri bildirimde bulundu.
Örneğin, Birleşik Krallık hükümetinin baş bilimsel danışmanı Angela McLean, bilim camiasının yapay zeka güvenliğinde nasıl bir rol oynayabileceğine ilişkin bir yuvarlak masa başkanı, tartışmanın bir kısmının “belirsizlik” olarak “epistemik tevazu” ihtiyacı etrafında döndüğünü söyledi. [around AI] yaygın” diyerek teknolojinin güvenliğini gösterme konusundaki kanıt yükünün tedarikçilere ve bilim camiasına ait olması gerektiğini ekledi.
Yuvarlak masa toplantısına katılanların, sorumlu yapay zeka gelişimini yönlendirmeye yardımcı olabilecek açık araştırma sorularının bir listesini yayınlayacağını söyledi.
McLean, “Açıkçası burada pek çok teknik soru var, ama aynı zamanda pek çok sosyal soru da var… zaman çok önemli, bunların çoğunu çok hızlı yapmamız gerekecek” dedi.
“En önemlisi olduğu ve diğer insanların tartışmalarında tekrar tekrar gündeme geldiği için kapsayıcılık meselesi en sona bırakıldı. Bu kimin konuşması? Bunun herkesin konuşması olması gerekiyor çünkü bu sorunlar hepimizi etkiliyor.
“Gücün çok az sayıda insanın elinde yoğunlaşması” konusunda ders almamız gerektiğini ekledi. McLean, “Mümkünse, bunun tekrar yaşanmasını önlememiz gerekiyor” dedi. “Aynı zamanda sadece kimin konuşacağı değil, şu anda büyük coğrafi farklılığın da farkına varan bir kapsayıcılığa ihtiyacımız var. [but] kimin araştırma yapabileceği ve kimin yararlanacağı. Dilsel katılıma ihtiyacımız var, dolayısıyla bu az sayıda dil için geçerli bir teknoloji değil.”
McLean, yapay zekayla ilgili karar alma sürecine dahil olanların “halkı duymanın yollarını bulması gerektiği – sadece halka danışmak değil, aynı zamanda onların bize söyleyeceklerini duyması gerektiği… duymayı öğrenmesi gereken biziz” sonucuna vardı.
Uluslararası toplumun yapay zekanın riskleri ve fırsatlarıyla ilgili olarak hangi adımları atması gerektiğine ilişkin bir yuvarlak masa toplantısına başkanlık eden Carnegie Uluslararası Barış Vakfı başkanı Tino Cuéllar, farklı ülkelere ve onların çalışma biçimlerine saygı duymanın gerekliliğinden bahsetti ve ayrıca Yapay zekanın “Küresel Kuzey’de bir eyalet” haline gelmemesini sağlamanın gerekliliğini vurguladı.
Daha fazla tartışmanın, AI modellerinin yeteneklerine ilişkin ortak anlayışın geliştirilmesinin yanı sıra uluslararası araştırma için daha koordineli bir yaklaşım geliştirmenin önemi etrafında döndüğünü söyledi.
Sorumlu yetenek ölçeklendirmesi konusunda başkanlık ettiği oturum hakkında konuşan Birleşik Krallık dijital sekreteri Michelle Donelan, “risklerin belirlenmesine yönelik kriterlerin çalıştırılması için güvenilir dış kuruluşların” gerekliliği konusunda fikir birliğine varıldığını söyledi.