Etkinliği markalayan 100’den fazla sivil toplum kuruluşunun açık mektubunda, Birleşik Krallık hükümetinin, yapay zekadan (AI) en çok etkilenen toplulukları ve çalışanları, büyük teknoloji firmalarının hakim olduğu kapalı bir mağaza olacak olan yaklaşan AI Güvenlik Zirvesi’nden hariç tuttuğunu söyledi. “kaçırılmış bir fırsat”.
1 ve 2 Kasım’da Bletchley Park’ta yapılacak resmi Yapay Zeka Zirvesi öncesinde yayınlanan, çeşitli insan hakları örgütleri, sivil toplum grupları, sendikalar, akademisyenler ve teknoloji camiasından diğer önde gelen sesler tarafından imzalanan, başbakan Rishi Sunak’a gönderilen mektup – ayrıca zirvenin halihazırda meydana gelen gündelik zararlar pahasına yapay zekanın “gelecekteki, kıyamet risklerine” dar bir şekilde odaklandığını vurguluyor ve sonuçta forumun teknolojiyi gerçekten “güvenli ve faydalı” hale getirmede ne kadar etkili olacağı sorusunu gündeme getiriyor.
Hükümet, yapay zekanın “yaşama, çalışma ve birbirimizle ilişki kurma biçimimizi temelden değiştireceğini” kabul etmesine rağmen, zirvede yapay zekadan etkilenen topluluklar veya işçiler temsil edilmedi. seçici ve sınırlıydı.
“Bu kaçırılmış bir fırsat. Şu anki haliyle zirve, kapalı kapılı bir etkinliktir ve ‘sınır’ yapay zeka sistemlerinin (şu anda kuralları şekillendirmeye çalışan aynı şirketler tarafından inşa edilen sistemler) uzak ‘varoluşsal riskleri’ hakkındaki spekülasyonlara aşırı derecede odaklanmıştır” dedi.
“Birleşik Krallık’ta ve dünyanın dört bir yanında milyonlarca insan için yapay zekanın riskleri ve zararları çok uzakta değil; bunlar şu anda ve burada hissediliyor. Bu, algoritma tarafından işinizden kovulmanızla veya kimliğinize veya posta kodunuza dayalı olarak kredi için adil olmayan bir profil oluşturulmasıyla ilgilidir.
“İnsanlar otoriter biyometrik gözetime veya itibarsızlaştırılmış tahmine dayalı polislik uygulamalarına maruz kalıyor. Küçük işletmeler ve sanatçılar dışarıda kalıyor ve bir avuç büyük teknoloji şirketi daha da fazla güç ve nüfuz elde ederken inovasyon da boğuluyor.”
Zirvenin kendisinin ve ardından gelen yapay zeka güvenliği çalışmasının başarılı olması için, yapay zekanın zararlarına en çok maruz kalanların masada bir koltuğa sahip olması ve karar alma sürecine anlamlı katkı sağlaması gerektiğini ekledi.
“Birleşik Krallık’ta ve dünyanın dört bir yanında milyonlarca insan için yapay zekanın riskleri ve zararları çok uzakta değil; bunlar şimdi ve burada hissediliyor”
Başbakana açık mektup
“Bu seslerin dahil edilmesi, halkın ve politika yapıcıların resmin tamamını görmesini sağlayacaktır. Bu şekilde yapay zekanın geleceğinin Birleşik Krallık’taki ve dünya çapındaki topluluklar için mümkün olduğunca güvenli ve faydalı olmasını sağlamak için çalışabiliriz” dedi.
Zirve öncesinde 26 Ekim’de Royal Society’de yaptığı konuşmada Sunak, şu anda teknolojinin güvenliğini test eden tek kişinin onu geliştiren kuruluşlar olduğunu ancak İngiltere’nin teknolojiyi düzenleme konusunda acele etmeyeceğini kaydetti.
“Bu bir prensip meselesi; biz yeniliğe inanıyoruz, bu İngiliz ekonomisinin ayırt edici özelliğidir, dolayısıyla onu bastırmak değil teşvik etmek konusunda her zaman bir varsayımımız olacak. Ve her durumda, henüz tam olarak anlamadığımız bir şey için anlamlı olan yasaları nasıl yazabiliriz? dedi. “Bunun yerine, hükümet içindeki yapay zeka modellerinin güvenliğini anlamak ve değerlendirmek için dünya lideri bir yetenek geliştiriyoruz. Bunu yapmak için halihazırda yeni bir görev gücüne 100 milyon £ yatırım yaptık; bu, yapay zeka güvenliği için dünyadaki herhangi bir ülkeden daha fazla fon sağlıyor.”
Kendisi ayrıca, yapay zekanın varoluşsal risklerinin “insanların şu anda uykularını kaçıracakları bir risk olmasa da, ortaya çıkmaları durumunda sonuçlarının inanılmaz derecede ciddi olacağını”, dolayısıyla zirvede bu tür felaket sonuçlara odaklanıldığını söyledi.
Sunak ayrıca, ortak bir anlayışın gelecekteki eylemler için bir temel olarak kullanılabilmesi amacıyla “bu risklerin doğası hakkında ilk uluslararası beyanda mutabakata varılmasının” zirvenin bir önceliği olacağını da sözlerine ekledi.
İmzacıların diğer yorumları
Önemli imzacılar arasında Connected by Data; Sendika Kongresi (TUC); ve Mozilla’nın yanı sıra üçü mektubun koordinasyonunu sağlayan Açık Haklar Grubu (ORG); Uluslararası Af Örgütü; Eticas Teknoloji; Tim Berners-Lee’nin kurduğu Açık Veri Enstitüsü; Özgürlük; Büyük Birader İzle; İşçi Bilgi Değişimi; Uluslararası Gizlilik; Birleşik Krallık Yapay Zeka Konseyi’nin eski başkanı Tabitha Goldstaub; ve Eylül 2023’ün başlarında hükümet tarafından sessizce dağıtılmadan önce Veri Etiği ve Yenilik Merkezi’nin (CDEI) danışma kurulunun geçici başkanı olan Cambridge Üniversitesi’nde makine öğrenimi profesörü Neil Lawrence.
Sendika açısından mektup, diğerlerinin yanı sıra Ulusal Eğitim Birliği, Ulusal Gazeteciler Birliği, United Tech ve Müttefik İşçiler, Unite, Unison, Prospect Union ve Ulaştırma Maaşlı Personel Derneği (TSSA) tarafından imzalandı.
Dünyanın dört bir yanından yüz milyonlarca işçiyi temsil eden sendika federasyonları da imza attı; bunlar arasında 60 sendikayı ve 12,5 milyon Amerikalı işçiyi temsil eden Amerikan Çalışma ve Sanayi Kuruluşları Kongresi (AFL-CIO); 41 Avrupa ülkesindeki 93 sendika örgütünden 45 milyon üyeyi temsil eden Avrupa Sendikalar Konfederasyonu (ETUC); ve 167 ülke ve bölgede 191 milyon sendika üyesini temsil eden Uluslararası Sendikalar Konfederasyonu.
Connected by Data’nın kıdemli kampanya ve politika yetkilisi Adam Cantwell-Corn, zirvenin “dar çıkarların” hakimiyetinin kabul edilemez olduğunu ve teknolojinin, eşit sandalyeye sahip bir dizi uzmanlık, bakış açısı ve topluluk tarafından şekillendirilmesi gerektiğini söyledi. masa. “Zirve bunun yapılmadığını gösteriyor” diye ekledi.
“Gündemin geleceğe, kıyamet risklerine odaklanması, Birleşik Krallık’taki hükümet organlarının ve kurumlarının zaten vatandaşları büyük ölçekte hataya ve önyargıya maruz bırakacak şekilde yapay zeka ve otomatik karar alma sürecini kullanıyor olduğu gerçeğini yalanlıyor”
Abby Burke, ORG
Cantwell-Corn, yapay zeka politikalarının genel olarak hem yurt içinde hem de uluslararası alanda “bu dönüştürücü teknolojileri demokratik ve sosyal açıdan yararlı bir yöne yönlendirmek için” yeniden düşünülmesi gerektiğini söyledi.
TUC genel sekreter yardımcısı Katy Bell, özellikle insanlar hakkında “hayat değiştirecek kararlar” almak için halihazırda kullanılan teknoloji karşısında sendikaların ve daha geniş anlamda sivil toplumun zirveden dışlanmasını görmenin “büyük hayal kırıklığı” olduğunu ekledi.
“Bu etkinlik, acil tehditlerle nasıl başa çıktığımızı ve yapay zekanın herkese fayda sağladığından emin olmak için çok çeşitli sesleri bir araya getirmek için bir fırsattı” dedi. “Yapay zekanın geleceğini şekillendirenler yalnızca teknoloji kardeşleri ve politikacılar olmamalı.”
ORG’de veri hakları ve mahremiyetten sorumlu politika yöneticisi Abby Burke, zirvenin sınırlı kapsamı ve katılımcılarının hükümetin “gerçek küresel yapay zeka liderliği fırsatı olabilecek bir fırsatı boşa çıkardığı” anlamına geldiğini söyledi.
Şöyle ekledi: “Gündemin geleceğe, kıyamet risklerine odaklanması, Birleşik Krallık’taki hükümet organlarının ve kurumlarının halihazırda vatandaşları büyük ölçekte hataya ve önyargıya maruz bırakacak şekilde yapay zeka ve otomatik karar alma sürecini kullanıyor olduğu gerçeğini yalanlıyor.
“Hükümetin, zarar görenleri ve diğer kritik uzman ve aktivist seslerini zirveden hariç tutması ve yapay zeka sistemleri yaratan ve bunlardan kâr elde eden işletmelerin Birleşik Krallık’ın gündemini belirlemesine izin vermesi son derece endişe verici.”