Lordlar, Birleşik Krallık hükümetinin otonom silahlara yaklaşımı konusundaki görüşlerinde bölünmüş durumda; bazıları çok daha fazla tedbir gerektiğini savunurken, diğerleri rakiplerin önüne geçmek için daha az kısıtlama çağrısında bulunuyor.
Aralık 2023’ün başında bir Lordlar Komitesi, hükümetin askeri yapay zekaya yaklaşma vaadinin yanlış olduğunu tespit ettikten sonra, Birleşik Krallık hükümetini otonom silah sistemlerini (AWS) ve diğer yapay zeka (AI) destekli askeri yetenekleri konuşlandırırken “dikkatli davranmaya” çağırdı. “hırslı, güvenli ve sorumlu” bir şekilde gerçeğe uygun yaşamadı.
Silah Sistemleri Yapay Zeka Komitesi’nin temel tavsiyeleri arasında hükümetin AWS’nin yaşam döngüsünün tüm aşamalarında insan kontrolünü sağlaması; anlamlı politika kararlarının verilebilmesi için AWS’nin operasyonel, teknolojiden bağımsız bir tanımını benimsemek; ve yapay zeka odaklı bir dünya için satın alma süreçlerini uygun şekilde tasarlamak, böylece uygun bir hesap verebilirlik sağlamak. Ayrıca nükleer komuta ve kontrolde yapay zekanın tamamen yasaklanmasını da tavsiye etti.
Bu komitenin Mart 2024’ün sonlarında elde ettiği bulgulara yanıt veren hükümet, zaten gereken dikkatle ve sorumlu bir şekilde hareket ettiğini ve Savunma Bakanlığı’nın (MoD) yapay zeka konusundaki önceliğinin, potansiyel düşmanlar karşısında askeri kapasiteyi en üst düzeye çıkarmak olduğu konusunda ısrar etti. “bu kadar sorumlu olma ihtimalinin düşük olduğunu” iddia etti.
Hükümet, “kapsamlı ve düşündürücü analizi” memnuniyetle karşılarken, komitenin ihtiyatlı ilerlemesi gerektiği yönündeki genel mesajının “MoD’un yapay zekanın benimsenmesine yönelik yaklaşımını yansıttığını” ekledi.
Komitenin bulguları ve hükümetin tepkisi üzerine 19 Nisan 2024’te yapılan bir tartışma sırasında Lordlar, Birleşik Krallık’ın otonom silahlara yaklaşımı hakkında çelişkili görüşler dile getirdi. Örneğin bazıları hükümeti AWS kullanımına sınırlama getirme konusundaki isteksizliği nedeniyle eleştirirken, diğerleri aşırı tedbirin ilerlemeyi engelleyeceğini ve Birleşik Krallık’ı jeopolitik rakiplerinin arkasına koyacağını söyledi.
Ancak hükümet, otonom silah kullanımının halihazırda uluslararası insancıl hukuka (IHL) tabi olduğunu, dolayısıyla operasyonel bir tanım belirlemeye veya bunların kullanımını kontrol eden herhangi bir uluslararası yasal belgeye taahhütte bulunmaya gerek olmadığını savunuyor.
Düzenleme ‘düşmanlarımıza hediye’
Lordlar tartışması sırasında hükümetin tutumu hakkında ayrıntılı bilgi veren savunmadan sorumlu devlet bakanı Minto Kontu, AWS için operasyonel bir tanım belirlemenin veya bunların kullanımını kontrol etmek için yeni uluslararası araçlar oluşturmanın yalnızca Birleşik Krallık’ın düşmanlarına fayda sağlayacağını söyledi.
“Bu sistemler halihazırda uluslararası insancıl hukuka tabi olduğundan ne yazık ki bunları tanımlamak onların yasal kullanımını güçlendirmeyecektir. Aslında, uluslararası müzakerelerde, uluslararası hukuk ve normları kasten göz ardı edenlerin, sorumlu ulusların yeteneklerini ve meşru araştırmalarını kısıtlamak için bir tanım kullanabileceği öngörülebilir” dedi.
“Ayrıca bu nedenle, samimi ve derin bir değerlendirmenin ardından, komitenin ölümcül otonom silah sistemlerine ilişkin etkili bir uluslararası belge üzerinde hızlı bir anlaşmaya varılması yönündeki çağrısını da desteklemiyoruz; bu, düşmanlarımıza bir hediye olacaktır.”
Minto, askeri yapay zekaya yönelik temel korumanın, bir tanıma veya belgeye güvenmek yerine, belirli bir sistemin yaşam döngüsü boyunca insan katılımını sağlamak olduğunu ekledi. Buna paralel olarak hükümetin ne tamamen otonom silahlar yaratmaya ne de Birleşik Krallık’ın nükleer kapasitesinin “siyasi kontrolünü” yapay zekaya bırakmaya niyeti olmadığını açıkladı.
“İngiltere Savunma Bakanlığı her zaman bağlama uygun insan katılımına ve dolayısıyla anlamlı insan kontrolüne, sorumluluğuna ve hesap verebilirliğine sahip olacaktır” dedi. “Ancak diğer ulusların benzer taahhütlerde bulunmadığını ve bu yeni teknolojileri sorumsuzca kullanmaya çalışabileceklerini biliyoruz.”
Bu nedenle, Birleşik Krallık’ın, IHL’ye dayanacağını söylediği sorumlu askeri yapay zeka standartlarını oluşturmak için müttefikleriyle birlikte çalışacağını ve aynı zamanda “sorumsuz tarafları” korumaya yardımcı olmak için teknolojinin tehlikeli askeri kullanımlarını belirlemek ve ilişkilendirmek için çalışacağını da sözlerine ekledi. hesap”.
Hükümette bir tanım veya yasal belge konusunda herhangi bir destek olmamasına rağmen Minto, Birleşik Krallık’ın, özellikle Sözleşme kapsamında çalışan Birleşmiş Milletler’in (BM) hükümet uzmanları grubu olmak üzere, otonom silahların düzenlenmesi konusunda uluslararası diyaloglara katılmaya devam edeceğini söyledi. Bazı Konvansiyonel Silahlar Hakkında.
Lordlar tepki gösteriyor
Tartışma sırasında Lordlar, hükümetin tutumu ve komiteye tepkisi konusunda karışık görüşler dile getirdi.
Örneğin komite başkanı Lord Lisvane, hükümetin “iddialı, güvenli ve sorumlu” askeri yapay zeka yaratma hedefinin artık pratik uygulamaya dönüştürülmesi gerektiğini söyledi ve özellikle AWS’nin operasyonel bir tanımını benimsememe kararını eleştirdi.
“Hükümetin ne dediğini duyuyorum ama ikna olmadım. Geleceğe yönelik bir tanım oluşturmanın mümkün olduğuna inanıyorum” dedi. “Bunu yapmak, Birleşik Krallık’ın otonom silahlar konusunda anlamlı politikalar oluşturmasına ve uluslararası forumlarda tartışmalara tam olarak katılmasına yardımcı olacaktır. Bu bizi daha etkili ve etkili bir oyuncu yapacaktır.”
Kendisi ayrıca hükümetin AWS düzenlemesi etrafındaki uluslararası tartışmalara örnek teşkil etmesi gerektiğini belirterek, sonucun ister yasal olarak bağlayıcı bir anlaşma olsun, ister IHL’nin nasıl uygulanması gerektiğini açıklayan daha gayri resmi tedbirler olsun, “etkili bir uluslararası belgenin bir anlaşma olması gerektiğini” belirtti. yüksek öncelik”.
Lisvane, hükümetin, parlamentonun hesap verebilirliğinin önemi, nükleer komuta üzerinde insan kontrolü ve Savunma Bakanlığı’nın yazılım ve verilerle ilgili satın alma uygulamalarının iyileştirilmesi de dahil olmak üzere komitenin bir dizi tavsiyesini kabul etmesine rağmen, cevabının bu noktaların nasıl olduğuna dair çok az ayrıntı sağladığını veya hiç ayrıntı vermediğini ekledi. elde edilecek.
“Genel olarak, hükümetin raporumuza verdiği yanıt ‘yapıcı niyetteydi’. Umarım bu çok isteksizce gelmiyordur” dedi. “Gelecekteki savunma yeteneğimizde sorumlu yapay zekanın rolünü açıkça kabul ettiler, ancak tasarım, geliştirme ve konuşlandırmanın tüm aşamalarına etik ve yasal ilkeleri dahil etmeleri gerekiyor. Teknoloji avantajlı olduğunda kullanılmalı ancak Birleşik Krallık’ın ahlaki ilkelerine kabul edilemez bir maliyet getirmemelidir.”
Kurulması için baskı yaptıktan sonra komitede yer alan Lord Clement-Jones da benzer şekilde, AWS’nin düzenlenmesi ihtiyacı konusunda neredeyse küresel fikir birliğine rağmen, Birleşik Krallık hükümetinin henüz AWS’nin kullanımına ilişkin bir dizi kısıtlamanın ötesinde herhangi bir sınırlamayı resmi olarak onaylamadığını ekledi. insan gözetimi ve etik kırmızı çizgilerle ilgili belirsiz taahhütler.
Gazze’deki hedefleri belirlemek için yapay zeka sistemlerinin kullanımının yanı sıra Libya, Suriye ve Ukrayna’da otonom dronların kullanımının altını çizen Clement-Jones, bunun AWS’yi düzenleme ihtiyacının aciliyetini gösterdiğini ve bunun en azından başlaması gerektiğini ekledi. çalışan bir tanım.
“AWS’yi tanımlama ve anlama şeklimizdeki tutarsızlığın, bu teknolojilerin geliştirilmesi ve yönetimi üzerinde önemli etkileri var. Ancak komite, tamamen özerk ve kısmen özerk sistemler arasında ayrım yapan bir çalışma tanımının mümkün olduğunu gösterdi. Tepkilerinin de gösterdiği gibi, hükümet buna hala açıkça direniyor.”
Aynı zamanda komitede yer alan Lord Browne, hükümetin AWS tanımının neden gereksiz olduğuna ilişkin açıklamasının “açıkça yetersiz” olduğunu söyledi ve şunları ekledi: “Geçici kelimeleri bile bulamıyorsak, AWS’yi düzenlemeye yönelik politikalarla aktif olarak nasıl ilgilenmeye çalışabiliriz? hangisiyle tanımlayacağız? Ölçüleri sır olarak saklanan, varlığı dedikodudan ibaret olan bir adama takım elbise dikmeye çalışmak gibi bir şey bu.”
Kendisi, bunun karmaşık bir konu olmasına rağmen, iyi politika oluşturmada “karmaşıklığın bir sığınak değil, bir azar olması gerektiğini” ekledi. “Yaklaşımlarını açıkça ifade edebilmek ve bunun uzmanlar ve muhalif sesler tarafından test edilmesini sağlamak, hangi siyasi görüşten olursa olsun hükümetlerin görevidir.”
Ancak diğer Lordlar hükümetin pozisyonunu daha az eleştirdiler ve bunun yerine askeri yapay zekanın potansiyel sonuçları konusunda daha az tedbir ve olumsuzluk gerektiğini savundular.
Komitede yer alan ancak tartışma sırasında kişisel sıfatıyla konuştuğunu vurgulayan Lord Houghton, örneğin, herhangi bir düzenlemenin gerekliliklerinin “kuşkusuz, potansiyel düşmanlarımızın çoğunu açıkça rahatsız etmeyecek şekilde bizi kısıtlayacağını” söyledi: AWS’den elde edilebilecek stratejik avantajlar o kadar büyüktür ki “bundan yararlanmanın yollarını aramasaydık deli olurduk”.
Ayrıca hükümetten “ilerlemeyi engellemek için aşırı tedbire izin vermeyeceğine” dair güvence verilmesi çağrısında bulundu ve komitenin soruşturması sırasında askeri yapay zeka ve özellikle AWS risklerine yönelik ifade edilen olumsuzluğu hedef aldı.
“Olumsuzluk, komite üyeleri arasında değil, daha ziyade uzman tanıklarımızın birçoğu arasındaydı; bunlardan bazıları teknik felaket tellallarıydı, diğerleri ise savaş alanı yönetiminin nihai olarak pratik bir sorununu, savaş alanı yönetiminin etik bir meydan okumasına dönüştürerek hayatlarını kazanıyor gibi görünüyorlardı. Gordion karmaşıklığı” dedi.
Donanma bağlamında yapay zekadan bahseden Lord Stevens, etkili bir kuvvet çarpanı olarak yapay zeka destekli sistemlere ihtiyaç duyulacağını ve AWS düzenlemelerinin aşırı kısıtlayıcı olmadığından emin olmak için dikkatli olunması gerektiğini savundu.
“Aslında yapay zeka hızla gelişen genel amaçlı teknolojilerin bir yelpazesiyken, yapay zekayı ayrı bir silah sistemi kategorisi olarak düzenlemeye kalkışırsak, Parlamento bir kategori hatası yapmış olur” dedi.
“Yapay zeka sistemleri denizcilik ortamında açıkça çok büyük potansiyel faydalar sunuyor. Parlamento ulusumuzun bunlardan faydalanmasına yardımcı olabilir ve olmalıdır da… Kraliyet Donanması’na göndermemiz gereken sinyal şu olmalıdır: hızla ilerlemeye devam edin.”
Lord Hamilton da benzer şekilde, “düşmanlarımız yapay zekayı coşkuyla benimseyip biz bunu yapmazsak, Birleşik Krallık’ın ciddi bir dezavantajla karşı karşıya kalacağını” belirtti.
Birleşik Krallık silahlı kuvvetlerinin yapay zekayı benimsemesinin “son derece önemli” olduğunu, dolayısıyla “birliklerimizin hayatlarını kurtarmak ve savaşları kazanma şansımızı artırmak” için kullanılabileceğini ekledi.