Dünyanın dört bir yanındaki devletlerin dışişleri bakanları, çok az veya hiç insan müdahalesi olmadan hedefleri seçebilen, tespit edebilen ve onlara saldırabilen otonom silah sistemlerinin (AWS) büyüyen tehdidine karşı insanlığı korumak için çok taraflı eylem çağrısında bulunuyor.
Kasım 2023’te, silahsızlanma ve uluslararası güvenlikle ilgili konularla ilgilenen Birleşmiş Milletler (BM) Birinci Komitesine katılan ülkeler, AWS’nin küresel olarak kullanımını kontrol etmek için uluslararası eyleme yönelik “acil ihtiyacın” altını çizen bir kararın ezici bir çoğunluğu lehinde oy kullandı.
Bunu takiben, 140 ülkeden 900’den fazla temsilci, yapay zeka (AI) destekli silahların sunduğu ahlaki, etik, yasal ve insani kaygıları daha ayrıntılı tartışmak üzere 29 Nisan 2024’te Viyana Otonom Silah Sistemleri Konferansı’nda bir araya geldi.
Üç günlük etkinliğin ilk gününde konuşan dünyanın dört bir yanından dışişleri bakanları, AWS’nin uluslararası düzeyde kullanımını kontrol etmek ve sınırlamak için yasal olarak bağlayıcı yeni araçlar oluşturmanın önemini tartıştılar.
Eyaletlerin büyük çoğunluğunun tamamen otonom silahların var olmasını istemediğini ve halihazırda otonom silah teknolojilerinin daha da geliştirilmesi ve konuşlandırılması konusunda yasal kontroller talep ettiklerini belirten bakanlar, AWS’nin yönetilmesi için çok taraflı yaklaşımlara duyulan ihtiyacı vurguladı.
Ancak aynı zamanda kilit aktörlerin siyasi irade eksikliğinin, ilerlemenin önünde devam eden büyük bir engel olduğu, zira güç ve nüfuzlarının onlarsız somut çok taraflı eylemler gerçekleştirmeyi zorlaştırdığı konusunda da uyardılar.
Tartışma ayrıntıları
Avusturya’nın Avrupa ve Uluslararası İlişkilerden sorumlu federal bakanı Alexander Schallenberg, AWS’yi “neslimizin Oppenheimer anı” olarak tanımlayarak, bunların geliştirilmesinin “derinden etik” ve “temelde politik soruları” gündeme getirdiğini söyledi. Hükümetinin, insan müdahalesi olmadan çalışabilen, tamamen otonom silah versiyonlarının tamamen yasaklanması gerektiği yönündeki tutumunu yineledi.
Çatışmalarda insan kaybının çok fazla olduğunu hepimiz biliyoruz, ama en azından kimin yaşayıp kimin öleceği konusunda en derin ve geniş kapsamlı kararın insanların elinde olduğundan emin olalım. makineler” dedi.
Şubat 2023’te 33 Latin Amerika ve Karayip ülkesi tarafından imzalanan Berlin Bildirisi’ni vurgulayan Kosta Rika dışişleri bakanı Arnoldo André Tinoco, AWS’nin etkili düzenlemesinin ülkesi ve bölgesi için “son derece önemli” olduğunu ekledi.
Nükleer bombalar, misket bombaları ve biyolojik silahların oluşturduğu tehditleri ele almaya yönelik önceki uluslararası çabaların başarısına dikkat çeken Tinoco, devletlerin “büyük çoğunluğunun” artık AWS üzerinde yasal olarak bağlayıcı bir belge elde etmek için diyalog ve işbirliği istediğini ve “büyüyen çoğunluğun” olduğunu söyledi. bu ortak hedefe bağlı kritik bir devlet kitlesi halinde birleşmeye başlıyor”.
Devletlerin AWS silahsızlanmasını güvenlik ihtiyaçlarıyla dengeleme ihtiyacı hakkında yorum yapan Norveç’in dışişlerinden sorumlu dışişleri bakanı Eivind Vad Petersson, otonom silah kullanırken uluslararası insancıl hukuka (IHL) uymamanın sonuçta askeri operasyonların etkinliğini zayıflatacağını söyledi. , “Söylediğim için üzgünüm ki Gazze’de de bir oyun yaşandığını gördük”.
Kendisi, IHL’nin “boş bir oda” olmadığını ve halihazırda AWS’nin çatışmalarda kullanımına uygulanabileceğini ancak yapay zeka destekli silahların kullanımına tam olarak nasıl uygulanacağını açıklığa kavuşturmak için yeni ve bağlayıcı bir uluslararası belgeye ihtiyaç duyulduğunu ekledi. Herhangi bir insan kontrolü dışında tam özerklikle çalışan silahların kullanımını tamamen yasaklayan bir başka bağlayıcı belge.
Küresel bir çatışma gözlemcisi olarak görev yapan Uluslararası Kızıl Haç Komitesi’nin (ICRC) başkanı Mirjana Spoljaric Egger, tüm devletlerin Cenevre Sözleşmesi kapsamında AWS kullanımının yasal olmasını sağlama konusunda halihazırda yükümlülükleri olmasına rağmen IHL’nin statik olmadığını kabul etti. ve savaştaki her zaman yeni teknolojilere ve olanaklara uyum sağlamıştır.
“ICRC söz konusu olduğunda, açık yasaklar içeren bir çerçeveye ihtiyacımız var” dedi. “İnsanları hedef alan otonom silah sistemlerine yönelik yasaklar ve öngörülemeyen otonom silah sistemlerine yönelik yasaklar… [and] saldırının anını ve nesnesini tanımlayarak otomatik ve insan kontrolünden bağımsız olarak hedefleri seçiyor.
Örneğin, mayın ve kimyasal silahların kullanımına ilişkin son yıllarda kabul edilen bir dizi anlaşmanın altını çizen Spoljaric Egger, bu anlaşmaların bazı eyaletler tarafından hiçbir zaman onaylanmamış olmasına rağmen hayat kurtardığını, bunun da onaylanmamasının önemli olduğu anlamına geldiğini ekledi: ” bazı ülkelerin yeni uluslararası araçları desteklemeyi reddetmesi nedeniyle cesareti kırıldı.
Çok taraflılık tehdit altında mı?
Viyana Konferansı’nın ilk gününde dışişleri bakanları ve diğerleri tarafından tartışılan önemli bir endişe, bazı önemli aktörlerin AWS konusunda işbirliği yapma konusundaki suskunluğuydu.
Aşırı derecede zararlı veya ayrım gözetmeyen etkilere sahip olduğu düşünülen silahların kullanımını yasaklamayı veya kısıtlamayı amaçlayan ve AWS düzenlemelerinin tartışıldığı ana uluslararası forum olan BM’nin Belirli Konvansiyonel Silahlar Konvansiyonu’nun (CCW) çalışmaları hakkında yorum yapan – Jaan Cambridge Üniversitesi Varoluşsal Risk Çalışmaları Merkezi’nin kurucu ortağı Tallinn, her delegasyonun tam mutabakata varmasını gerektiren fikir birliğine dayalı model nedeniyle kurumun “tamamen felç” olduğunun artık açık olduğunu söyledi.
Birçok konuşmacı, mevcut her ülkenin fiili veto yetkileri yoluyla CCW’nin fikir birliği sürecini baltalamada “Rusya ve diğerlerinin” rolünü vurgularken, şimdiye kadar yalnızca küçük bir azınlık eyalet, Birleşik Krallık’ın da dahil olduğu AWS’ye ilişkin bağlayıcı protokollere karşı çıktı. ABD ve İsrail.
Hayatın Geleceği Enstitüsü’nün genel müdürü Anthony Aguirre şunu ekledi: “Sanırım CCW’deki sürecin bir çıkmaz sokak olduğunu kabul etmemiz gerekiyor.” “Saf fikir birliği” modelinin, bazı ülkelerin “otonom silahlara ilişkin her türlü anlamlı tedbiri engelleyeceği” anlamına geldiğini belirtti.
Hem Aguirre hem de Tallinn, CCW’de bağlayıcı önlemlere doğru hareket edilmesinin pek olası olmadığını ancak eyaletlerin şu anda AWS’ye karşı kendi karşı önlemlerini geliştirmelerini engelleyen hiçbir şeyin olmadığını söyledi.
Aguirre, “Otonom silahları sınırlayan bir anlaşma, ülkeleri hiçbir şekilde onlara karşı savunma geliştirmekten alıkoyamaz” dedi ve uygulamaya konulan herhangi bir gönüllü önlemin – çoğu zaman olumlu ve iyi niyetli olsa da – nükleer silahların yayılmasına engel olacak herhangi bir şey yapma ihtimalinin de düşük olduğunu ekledi. AWS’den. “Kısacası yeni bir anlaşmaya ihtiyacımız olduğunu ve bu anlaşmanın BM Genel Kurulu’nda müzakere edilmesi gerektiğini düşünüyorum.”
Hükümetin bir tanımın “düşmanlarımıza bir hediye” olacağını öne sürdüğü Birleşik Krallık da dahil olmak üzere bazı ülkelerin AWS’nin geçerli tanımlarını benimseme konusunda isteksiz olduğuna dikkat çeken Aguirre, bunun eylemsizlik için bir bahane olduğunu ve bunun gibi diğer anlaşmaların da geçerli olduğunu belirtti. Biyolojik silahlara ilişkin kesin tanımlar içermemektedir.
Dünyanın büyük bir kısmının, insanları seçip hedef alabilen silah sistemlerinin kullanımını engelleyen yasal olarak bağlayıcı kurallardan yana olduğunun açık olduğunu, dolayısıyla hangi düzenlemenin sınırlayıcı olacağını bilmemeye yönelik herhangi bir iddianın sadece başka bir mazeret olduğunu ekledi.
BM’nin silahsızlanma işlerinden sorumlu yüksek temsilcisi Izumi Nakamitsu, AWS üzerinde insan kontrolünü ve güç kullanma kararını sağlamak için “gönüllü önlemlerin yeterli olmayacağını” kabul ederek, tüm yasal araçların silahlar konusunda tam özerkliği yasaklaması ve diğer tüm hususları düzenlemesi gerektiğine dikkat çekti. Hedef seçim protokollerinden belirli bir dağıtımın uzunluğuna kadar AWS’nin.
Nakamitsu, AWS’de ilerlemenin önündeki ana engellerin, büyük askeri güçlerin konuyla ilgili diğerleriyle etkileşime geçme konusunda siyasi irade eksikliği olduğunu ekledi; büyük güçlerin yürütülen çok taraflı tartışmalara karşılıklı güven duymadığı bir jeopolitik ortam; ve AWS’nin çeşitli yönleriyle ilgili tanımlar ve terminoloji konusunda fikir birliği eksikliği.
Sierra Leone’nin dışişleri ve uluslararası işbirliği bakanı Timothy Musa Kabba, modern dünyada çok taraflılığın işe yaraması için, beş daimi üyesinin çıkarlarının hakim olduğu BM Güvenlik Konseyi’nde reform yapılmasına acil ihtiyaç olduğunu söyledi. (Çin, Fransa, Rusya, İngiltere ve ABD).
“İklim değişikliğinden otonom silah sistemlerine kadar yeni gerçeklerin ortaya çıkmasıyla birlikte çok taraflılığa bir kez daha bakmamız gerektiğini düşünüyorum” diyen yeni veya reforme edilmiş kurumların kapsayıcı, demokratik ve uyarlanabilir olması gerektiğine dikkat çekti.
Transatlantik köle ticaretini mümkün kılan buharlı gemilerin ortaya çıkışından veya “Afrika kıyılarını nükleer atıklar için bir çöplük alanı” haline getiren atom enerjisindeki atılımlardan Afrika’daki Avrupa sömürgeciliği ve teknolojisinin mirası göz önüne alındığında, bu konuda gerçek bir endişenin olduğunu ekledi. AI ve AWS’nin kıta üzerindeki olumsuz etkileri.
“Çok endişelendik… çünkü yapay zeka bilimsel gelişim, sosyo-politik gelişim için kullanılmalı ama yok etmek için de kullanılabilir” dedi.
Musa Kabba, dünyadaki hemen hemen her ulusun Viyana’daki tartışmalara katılmasının önemli bir kilometre taşı olduğunu belirterek şunları ekledi: “Yasal olarak bağlayıcı düzenleyici araçlar bulmamızın zorunlu ihtiyacı ne kadar vurgulansa azdır.”