AI etik uzmanı Elke Schwarz, orduda yapay zeka (AI) geliştirmek ve konuşlandırmak için etik gerekçelerin, özellikle otonom silah sistemlerinin kullanımına ilişkin olanlar, incelemeye tabi olmadığını söylüyor.
Londra Queen Mary Üniversitesi’nde siyaset teorisi doçenti ve yazarı Ölüm makineleri: Şiddet içeren teknolojilerin etiği.
Dünyanın dört bir yanındaki hükümetler, askeri operasyonlarında lojistik ve kaynak yönetiminden hassas güdümlü mühimmatlara ve hedefleri seçebilen, tespit edebilen ve ateş altına alabilen ölümcül otonom silahlara (LAWS) kadar bir dizi yapay zeka sistemi geliştirmeye ve konuşlandırmaya uzun süredir açık bir ilgi gösteriyor. veya insan müdahalesi yok.
Askeri YZ’nin gerekçeleri çeşitli olsa da, savunucuları, zayiatları azaltacağı, sivilleri koruyacağı ve genel olarak uzun süreli savaşları önleyeceği için geliştirilmesinin ve konuşlandırılmasının “ahlaki bir zorunluluk” olduğunu savunacaklardır.
Askeri AI, mevcut ve potansiyel düşmanlara karşı teknolojik bir avantajı sürdürmek için gerekli olduğu için jeopolitik bir gereklilik olarak da çerçeveleniyor.
Schwarz, Computer Weekly’ye “Savaşın ne olduğunu ve savaş faaliyetinin ne olduğunu düşünmelisiniz” diyor. “Mühendislik sorunu değil. Teknolojik bir sorun da değil. Bu, teknolojiyle, hatta daha fazla teknolojiyle çözemeyeceğiniz sosyo-politik bir sorun – tam tersini yapıyorsunuz.”
2023 Şubat ayı ortalarında Askeri Alanda Sorumlu Yapay Zeka konferansına katılırken, farkındalığı artırmak ve silahlı çatışmalarda AI ile ilgili sorunları tartışmak için küresel bir zirveye katılırken, dünyanın dört bir yanından hükümet delegelerinin – biraz ürkek olsa da – çok heyecanlandığını ekliyor. AI’yı orduda kullanma olasılığı hakkında. Sadece bir kişi – Filipinler’den bir delege – AI’nın barış için neler yapabileceği hakkında konuştu.
“Barışçıl bir bağlama nasıl ulaşacağımızı gerçekten düşünen bir ses vardı,” diyor.
Etik ölüm makineleri
Schwarz, “etik silahlar” kavramının ancak Obama yönetiminin Irak ve Afganistan’da uzaktan saldırılar düzenlemek için insansız hava araçlarını yoğun bir şekilde kullanmaya başlamasından sonra gerçekten yükseldiğini söylüyor ve savunucuların sivil kayıpları azaltacağını iddia ediyor.
“On yılı aşkın bir süredir devam eden drone savaşı, bize sivil kayıpların mutlaka azalmadığına dair net bir işaret verdi” diyor ve teknolojinin sağladığı rahatlığın aslında kuvvete başvurma eşiğini düşürdüğünü de sözlerine ekliyor. “Belki biraz daha kesin bir saldırı emri verebilirsiniz, ancak şiddet kullanmaya eskisinden daha yatkınsanız, o zaman elbette siviller zarar görecek.”
Obama yönetimindeki drone savaşının muazzam genişlemesinin, birçok kişinin ileri teknolojilerin orduda kullanılmasının “ahlaki bir zorunluluk” olduğunu, çünkü kendi askerlerinin hayatlarını koruduğunu ve şu anda benzer argümanların yapıldığını iddia etmesine yol açtığını ekliyor. YASALARIN lütfu.
“Bize büyük mesafe sağlayan bu silahlara sahibiz ve mesafe ile bir taraf için risksizlik gelir, ancak bu diğerleri için mutlaka daha az risk anlamına gelmez – yalnızca onları çok kesin bir şekilde kullanırsanız, ki bu hiçbir zaman mümkün olmaz.” Savaşta olur” diyor ve bunun etkilerinin açık olduğunu ekliyor: “Bazı hayatlar bağışlandı, bazıları ise bağışlanmadı.”
Schwarz’a göre bu gelişmeler endişe verici çünkü insanların “bir silah – bir öldürme aracı – etik bir şeymiş gibi yarı ahlaki bir söylemde bulunduğu” bir durum yarattı.
Şiddet kullanmaya eskisinden daha yatkınsanız, o zaman elbette siviller zarar görecektir.
Elke Schwarz, Queen Mary Üniversitesi Londra
Şunları ekliyor: “Tuhaf bir dönüş ama biz bu noktadayız… asıl mesele onları nasıl ve ne için kullandığımız. Nihai olarak öldürme araçlarıdırlar, bu yüzden onları kullanmak kolaylaşırsa, büyük olasılıkla daha fazla kullanılıyorlar ve bu bir kısıtlama göstergesi değil, tam tersi – bu etik olarak çerçevelenemez. herhangi bir şekilde.
Schwarz, otonom silahlar gibi yeni askeri teknolojilerin savaşları daha hızlı bitirmeye yardımcı oldukları için etik olduğu iddiasıyla ilgili olarak, son birkaç on yılda Batılı güçlerin her zaman oldukça gelişmiş silahlar kullanan uzun süreli savaşlarında “tamamen aksini gördük” diyor. açık bir teknolojik dezavantaja sahip savaşçılara karşı.
Yapay zekanın orduda insan faaliyetlerini izlemek ve “önleyici tedbirler” almak için kullanılmasının da endişe verici bir gelişme olduğunu, çünkü insanları veri noktalarına indirgediğini ve herhangi bir nüansı veya karmaşıklığı tamamen düzleştirirken alıcı olanlar için riski büyük ölçüde artırdığını ekliyor. son.
“Bir şeyin nerede olabileceğini belirleme zorunluluğunun aciliyeti [before it happens] gerçekten garip bir şekilde Azınlık Raporu yol en önemli hale gelecek çünkü nihayetinde kişinin çalıştığı mantık bu” diyor.
“Askeri operasyonlar için nihai alt tabaka olarak yapay zekaya daha fazla odaklanmanın her şeyi çok daha istikrarsız hale getirdiğini görüyorum.”
Taht Oyunları
Askeri yapay zeka etrafındaki mevcut söylemin bir diğer zayıflığı, devletler arasındaki güç farklılıklarının jeopolitik terimlerle yeterince tartışılmaması.
Kongre Araştırma Servisi tarafından Kasım 2022’de yayınlanan “gelişmekte olan askeri teknolojiler” konulu bir raporda analistler, kabaca 30 ülke ve 165 sivil toplum kuruluşunun (STK), çevredeki etik kaygılar nedeniyle YASALARIN kullanımına yönelik önleyici bir yasak çağrısında bulunduğunu kaydetti. potansiyel sorumluluk eksikliği ve çatışmayla ilgili uluslararası yasalara uymama dahil olmak üzere bunların kullanımı.
Buna karşılık, az sayıda güçlü hükümet – başta 2019’da yapılan bir araştırmaya göre “özerk donanım geliştirme ve yatırım kapasitesinde açık ara lider” olan ABD, aynı zamanda Çin, Rusya, Güney Kore ve Avrupa Birliği – ABD oldu. askeri yapay zekayı zorlamada kilit oyuncular.
Schwarz, “Güç dengesinin tamamen bozulduğu gerçekten çok önemli bir nokta” diyor. “Anlatı, büyük güç çatışmasının yaşanacağıdır. [between] Çin, Rusya, Amerika, bu yüzden askeri yapay zekaya ihtiyacımız var çünkü Çin’de askeri yapay zeka varsa çok daha hızlı olurlar ve geri kalan her şey yok olur.”
Bu büyük güçlerin hiçbirinin son yarım yüzyıldaki seferi savaşlarının alıcı tarafında olmadığına dikkat çeken Schwarz, savaştan en çok etkilenen ülkelerin orduda yapay zeka üzerinde daha fazla söz sahibi olması gerektiğini söylüyor.
“Açıkça büyük bir paya ve söz sahibi olmaya ihtiyaç duyanlar, hedef olma olasılığı daha yüksek olan ülkelerdir” diyor ve bu eyaletlerin çoğunun, YASALARA sahip olmamamız gerektiği konusunda nispeten tekdüze bir anlaşmaya vardıklarını da sözlerine ekliyor.
“[They argue] bu tür sistemleri yasaklamak veya en azından ağır bir şekilde düzenlemek için sağlam bir uluslararası yasal çerçeve olmalı ve elbette ‘Hayır, hayır, hayır, inovasyonu engelleyen’ diyenler olağan şüpheliler, yani çok büyük bir güç farkı var.”
Schwarz, askeri yapay zeka uygulayan müttefik devletler arasında da güç farklılıklarının ortaya çıkabileceğini, çünkü belirli oyuncuların yaklaşımının, istenen bağlantılılık ve birlikte çalışabilirlik düzeyine ulaşmak için en güçlü aktör kim olursa olsun ona uyması gerekeceğini ekliyor.
“ABD, Yakınsama Projesi için şimdiden bazı tatbikatlar yapıyor. [with the UK], çeşitli etki alanlarının ve çeşitli teknolojilerin bu genel ağının bir parçasıdır. ABD’nin ne olacağı, teknolojinin nasıl yaygınlaştırılması gerektiği ve teknolojinin sınırlarının ne olduğu konusunda Birleşik Krallık’tan daha fazla söz sahibi olacağını söyleyebilirim, ”diyor.
“Müttefik ağlar içinde bile, herkesin yapay zeka olasılığıyla bu kadar büyülendiği şu anda yeterince dikkate alınmayan güç farklılıklarının her zaman olacağını öne sürüyorum.”
Orduyu Silikon Vadisi imajında şekillendirmek
Askeri AI’nın geliştirilmesi ve konuşlandırılmasıyla ilgili en büyük sorun, bunun çok az tartışma veya gözetim olmadan gerçekleşmesi ve dar bir kurumsal ve siyasi gündem tarafından şekillendirilmesidir.
Ortak yazar olan eski Google CEO’su Eric Schmidt’in çabalarını vurgulama AI çağı: ve insani geleceğimiz Aralık 2021’de eski ABD dışişleri bakanı Henry Kissinger ile ve yapay zekanın ABD ordusuna itilmesinde etkili olan – Schwarz, bu sorunların yalnızca Schmidt’e indirgenemeyeceğini, ancak önemi göz önüne alındığında öğretici bir örnek olduğunu söylüyor.
“Kendilerini bu sistemler hakkında ‘bilen’ ve uzmanlar olarak konumlandırıyorlar” diyor. “Özellikle Schmidt’in son yedi ila beş yıldır askeri yapay zeka konusundaki yolculuğunun ve savunuculuğunun izini sürüyorum ve o, tüm orduların, özellikle de ABD ordusu ve müttefiklerinin , yapay zekaya hazır olmalı…rekabetçi olmak ve rekabet gücünü korumak için Rusya ve Çin ile her zaman vize rekabeti içinde olun.”
Bununla birlikte, bunun pratikte nasıl işe yarayabileceğini ve yapay zeka destekli orduların tuzaklarının bazen ele alındığını, ancak her zaman konuşmanın “kenarlarına itildiğini” ekliyor.
“Nihayetinde, AI’yı birbirine bağlı hale getirmek ve satın almadan operasyonlara kadar askeri süreçleri süper hızlı ve çevik hale getirmek – temelde orduyu Silikon Vadisi imajına göre şekillendirmekle ilgili” diyor. “Savaşı böyle hızlandırırsan ne olur?”
Sorunun bir kısmı, genel olarak özel şirketlerin ve aktörlerin, özellikle sıradan insanlarla karşılaştırıldığında, orduların hangi dijital teknolojileri konuşlandırdığı konusunda çok orantısız bir söz hakkına sahip olmasıdır.
Herkesi neyin etkilediğine nihai olarak herkes karar vermelidir ve bu her demokrasi için geçerli olmalıdır.
Elke Schwarz, Queen Mary Üniversitesi Londra
Örneğin, Haziran 2022’de Birleşik Krallık Savunma Bakanlığı (MoD) Savunma yapay zeka stratejisi“Silahlı Kuvvetlerimizin yeteneklerinde devrim yaratmak” için yapay zekada araştırma, geliştirme ve deneylere öncelik vermek için hükümetin özel sektörle nasıl yakın çalışacağını özetliyor.
Schwarz, “Askeri teknolojilerin nasıl inşa edildiği, oluşturulduğu veya inşa edildiği konusunda doğrudan demokratik bir söz hakkımız yok ve bu illa ki büyük sorun değil” diyor. “Bence özel aktörlerin rolü ve ne tür bir sorumluluk almaları gerektiği hakkında samimi bir konuşma yapılması gerekiyor çünkü şu anda… bu çok düzensiz.”
Teknolojinin savunucularının sahip olacağını söylediği sismik, insanlığı değiştiren etkisi göz önüne alındığında, askeri yapay zeka hakkındaki kamuoyu tartışmasının özellikle önemli olduğunu ekliyor.
“Bu verileri işleme ve kalıpları bulma yöntemi, bunda muhteşem bir şey var, ama bu sadece hesaplamalı bir makine,” diyor. “Bence bunu bir doğal yasaya, insanlığın bir sonraki yinelemesine yükseltmek, onu bir gereklilik ve kaçınılmazlık düzeyine yükseltmek, bundan para kazanacak bazıları için yararlıdır, ancak henüz insanlar olarak nasıl olduğumuzu gerçekten daha iyi anlamış değilim. ve sosyal bağlamımız, siyasi bağlamımız ve etik ortak yaşamımız bundan çok büyük fayda sağlayabilir.
Schwarz, bu anlatıların bazıları için yararlı olabilse de, çoğu sıradan insanın “genellikle hiçbir şey bilmediğimiz özel temelleri olan ve nihayetinde bize derinden fayda sağlamayacak olan” AI teknolojilerinin kullanımına boyun eğmek zorunda kalacağını ekliyor.
Bunun yerine, savunucuların askeri YZ’ye yaklaştığı ve Schwarz’ın “açık, nüanslı ve ayrıntılı bir tartışmaya izin vermediğini” söylediği “aciliyet duygusu”, insanların gelecekleri hakkında toplu olarak karar vermelerine izin veren daha yavaş, daha müzakereci bir yaklaşımla değiştirilmelidir. istek.
Şu sonuca varıyor: “Herkesi neyin etkilediğine eninde sonunda herkes karar vermeli ve bu her demokrasi için geçerli olmalı.”