Lordlar Kamarası komitesi, Birleşik Krallık hükümetinin yapay zekayı (AI) askeri amaçlarla, özellikle de otonom silah sistemlerini (AWS) geliştirirken ve dağıtırken “dikkatli davranması” gerektiğini söyledi.
Ölümcül Otonom Silah Sistemleri (LAWS) olarak da bilinen AWS, çok az veya hiç insan müdahalesi olmadan hedefleri seçebilen, tespit edebilen ve onlara saldırabilen silah sistemleridir.
31 Ocak 2023’te kurulan Lord’un Silah Sistemlerinde Yapay Zeka Komitesi, bu tür silahların nasıl güvenli ve güvenilir bir şekilde kullanılabileceği, çatışmaları artırma potansiyelleri ve uluslararası yasalara uygunlukları da dahil olmak üzere bu tür silahların geliştirilmesi ve konuşlandırılmasının etiğini araştırdı.
1 Aralık’ta bulgularını detaylandıran bir raporda Komite, hükümetin 2022 Savunma Stratejisinde askeri yapay zekaya “iddialı, güvenli ve sorumlu” bir şekilde yaklaşma sözü vermesine rağmen, bu arzuların gerçeğe dönüşmediğini ve tercüme edilmesi gerektiğini söyledi. uygulamaya.
“Otonom silahların ve genel olarak yapay zekanın önemli ölçüde tartışılması, gündem arayışı ve anlayış eksikliği nedeniyle sekteye uğruyor” dedi. “Amaçlarımızdan biri yapıcı tartışmalar için gerçeklere dayalı bir temel sağlamaktır ve Hükümet açısından açık sözlülük ve şeffaflık bu süreci destekleyecektir.”
Komite, hükümetin genel olarak yapay zekanın geliştirilmesi ve kullanımında ve özellikle de AWS konusunda hem halkın güvenini hem de demokratik desteği aramasının, oluşturmasının ve sürdürmesinin önemli olduğunu söyledi.
Bunu başarmak için komite, hükümetin askeri yapay zeka uygulamaları konusunda kamuoyunun anlayışını ve güvenini nasıl artırabileceği ve aynı zamanda Parlamentonun bu alanda karar alma rolünü nasıl geliştirebileceği konusunda bir dizi tavsiyede bulundu.
Nükleer yasak
Raporun büyük bir kısmı askeri yapay zekanın gözetiminin iyileştirilmesine odaklanırken, aynı zamanda bilgisayar korsanlığı, “zehirli” eğitim verileri ve tırmanma riskleri nedeniyle teknolojinin nükleer komuta, kontrol ve iletişimde kullanılmasının özel olarak yasaklanması çağrısında da bulundu. kriz anlarında kasıtlı veya tesadüfi olabilir.
“Yapay zeka hayatın birçok alanına yayıldı ve savunma da bir istisna değil. Savunma teknolojisinde nasıl devrim yaratabileceği günümüzde yapay zekanın en tartışmalı kullanım alanlarından biridir” diyen komite başkanı Lord Lisvane, hükümetin gelecekteki savunma yeteneklerinde sorumlu yapay zekaya duyulan ihtiyacın tanınması memnuniyetle karşılanırken, bu konuda atılması gereken bir dizi adım olduğunu da sözlerine ekledi. uygun önlemlerin alınmasını sağlamak için almalıdır.
“Kamuoyunun anlayışını ve demokratik onayı sağlarken, tasarım, geliştirme ve dağıtımın tüm aşamalarında etik ve yasal ilkeleri içermelidir” diye devam etti. “Teknoloji avantajlı olduğunda kullanılmalı, ancak Birleşik Krallık’ın ahlaki ilkelerine kabul edilemez bir maliyet getirmemelidir.”
Komitenin temel tavsiyeleri arasında hükümetin AWS’nin yaşam döngüsünün tüm aşamalarında insan kontrolünü sağlaması; anlamlı politika kararlarının verilebilmesi için AWS’nin operasyonel, teknolojiden bağımsız bir tanımını benimsemek; ve yapay zeka odaklı bir dünya için satın alma süreçlerini uygun şekilde tasarlamak, böylece uygun bir hesap verebilirlik sağlamak.
Kamu güveni ve farkındalığı açısından komite, Savunma Bakanlığı’nın (MoD) şu anda halkın AWS’ye yönelik tutumunu anlamak için çalışmamasının “hayal kırıklığına uğradığını” belirterek, halka uygun şekilde danışılması gerektiğini ekledi: “Aynı zamanda etik kuralların da güvence altına alınması gerekiyor” Savunma Bakanlığı’nın Yapay Zeka Etik Danışma Komitesi’nin rolünün genişletilmesi de dahil olmak üzere politikasının merkezinde yer alıyor.”
Birleşik Krallık’ın AWS yeteneklerine yönelik incelemelerin iyileştirilmesiyle ilgili olarak Parlamentonun gözetim kapasitesinin bilginin kullanılabilirliğine, olaydan sonra tepki vermek yerine sorunları tahmin etme becerisine ve bakanları hesap verme becerisine bağlı olduğunu söyledi.
“Hükümet, Parlamento takviminde yeterli alana izin vermeli ve Parlamentonun, seçilmiş komiteleri de dahil olmak üzere, AI politikasını etkili bir şekilde incelemesi için yeterli bilgi sağlamalıdır” dedi. “Politika geliştirme unsurlarının son derece hassas olabileceğini doğal olarak anlıyoruz, ancak bu tür bilgilerle baş etmenin yerleşik yolları var. Gizlilik argümanları hesap verebilirliği ortadan kaldırmak için kullanılmamalıdır.”
Komite ayrıca hükümeti askeri yapay zeka ve AWS konusunda uluslararası katılım konusunda örnek olmaya çağırdı.
“Yapay Zeka Güvenlik Zirvesi memnuniyetle karşılanan bir girişimdi ancak savunmayı kapsamıyordu. Hükümet, “güvenli insan merkezli, güvenilir ve sorumlu yapay zekayı sağlamak için kapsayıcı bir şekilde birlikte çalışma” ve “mevcut uluslararası forumlar ve diğer ilgili girişimler aracılığıyla herkesin iyiliğini” destekleme yönündeki ilan ettiği arzusuna yapay zekayı AWS’ye dahil etmelidir. Zirve sırasında 28 ülke tarafından imzalanan Bletchley Deklarasyonu’na atıfta bulunarak, dedi.
“Uluslararası toplum birkaç yıldır AWS düzenlemesini tartışıyor. Bu tartışmanın sonuçları, yasal olarak bağlayıcı bir anlaşma veya uluslararası insancıl hukukun uygulanmasını açıklığa kavuşturan bağlayıcı olmayan tedbirler olabilir; her yaklaşımın savunucuları vardır. Şekildeki farklılıklara rağmen temel amaç, etkili bir uluslararası araca ulaşma çabalarını hızlandırmaktır.”
Nisan 2023’te komiteye kanıt sunan sivil toplum kuruluşu Drone Wars UK’den Peter Burt, rapora yanıt vererek şunları söyledi: “Lordlar Komitesi, otonom silah sistemlerinin – ‘katil robotların’ – en tartışmalı kullanımlardan biri olduğunu kabul etti. Yapay Zekanın günümüzdeki önemi ve bu sistemlerin yaşam döngülerinin her aşamasında insan kontrolü altında kalması gerektiğini açıkça ifade etmiştir”.
“Maalesef Birleşik Krallık hükümeti, teşkil ettikleri risklere bakılmaksızın otonom silahlar geliştirme konusunda hızla ilerliyor” dedi. “Otonom silahlardan kaynaklanan etik tehlikeler ve zararlar, silahlara ilişkin araştırmaların çok gerisinde kaldı.”
Burt, Birleşik Krallık hükümetinin AWS konusu hakkında kamuya açık olarak söylediği şeylerin çoğunun “vitrin süslemekten biraz daha fazlası olduğunu” ve bunun “hükümetin yüksek profilli uluslararası Yapay Zeka Güvenliği Zirvesi’nin askeri uygulamaları tartışmayı açıkça dışladığını” ifade ettiğini ekledi. Yapay zekanın akla gelebilecek en zararlı potansiyel kullanımları”.
Uluslararası kontroller
Burt, Lordların da belirttiği gibi, şu andaki temel hedefin, yapay zekanın askeri kullanımlarını kontrol etmek için “etkili bir uluslararası araç” yaratma çabalarını hızlandırmak olduğunu söyledi. “Eğer ‘Küresel Britanya’nın bir anlamı olacaksa, Birleşik Krallık hükümetinin artık tamamen otonom silah sistemlerini yasaklamaya yönelik büyüyen hareketin arkasına ağırlığını koyması gerekiyor” dedi.
Kongre Araştırma Servisi tarafından Kasım 2022’de yayınlanan “gelişen askeri teknolojiler” konulu bir raporda analistler, yaklaşık 30 ülke ve 165 sivil toplum kuruluşunun (STK), yasalardan dolayı YASALARIN kullanımının önleyici bir şekilde yasaklanması çağrısında bulunduğunu kaydetti. Potansiyel hesap verebilirlik eksikliği ve çatışmalarla ilgili uluslararası yasalara uyma yetersizliği de dahil olmak üzere, bunların kullanımıyla ilgili etik kaygılar.
Kasım 2023’ün başlarında, Birleşmiş Milletler (BM) silahsızlanma organı, yapay zeka destekli silah sistemlerinin olumsuz etkilerine ilişkin bir karar taslağını onayladı ve bunların ortaya çıkardığı zorlukları ve endişeleri ele almak için uluslararası eyleme “acil ihtiyaç” olduğunu söyledi.
Kararda özellikle BM genel sekreteri António Guterres’ten üye devletlerin AWS hakkındaki görüşlerinin yanı sıra “insani, hukuki, güvenlik, teknolojik ve etik açılardan ortaya çıkan ilgili zorlukları ve endişeleri ele alma yolları” ve Güç kullanımında insanların rolü” – ve bunları, verilen tüm perspektifleri yansıtan “önemli bir raporda” yayınlayın.
Kararda ayrıca, Birinci Komite’nin 2024’ten itibaren bir sonraki oturumunda gündemine HUKUK ile ilgili bir oturumun dahil edileceği belirtiliyor. Karar taslağı olarak şu anda Genel Kurul’un görüşülmek ve eyleme geçmek üzere bekliyor.
Birleşik Krallık hükümetinin Komite raporuna kısa bir süre sonra Ocak 2024’te yanıt vermesi bekleniyor.