İngiltere hükümeti, devletleri bu teknolojinin oluşturduğu çeşitli tehditlere karşı güvenlik önlemleri almaya mecbur eden, dünyanın ilk “yasal olarak bağlayıcı” yapay zeka (YZ) ve insan hakları anlaşmasını imzaladı.
Avrupa Konseyi tarafından hazırlanan ve 1949 yılında kıta genelinde insan haklarını korumak için kurulan uluslararası bir örgüt olan antlaşma şimdiye kadar Andorra, Gürcistan, İzlanda, Norveç, Moldova Cumhuriyeti ve San Marino’nun yanı sıra İsrail, ABD ve Avrupa Birliği (AB) tarafından imzalandı.
Resmen adı Yapay zeka ve insan hakları, demokrasi ve hukukun üstünlüğüne ilişkin çerçeve sözleşmesiAnlaşma, devletlerin bir yapay zeka sisteminin tüm yaşam döngüsü boyunca uyması gereken gizlilik ve veri koruması, şeffaflık ve denetim, eşitlik ve ayrımcılık yapmama, güvenli inovasyon ve insan onuru gibi bir dizi ilkeyi ana hatlarıyla belirtiyor.
Bu ilkelerin korunmasını sağlamak için anlaşma, ülkelerin yapay zekanın olası olumsuz etkilerini değerlendirmek ve azaltmak için önlemler almasını ve ayrıca yapay zekanın faaliyeti sonucunda insan hakları ihlallerinin meydana geldiği durumlarda etkili çözümler sunmasını da gerektiriyor.
Lord Şansölye ve Adalet Bakanı Shabana Mahmood, “Yapay zeka, kamu hizmetlerinin yanıt verme yeteneğini ve etkinliğini kökten iyileştirme ve ekonomik büyümeyi hızlandırma kapasitesine sahip” dedi.
“Ancak, yapay zekanın bizi şekillendirmesine izin vermemeliyiz – biz yapay zekayı şekillendirmeliyiz. Bu sözleşme, insan hakları ve hukukun üstünlüğü gibi en eski değerlerimizi aşındırmadan bu yeni teknolojilerin kullanılabilmesini sağlamak için önemli bir adımdır.”
Bilim, Yenilik ve Teknoloji Bakanı Peter Kyle, anlaşmanın yapay zekanın ekonomik büyümeyi artırma ve kamu hizmetlerini dönüştürme potansiyelinin gerçekleştirilmesi açısından önemli olacağını sözlerine ekledi: “Yürürlüğe girdiğinde, insan hakları, hukukun üstünlüğü ve demokrasi için korumayı daha da artıracak, teknolojiye yönelik kendi yerel yaklaşımımızı güçlendirirken güvenli, emniyetli ve sorumlu yapay zekanın küresel davasını ilerletecek.”
Anlaşma, özel şirketlerin kendi adlarına hareket ettiği durumlar da dahil olmak üzere tüm kamu sektörüyle ilgili yapay zeka kullanımını kapsasa da, metnin kendisi teknolojinin özel sektör tarafından kullanımını açıkça kapsamıyor ve şirketlerin belirlenen gerekliliklere ve yükümlülüklere ne ölçüde uyması gerektiğini belirlemeyi bireysel eyaletlere bırakıyor.
Metinde ayrıca ulusal güvenlik çıkarları için açık bir istisna da yer alıyor. “Bir Tarafın, bu Sözleşmeyi, ulusal güvenlik çıkarlarının korunmasıyla ilgili yapay zeka sistemlerinin yaşam döngüsü içindeki faaliyetlere uygulaması gerekmeyecektir, bu tür faaliyetlerin geçerli uluslararası hukukla tutarlı bir şekilde yürütülmesi anlayışıyla” deniyor.
Bir üye devlet, yapay zekanın insan haklarıyla bağdaşmadığına inandığı belirli kullanım durumlarını yasaklayabilirken, metinde bir hükümetin uyumsuzluğuna ilişkin herhangi bir özel yaptırım ayrıntısı yer almıyor.
Sıkı bir uygulama yok
Örneğin Bird&Bird’deki avukatlar, anlaşmanın gerekliliklerini karşılamak için yapılan faaliyetler hakkında raporlama şeklinde yalnızca belirsiz bir uyum mekanizması olduğunu, “ancak katı bir uygulama kriteri bulunmadığından AI Sözleşmesinin etkinliği ve etkisinin sınırlı olabileceğini” belirtti.
Ancak, çerçevenin yorumlanması veya uygulanması konusunda fikir ayrılığına düşen hükümetler için uyuşmazlık mekanizmaları içermekte ve ülkelerin Avrupa Konseyi Genel Sekreteri’ne bildirimde bulunmaları halinde sözleşmeyi “feshetmelerine” (yani sözleşmeden çekilmelerine) olanak tanımaktadır.
Avrasya Grubu’nda kıdemli bir jeo-teknoloji analisti olan Nick Reiners, Gzero Media’ya anlaşmanın katılıma dayalı doğasının, imzacıları tarafından nasıl faturalandırıldığına rağmen, özellikle yasal olarak bağlayıcı olmadığı anlamına geldiğini söyledi. Ulusal güvenlik istisnasının ayrıca ne kadar zorlu olduğunu da sulandırdığını, örneğin İsrail’in hedefleri seçmek ve saldırmak için Gazze’de yapay zekayı nasıl konuşlandıracağını etkilemeyeceğini belirtti.
AB’nin, kıta dışındaki şirketlerin ve hükümetlerin teknoloji konusundaki öncelikleriyle uyumlu hale gelmesi için “Yapay Zeka Yasası’nı uluslararasılaştırma” girişimi kapsamında imza atacağını da sözlerine ekledi.
Anlaşma, en az üç Avrupa Konseyi üyesi de dahil olmak üzere en az beş imzacı tarafından onaylandıktan üç ay sonra yürürlüğe girecek ve ardından dünyanın dört bir yanındaki hükümetler anlaşmaya katılmaya hak kazanacak.