Yapay Zeka ve Makine Öğrenimi, Yönetişim ve Risk Yönetimi, Devlet
Eleştirmenler Özel Sektöre İlişkin İstisnalardan ve Ulusal Güvenliğin Gizliliği Zayıflatabileceğinden Korkuyor
Akşaya Asokan (asokan_akshaya) •
4 Mart 2024
Gizlilik grupları, yapay zekaya ilişkin küresel anlaşmanın sonuçlandırılmasında yer alan Avrupalı milletvekillerini, yapay zekanın özel sektör ve hükümetler tarafından kullanımını çevreleyen kuralları sıkılaştırmaya çağırıyor.
Ayrıca bakınız: İsteğe Bağlı | SASE Dağıtımınız Neden ZTNA 2.0 ile Başlamalı?
Avrupa Konseyi'nin Yapay Zeka, İnsan Hakları, Demokrasi ve Hukukun Üstünlüğü Çerçeve Sözleşmesi, yapay zeka yönetişimine ilişkin dünyanın ilk uluslararası anlaşması olacak. Geçen yıl önerilen taslak sözleşme, öncelikle yapay zeka sistemlerinin insan haklarını ve hukukun üstünlüğünü desteklemesini sağlamayı amaçlıyor.
İmzacılar arasında 27 Avrupa Birliği ülkesi, ABD, Japonya ve Kanada yer alacak.
Avrupalı milletvekilleri ve diğer ülke temsilcileri, anlaşmaya ilişkin nihai müzakereler için 11 Mart'ta bir araya gelecekken, 90 gizlilik hakları grubu, akademisyenler ve aktivistler, müzakerelere katılan Avrupalı milletvekillerinden özel şirketleri anlaşmanın kapsamından çıkarma çabalarına karşı geri adım atmalarını istedi .
Mevcut taslak sözleşmeye göre, yapay zeka sistemi dağıtıcılarının gizlilik, veri işleme ve risk değerlendirme gereklilikleri gibi çeşitli önlemlere uyması gerekiyor; ancak anlaşma, araştırma ve geliştirme amacıyla kullanılan yapay zeka sistemlerini kapsamı dışında tutuyor. Yabancı istihbarat ve karşı istihbaratla ilgili faaliyetlerde devletin “ulusal güvenlik” amacıyla kullanılan yapay zeka sistemleri de sözleşmenin kapsamı dışında tutuluyor.
Mektupta yasa yapıcılar ve imzacılar, yapay zeka önyargısına ve manipülasyonuna giderek daha fazla maruz kalan bireylere çok az “anlamlı koruma” sağlayarak, bu tür “tamamen istisnacılığın” sözleşmeyi “zayıflayacağını” savundu.
AlgorithmWatch'un genel müdürü ve mektubu imzalayan Angela Müller, “Bu tehlikeli bir sinyal gönderecektir: Yapay zeka hakkındaki ilk uluslararası kural kitabı, şirketlere yapay zekayı kendi çıkarları doğrultusunda geliştirmeleri ve kullanmaları için ücretsiz bir geçiş sağlayabilir” dedi. “Müzakere yapan devletler, yapay zekanın birkaç büyük şirketin çıkarlarına değil, insanlığın çıkarlarına hizmet etmesini sağlamalıdır.”
Mektup, AB milletvekillerini özel şirketlere ve “ulusal güvenlik” kapsamında sınıflandırılan yapay zeka sistemlerine tanınan istisnaları “reddetmeye” çağırıyor.
Avrupa devletlerinin büyük teknoloji şirketlerinin çıkarlarını korumak için lobi faaliyetleri yürüttüğü iddiaları, Avrupa Yapay Zeka Yasası'nın geçen Aralık ayındaki son müzakere görüşmelerine de gölge düşürdü. Fransa, Almanya ve İtalya, genel amaçlı yapay zekayı etkileyen herhangi bir bağlayıcı kurala, Avrupalı yapay zeka firmalarının OpenAI gibi Amerikan teknoloji devleriyle rekabet etme yeteneklerini etkileyeceğini öne sürerek son dakika itirazlarını dile getiren ülkeler arasında yer aldı.
Fransız yapay zeka girişimi Mistral AI'nin, daha hafif bir düzenleyici rejim getirmeye çalışan şirketler arasında yer aldığı bildirildi ve hak grupları daha sonra Avrupalı yasa koyucuların, düzenlemeye boşluklar eklemek için lobicilik çabalarından ipuçları aldığını savundu.
Geçtiğimiz hafta açıklanan Mistral AI ve Microsoft ortaklığının ardından birçok kişi Avrupalı şirketlerin “Avrupa'nın dijital egemenliği” argümanlarını yalnızca yasa koyucuları kuralları kendileri adına esnetmeye ikna etmek için kullandığını söyledi (bkz: AB, Microsoft ve Mistral AI Arasındaki Ortaklığı Analiz Edecek).