Avrupa Birliği’nin Yapay Zeka Yasası, Avrupa Parlamentosu’nun üye ülkelerle aldığı müzakere pozisyonuna ilişkin genel kurul oylamasının ardından önemli bir kilometre taşını geçti.
Oylamanın ardından eş raportör Dragos Tudorache (Renew, Romanya) şunları söyledi: “Yapay Zeka Yasası, yapay zekanın geliştirilmesi ve yönetişiminde dünya çapındaki gidişatı belirleyecek ve bu teknolojinin sağladığı muazzam faydalarla toplumlarımızı radikal bir şekilde dönüştürmesini sağlayacak. Avrupa değerleri olan demokrasi, temel haklar ve hukukun üstünlüğüne uygun olarak sunulabilir, geliştirilebilir ve kullanılabilir.”
Avrupa Birliği (AB), büyük teknoloji firmalarının yapay zekayı (AI) kullanma şeklini azaltmayı planlıyor. Eş-raportör Brando Benifei (S&D, İtalya), “Yapay zekanın yaratıcılık ve üretkenlik için olumlu potansiyelinin kullanılmasını istiyoruz, ancak aynı zamanda konumumuzu korumak ve konseyle müzakereler sırasında demokrasilerimiz ve özgürlüklerimize yönelik tehlikelere karşı koymak için mücadele edeceğiz” dedi.
Yapay Zeka Yasası, cinsiyet, ırk, etnik köken, vatandaşlık durumu, din ve siyasi yönelim gibi hassas özellikleri kullanan biyometrik kategorizasyon sistemlerinin yanı sıra halka açık alanlarda gerçek zamanlı ve uzaktan sonrası biyometrik tanımlama sistemlerini yasaklar.
Kolluk kuvvetleri, sınır yönetimi, işyeri ve eğitim kurumlarında duygu tanıma sistemlerinin kullanımı gibi, profil çıkarma, konum veya geçmişteki suç davranışlarını kullanan tahmine dayalı polislik sistemleri de yasaklanmıştır. İnsan haklarını ve mahremiyet haklarını ihlal eden yüz tanıma veritabanları oluşturmak için internetten veya CCTV kayıtlarından yüz görüntülerinin hedefsiz bir şekilde kazınması da yasaktır.
AB’nin yapay zeka stratejisine liderlik eden Margrethe Vestager, özgürlük ve güvenlik arasında bir denge olması gerektiğine inanıyor. Ancak inovasyon ile insanların temel haklarının korunmasını sağlamak arasında da bir denge olması gerekiyor.
Oylamadan sonra konuşan, “Yapay zekanın düzenlenemeyecek kadar önemli olduğunu hepiniz duydunuz ve muhtemelen kabul ettiğinizi düşünüyorum. Kötü bir şekilde düzenlenemeyecek kadar önemli. Mümkün olan en kısa sürede hepimizin hemfikir olduğu iyi bir düzenleme ortak bir hedef olmalıdır – ve sağlam bir uygulamaya ihtiyacımız var. İnsanların güvende olması için sahada gerçek bir şey olmamız için bu yasanın bize verdiği bu yükümlülüklere ihtiyacımız var.”
“Yapay zeka, düzenlenemeyecek kadar önemli. Kötü bir şekilde düzenlenemeyecek kadar önemli. Bir an önce hepimizin hemfikir olduğu iyi bir düzenleme ortak hedef olmalı”
Oxford Business College’da AI uzmanı ve öğretim görevlisi olan Ventsislav Ivanov şunları söyledi: “Küresel teknoloji şirketleri ve diğer ilgili taraflarla uğraşmak, Herkül’ün yedi başlı hidrayla savaşmasına benzer. Sorunu çözmek için politikacıların önce tehdidi tanımlaması gerekiyor ve bu kadar hızlı gelişen bir teknolojiyle bu, duvara jöle çakmaya benziyor.”
Birleşik Krallık hukuk firması Fladgate’in teknoloji ve AI düzenleme ortağı Tim Wright, AI sistemleri kurmayı planlayan işletmeleri önerilen düzenlemenin anlamını anlamaya çağırdı.
“AI Yasası tamamlandığında, AB, yasa kapsamında AB genelinde geçerli olacak uyumlaştırılmış standartlar üzerinde çalışmaya başlayacak” dedi. “Şirketler planlama, hazırlık ve uygulamayı çok geç bırakmamalı. Tıpkı GDPR’de olduğu gibi [General Data Protection Regulation]AI Yasasına uyulmamasının önemli bir maliyeti olacaktır.”
Yapay zeka pek çok toplumsal fayda vaat ederken, araştırmalar onun ne kadar kolay kötüye kullanılabileceğini veya haince istismar edilebileceğini göstermiştir. Örneğin, Uluslararası Af Örgütü’nün araştırması, TKH Security adlı Hollandalı bir şirket tarafından yapılan kameraların işgal altındaki Doğu Kudüs’teki kamusal alanlarda kullanıldığını ortaya çıkardı. Benzer araştırmalar, Fransa, İsveç ve Hollanda merkezli şirketlerin Çin toplu gözetim aygıtının önemli oyuncularına yüz tanıma teknolojisi ve ağ kameraları gibi dijital gözetim sistemleri sattığını ortaya çıkardı.