Lord Holmes giderek daha fazla ‘acil’ AI’yı düzenleme ihtiyacı konusunda uyarıyor


Birleşik Krallık hükümeti, bir raporda muhafazakar akran Lord Holmes’u uyarıyor, birçok insanın günlük yaşamlarında açıkça olumsuz etkileri göz önüne alındığında yapay zeka (AI) üzerine “acilen” yasama yapmalıdır.

Kasım 2023’te Holmes, “uyarlanabilir düzenleme”, kapsayıcı tasarım, etik standartlar, şeffaflık, hesap verebilirlik ve uluslararası işbirliği için önlemler oluşturmaya odaklanan o zamanlar hükümetten gelen herhangi bir resmi teklif yerine Parlamento’ya bir AI özel üye faturasını tanıttı. .

Holmes raporda, tasarısının kamu ve parlamenterlere proaktif olarak dahil edilmesi amaçlanıyor, ancak AI’nın herkesin yararına olumlu şekillendirilmesini sağlamak için gereken fikirler ve yasal adımlarla, teknolojinin büyük ölçüde “yetersiz düzenlenmiş” kalmasını sağladığını söyledi. bir dizi zararın ortaya çıkmasına izin vermek.

“İster yapay zeka algoritmalarında ayrımcılık ve önyargı, sentetik görüntülerden dezenformasyon, ses taklit teknolojisini kullanan dolandırıcılık, telif hakkı hırsızlığı veya etik olmayan chatbot yanıtları olsun, zaten mevcut AI’dan bir dizi sorunla karşı karşıyayız” dedi.

Raporun lansmanında bir yuvarlak masa sırasında konuşan Holmes, 2023’te özel üyeler faturasını ilk olarak önerdiğinde AI’yı düzenlemek acil olduğunu ekledi, “Bugün daha fazla baskı altında kaldığına inanıyorum”.

Birleşik Krallık’ta düzenlenmemiş yapay zekanın “keskin ucunda” yaşayan insanların sekiz arketipik örneğini vurgulayan Holmes ‘raporu – 26 Şubat 2025’te yayınlanan – teknolojinin etkili korumaların eksikliği nedeniyle insanların hayatlarını nasıl olumsuz etkilediğini gösteriyor.

Örneklerin her biri için rapor sorunu ve önerilen AI faturasının eldeki sorunları nasıl ele alabileceğini ortaya koyuyor.

Örneğin, fayda davacıları söz konusu olduğunda, iş ve emeklilik departmanının (DWP) halkı insanların yaşamları hakkında kararlar vermek için kullandığı algoritmalar hakkında nasıl bilgilendirildiğini ve otomatik sistemlerin sahip olduğunu işaretlemek için nasıl “sürekli olarak başarısız olduğunu” belirtti. Yanlış bir şekilde binlerce süresiz fayda veya sahtekarlık soruşturmasına yol açtı.

Bunu hafifletmek için Holmes, faturasının ikisinin, şeffaflık, açıklanabilirlik, hesap verebilirlik, rekabet edilebilirlik ve düzeltme ile ilgili önlemler ve ayrımcılık yapmama görevi de dahil olmak üzere önceki muhafazakar hükümetin yapay zeka teknik incelemesinin ilkelerini yasal bir temelde belirleyeceğini söyledi.

Ayrıca, Eylül 2024’te Liberal Demokrat akran Lord Clement-Jones tarafından tanıtılan ayrı bir AI özel üyeleri tasarısını, daha dar bir şekilde “kamu sektöründe algoritmik ve otomatik karar verme sistemlerinin sorumlu kullanımı için net bir zorunlu çerçeve oluşturmayı amaçlayan” vurguladı. .

Jobeeker için Holmes, AI’nın işe alım süreçlerinde giderek daha fazla konuşlandırılması durumunda, şu anda teknolojinin istihdam kararlarında kullanımını düzenleyen belirli bir yasa olmadığını söyledi.

Bunun, insanların yıllarca erkek egemen işe alınan işe alım modellerinden büyük ölçüde etkilenmesi nedeniyle insanların rollerinden haksız bir şekilde muaf tutulmasına yol açtığını ve sistemleri bilgilendirmek için kişisel verilerin aşırı koleksiyonu ve genel bir şeffaflık eksikliği hakkında daha fazla sorun yaratmasına yol açtığını da sözlerine ekledi. Modellerin etrafında.

Yine faturasının ikinci maddesini vurgulayan Holmes, mevcut düzenleyici sorumlulukların boşluk analizini üstlenecek ve farklı sektörel düzenleyiciler arasında uyum sağlayacak olan “yatay odaklanmış bir AI otoritesi” kuran daha fazla hüküm sürdü – ve “AI sorumlu memurlar” da iş arayanlar AI’ya tabidir.

Holmes tarafından vurgulanan diğer arketipik örnekler arasında öğretmen, genç, scamed, yaratıcı, seçmen ve nakil hasta – hepsi özel üyeler faturasındaki diğer maddelerden yararlanacağını söylediği arasında.

Bunlar, yapay zekanın fırsatları ve riskleri etrafında “anlamlı, uzun vadeli kamu katılımı” ile ilgili hükümleri ve eğitim setlerinde üçüncü taraf verilerinin ve fikri mülkiyetin (IP) kullanımı konusundaki şeffaflığı içerir. ”.

Katılım ve Güven

Rapor Yuvarlak Masası sırasında konuşan katılımcılar – sivil toplum gruplarının temsilcileri, sendikalar ve araştırma organları ve diğer lordlar da dahil olmak üzere – AI düzenlemek için bir dizi temel husus vurguladılar.

Bu, hükümetlerin tedarik güçlerini, elde edilmeye çalışan değerleri yansıtacak şekilde kullanmayı ve teknoloji firmalarına göre bir “yumuşak güç” biçimi olarak hareket edebileceklerini ve insanların geliştirme ve konuşlandırma konusunda söz sahibi olduklarını hissetmelerini sağlamayı içerir. Kamu sektörü ve işyerlerindeki teknolojinin.

Katılımcılar ayrıca, AI sistemlerinin etkili bir düzenleme olmadan kamu sektörü boyunca kabul edilirse, insanların devlete olan güvenini geri döndürülemez bir şekilde aşındıracağı konusunda uyardı.

Örneğin, düşünce kuruluşu demolarında dijital politika araştırması başkanı Hannah Perry, AI’nın “şu anda toplumda gördüğümüz güvenin yok edilmesine” “merkezileştirme gücü” olarak hareket etme eğilimine katkıda bulunabileceğini söyledi. Bu, karar alımından “halkı kaldırma ve güçsüzleştirme” riski taşır.

Bu nedenle, bir tür halkın katılımı olmasının “çok önemli” olduğunu ve sıradan insanların dijital hakları ve ilkeleri etkileyebileceği bir “kasıtlı platform” oluşturmanın herhangi bir İngiltere AI düzenlemesine gömülmesi gerektiğini de sözlerine ekledi.

Katılımcı düzenleyici yaklaşımlara duyulan ihtiyaç hakkında yorum yapan Mary Towers, işyerinde AI ve teknolojinin kullanımında uzmanlaşmış İşlemler Birliği Kongresi’nde (TUC) bir istihdam hakları görevlisi, AI’nın çok çeşitli sektörlerde işçiler için endişe verici sonuçları olduğunu söyledi. Algoritmik yönetim uygulamaları, olumsuz zihinsel sağlık etkileri ve haksız veya ayrımcı sonuçlar nedeniyle iş yoğunlaştırması, azaltılmış ajans ve işyerinde özerklik dahil.

Yapay zekaya karşı işçi tutumları üzerinde TUC anketini işaretleyen Towers, “işçilerin% 70’inin işyerinde yeni teknoloji uygulamadan önce işçilere danışmanın yasal bir hak olduğuna inanıyor” diye ekledi.

“Açıkçası, mevzuat olması gerektiğine inanıyoruz. Bağlama özgü olmalıdır. Ama aynı zamanda düzenlemenin sadece mevzuatla ilgili olmadığını vurgulamak istiyorum. Danışmanlık, katılım, toplu pazarlık, sosyal ortaklıklar yaklaşımı – bunların hepsi kesinlikle düzenleme biçimleridir. ”

ADA Lovelace Institute (Ali) yardımcı direktörü Andrew Strait, anketlerin çoğu insanın sadece öncelikli bir mesele olarak sıralanmadığını, bu da sağlık ve sağlık gibi hassas kamu sektörü bağlamlarında kullanımı sorulduğunda değiştiğini de sözlerine ekledi. sosyal bakım veya fayda tahsisi kararları.

“Aniden insanlar gerçekten önemsiyor,” dedi. “Çok endişeli, çok gergin, evlat edinme hızından çok rahatsız, korkuluk eksikliği, işlerin çok hızlı hareket ettiği ve insan özerkliğinin, uzman karar vermesinin yoldan çıktığı bir şekilde hız ve verimlilik için.

“Bu, insanların ne istediği sorusunu yalvarıyor? Düzenleme istiyorlar. Kuralların bu konuda rahat hissetmesini istiyorlar. Titiz güvenlik testi, norm ve standartların olduğu uçağa gittiklerinde yaptıklarını hissetmek istiyorlar. ”

Sahte bir ikilik

Strait ayrıca, ALI’nin özel şirketlerle etkileşime girme deneyiminde, artan AI benimsemesinin “en büyük engelinin” teknolojide güvenilirlik eksikliği olduğunu – standartların ve düzenlemenin de onlara daha fazla kesinlik sağlayacağı bir şey olduğunu vurguladı.

Yuvarlak masa katılımcıları ayrıca bir yandan inovasyon ve büyüme arasında bir ikili yaratmaya, diğer yandan güvenlik ve düzenleme konusunda şiddetle tartıştılar.

Reed Screating’in direktörü ve Better Chacring Enstitüsü’nün danışma kurulunun bir üyesi olan Keith Rosser, örneğin, işe alım sektörü zaten AI ile çalkalandığı için – hem iş arayanlar hem de işverenlerin iş başvuruları yapmak için kullanan teknolojiyi kullandığını söyledi. – “Tüm risklere sahibiz, ama sadece bazı fırsatlar”.

Düzenleme olmadan bu durumun devam edeceğini de sözlerine ekledi: “İşletmeler hükümetler tarafından desteklenmek istiyorlar, korkulukların nerede olduğunu bilmek istiyorlar… Bu kullanım davasının her iki tarafı için – iş arayan ve işe alım şirketi – hiçbir düzenleme, büyük bir belirsizlik olduğu anlamına geliyor. . “

İngiltere’nin Veri Etiği ve Yenilik Merkezi’nin ilk başkanı Roger Taylor, AI’nın hükümette kullanımının muhtemelen herhangi bir düzenlemenin bulunmadığı en önemli alan olduğunu da sözlerine ekledi: “Şu anda gerilim, büyüme ve düzenlemenin mücadelesinin bu korkudur. Birbirleri ve büyüme en önemli şeydir, ardından bir sonraki seçim başlamadan önce kamu hizmetlerini daha verimli ve daha etkili hale getirir.

“Bunların neden öncelikler olacağı oldukça anlaşılabilir. Soru şu ki, düzenleyici tedbirlerin verimsiz olduğu gerçekten doğru mu? … Sadece güvenceyi istediğimiz ve devam eden şeylerden endişe ettiğimiz için değil, aynı zamanda bu ülkenin göstermesi çok büyük bir fırsat olduğu için, bir tür yasal düzenleyici mekanizmayı uygulamaya koyan bir yasayı geçmemiz gerekiyor. Bu alanda liderlik edebileceğimiz. ”



Source link