Birleşik Krallık hükümeti, Lord Tim Clement-Jones’un kamu sektöründe algoritmik karar alma araçlarının incelenmesini iyileştirmeye yönelik yasama teklifleriyle ilgili “çekincelerini” dile getirerek, yasa taslağının dile getirdiği endişelerin halihazırda önerilen veri reformları tarafından kapsandığını ve mevcut Algoritmik Şeffaflık Kayıt Standardı (ATRS).
Eylül 2024’te özel bir üye yasa tasarısı olarak sunulan Clement-Jones, o dönemde tekliflere ihtiyaç duyulduğunu, çünkü algoritmik ve otomatik karar verme (ADM) araçlarına ilişkin mevcut önlemlerin “bilgisayar hayır dediğinde” düzeltmeyi sağlamak için yeterli olmadığını söyledi. .
Aralık 2024’teki tasarısının ikinci okuma tartışması sırasında, Bilim, Yenilik ve Teknoloji Bakanlığı (DSIT) dışişleri müsteşarı Maggie Jones, hükümetin ATRS’yi merkezi hükümet departmanları için zorunlu hale getirecek reformlarının birleşiminin şunları söyledi: Önerilen Veri Kullanımı ve Erişim Yasa Tasarısı’nın (DUAB) yanı sıra, yalnızca Clement-Jones’un endişelerini gidermek için yeterli olmakla kalmıyor, aynı zamanda hükümetin kendi “yeniliği hızlandırma, iyilik için teknoloji, ve modern dijital hükümet”.
“Bu reformlar, kuruluşların ekonomik büyümeyi, üretkenliği ve hizmet sunumunu desteklemek için otomatik karar alma teknolojisinden en iyi şekilde yararlanabilmelerini sağlamakla birlikte yüksek veri koruma standartlarını ve kamu güvenini korumak arasında doğru dengeyi kuruyor” dedi.
Ancak Clement-Jones, şeffaflık eksikliği, yapay zekaya (AI) halkın güveninin kaybı dahil olmak üzere “kontrol edilmeyen algoritma sistemlerinin tehlikelerini” tanımlamak için ADM araçlarının kullanımını içeren geçmiş olaylara atıfta bulunarak hükümetin veri reformları hakkındaki çekincelerini dile getirdi. ve düzenlenmemiş karar alma sistemlerine önyargı ve ırkçılığın sızması.
Lordlara, öğrencilerin haksız bir şekilde üniversite yerlerini kaçırdığı 2020 A seviyesi ve GCSE notu fiyaskosunu hatırlattı; ADM sistemlerinin belediyeler tarafından kullanılması; burada 540.000 vatandaşa, sahte verilere dayanarak konut yardımı reddedilmeden önce “dolandırıcılık” risk puanları verildi; ve Postane Horizon skandalı. “Hükümetin gerçekten ATRS’nin GDPR’deki sulandırılmış ADM hükümleriyle birleştiğini düşünmesi tehlikeli bir güvendir. [General Data Protection Regulation]yeterli olacak,” dedi Clement-Jones. “Tasarı, demokratik değerleri ve bireysel hakları korurken bu teknolojilerin faydalarının hayata geçirilmesini sağlamak açısından çok önemli.”
Ancak Barones Jones, hükümetin DUAB kapsamındaki veri reformlarının “özellikle insan katılımının anlamlı olmasını sağladığını” savundu. Bu, üstünkörü insan katılımının, anlamlı bir katılım varmış gibi kararlara damga vurmak için kullanılmasını önlemek içindir.
Şeffaflık endişeleri
Clement-Jones’un en büyük endişelerinden biri ATRS’nin şeffaflığıydı. 2022’deki lansmanından bu yana, kamu sektöründe algoritmik şeffaflığa ilişkin yalnızca altı kaydın yayınlandığını söyledi.
Hükümet, tüm bakanlıklarda zorunlu hale getirilen bu kayıtların bir kısmının tamamlandığını ve yakın zamanda yayımlanacağını öne sürerek kendini savundu.
Şu anda ATRS’de 23 kayıt bulunmaktadır.
Clement-Jones’un tasarısı ayrıca kamu yetkililerinin herhangi bir karar alma aracını uygulamaya koymadan önce yapması gereken Algoritmik Etki Değerlendirmeleri (AIA) ile ilgili bir bölüm de içeriyor. AIA’lar, algoritma güncellendiğinde veya araçların kapsamı değiştiğinde, aracın güvenlik ve idari karar verme süreci üzerindeki etkisini sürekli değerlendirmeyi ve açıklamayı zorunlu kılacaktır.
Muhafazakar emsal Viscount Camrose (Jones’un DSIT’teki selefi) ayrıca, etki değerlendirmelerinin satın almadan önce bile uygulanmasının “gerçekçi olmayacağını” ve sonuç olarak tasarının “idari bir yük” yaratacağını savundu. Kendisi aynı zamanda Clement-Jones’un yasa tasarısını, kamu sektörüne “çılgınca farklılaşan ihtiyaçlar” karşısında seçim yapma esnekliği tanımaktan ziyade fazla kuralcı olduğu için eleştirdi.
Barones Jones, ATRS’nin, olumsuz sonuçlardan kaçınırken aracın etkisine ilişkin önlemler konusunda bütünsel bir bakış açısı sağladığını ve bu nedenle şeffaflığa yönelik mevzuat çıkarmaya gerek olmadığını iddia etti: “Kamu yetkilileri için zorunlu şeffaflık kayıtları veya AIA’lara ilişkin mevzuatın gerekli olduğuna inanmıyoruz. şu sıralar gerekli” dedi.
Yakın zamanda önerilen çerçeveye benzer bir AIA çerçevesi uygulayan Kanada’ya da atıflarda bulunuldu. Martha Lane Fox, bürokrasiyi artırabileceğini söyleyerek Clement-Jones’un tasarısının uygulanmasında dikkatli olunmasını istedi. “Kanada ayrıca algoritmik şeffaflığın daha fazla düzenlenmesine geçmeye çalışıyor ve uygulama çok ağır ve zor oldu” dedi.
Özel üyeler yasa tasarısının önemli bir farklılığı, sistemlerin satın alınmadan önce etkinlikleri ve etkileri açısından uygun şekilde değerlendirilmesini sağlamak için sistemlerin kullanıma sunulduktan sonra değil satın alma aşamasında incelenmesinin önemini arttırmasıdır.
İyileştirilmiş satın alma tedbirlerini desteklemek amacıyla konuşan Lane-Fox şunları söyledi: “Kamu hizmetinin dijital satın alma tarafındaki beceriler yeterince gelişmemiş ve tedarikçilerle yapılan anlaşmalar, istediğimiz bir dünyaya doğru ilerlerken ideal olmaktan çok uzak. yeniliği teşvik etmeli ama aynı zamanda güvenliği de teşvik etmelidir. Satın almanın gelecek planların tam merkezinde yer alacağını çok umuyorum.”
Özel yasa tasarısı, hükümetin büyümeyi teşvik etmek ve ekonomiyi canlandırmak için yapay zekayı kullanmayı düşündüğü bir dönemde Clement-Jones tarafından sunuldu. Peter Kyle daha önce Temmuz 2024’te şöyle demişti: “Biz‘yapay zekayı hükümetin merkezine koyuyoruz‘Büyümeyi artırmak ve kamu hizmetlerimizi geliştirmek gündemimizdir”.
Bu arada Başbakan Keir Starmer, 13 Ocak’ta Yapay Zeka Eylem Planı konuşmasında teknolojinin bizim neslimiz için “tanımlayıcı fırsat” olduğunu söyledi. “Sözlerime dikkat edin, Britanya yapay zekanın en büyük süper güçlerinden biri olacak” dedi.