Geçen ay, Birleşik Krallık hükümeti, ulusun “ana damarlarına” ana süzülme “planlarını açıkladı ve” AI’nın kamu sektöründe nasıl kullanıldığını “devrim yarattı. Bu kamu taahhüdüne rağmen, devlet daireleri yıllardır bu evlat edinmenin temelini atıyor ve kapalı kapıların arkasındaki algoritmik araçları deniyorlar.
Bilgimiz veya incelememiz olmadan sağlığımız, refahımız, eğitimimiz ve adaletimizle ilgili kararlar üzerine yapılan bu AI hayaleti Kafkaesk bir kabustur. Ancak şimdi nasıl kullanıldıklarının bir resmini almaya başlıyoruz.
Şubat 2024’ten bu yana, Bilim, İnovasyon ve Teknoloji Dairesi, tüm merkezi hükümet departmanlarının algoritmik şeffaflık kayıt standardı (ATRS) merkezi üzerinde algoritmik araçlar kullanımı hakkında net bilgiler yayınlamasını gerektirmiştir. Bununla birlikte, şimdiye kadar çeşitli devlet daireleri tarafından sadece 47 kayıt kamuoyuna açıklanmıştır – bunların yarısından fazlası bu yılın başlangıcından bu yana yayınlanmıştır.
Refah sistemine yönelik AI pilotlarının “hayal kırıklıkları ve yanlış başlangıçlar” nedeniyle sessizce rafa kaldırıldığına dair raporlar göz önüne alındığında, şeffaflığa yönelik bu ilgisizlik özellikle endişe vericidir.
ATRS’ye yapılan son eklemeler, hükümetin kritik kararları etkilemek için algoritmik araçlar kullandığını ortaya koyuyor, hangi faydalar davacılarının istihdam ve destek ödeneği (ESA), hangi okul çocuklarının ‘neet’ olma riski altında oldukları (eğitim, istihdam veya eğitim) ve suçlulara verilmesi gereken cümleler ve lisans koşulları.
Çok az bilgi mevcuttur: Kaç devlet dairesi hayatımızla ilgili kararlar vermek için gizlice algoritmaları kullanıyor?
Hükümet, AI’nın kamu sektöründe kitlesel olarak benimsenmesini zorlarken aynı zamanda, otomatik karar almaya (ADM) karşı mevcut korumaları zayıflatacak mevzuattan geçiyor.
Birleşik Krallık Genel Veri Koruma Yönetmeliği (GDPR) şu anda yalnızca otomatik süreçlerin önemli kararlar vermelerini yasaklamaktadır. Bu bizi “bilgisayar yok” senaryolarından korur. Olumsuz sonuçlarla karşılaştığımız senaryolar, arkasındaki akıl yürütmeyi gerçek bir şekilde anlamadan. Şu anda Avam Kamarası’nda ilerleyen veri kullanımı ve erişim faturası (DUAB), bu korumayı büyük bir karar verme süreçleri yoksundan kaldırarak bizi meydan okumak için herhangi bir başvuru olmadan ayrımcılığa, önyargıya ve hataya maruz bırakacak.
Tasarı, ‘özel kategori verilerini’ işlememesi koşuluyla yalnızca otomatik karar almaya izin verecektir. Kişisel verilerin bu özellikle hassas alt kategorisi biyometrik ve genetik verileri içerir; bir kişinin sağlığı, cinsel yaşamı veya cinsel yönelimi ve ırksal veya etnik kökenleri ortaya koyan veriler; siyasi dini veya felsefi inançlar; ve sendika üyeliği.
Bu özel veri kategorileri için katı korumalar mantıklı olsa da, özel olmayan kategori verilerini kullanan otomatik kararlar yine de zararlı ve ayrımcı sonuçlar üretebilir.
Örneğin, Hollanda Çocuk Bakımı Faydaları Skandalı, özel kategori verilerini işlememesine rağmen, düşük gelirli ve etnik azınlık ailelerini sahtekarlık riskleri olarak orantısız bir şekilde işaretleyen bir kendi kendine öğrenme algoritmasının kullanılmasını içeriyordu. Skandal, yanlış bir şekilde soruşturulduktan ve borçlu olmadıkları borçları geri ödemeye zorlandıktan sonra binlerce insanı yoksulluğa itti; Durumun kaygısı, ilişkilerin parçalanmasına neden oldu ve hatta insanları kendi hayatlarını almasına neden oldu.
Eve daha yakın olan Covid pandemi sırasında A seviyesi derecelendirme skandalı, özel eğitimli ve devlet okulu öğrencileri arasında eşit olmayan sonuçlar üretti ve özel kategori verilerinin işlenmesine dayanmayan derecelendirme sistemine rağmen kamu öfkesini kışkırttı.
Özel olmayan kategori verileri, özel kategori verileri veya korunan özellikler için bir proxy olarak da işlev görebilir. Örneğin, Durham Constabulary’nin şu anda yok olan Zarar Değerlendirme Risk Aracı (HART), iki tür konut posta kodu da dahil olmak üzere 34 veri kategorisi işleyerek suçluların tekrarlama riskini değerlendirmiştir. Öngörücü yazılımlarda posta kodu verilerinin kullanılması, sosyo-ekonomik yoksunluk alanlarına mevcut aşırı polislik önyargılarını gömme riskiyle karşı karşıya kaldı. Şu anda sahip olduğumuz birkaç korumayı ortadan kaldırmak, başka bir ufuk tarzı felaket riskini daha da arttırıyor.
Önemli olarak, anlamlı insan katılımının olduğu durumlarda bir kararın otomatik olduğu düşünülmemektedir. Uygulamada, bu, bir başvuru sahibine kredi verilip verilmeyeceğine karar verirken, otomatik bir kredi arama aracı kullanarak kime röportaj veya otomatik bir kredi arama aracı kullanan bir banka kullanacağına karar vermeden önce bir AI işe alım aracının kararlarını gözden geçiren bir İK departmanı gibi görünebilir. Bu kararlar yalnızca ADM için geçerli olan korumaları çekmez.
Kamu sektörü şu anda karar verme sürecinde insan girdisine işaret ederek ADM’nin bazı yasaklarını atlatmaktadır. Bununla birlikte, döngüsündeki bir insanın varlığı mutlaka ‘anlamlı’ katılımla eşit değildir.
Örneğin, Çalışma ve Emeklilik Bakanlığı (DWP), ESA çevrimiçi tıbbi eşleştirme aracından sonra eşleşen bir profil sunduğunu belirtir.
Bununla birlikte, bölümün risk değerlendirmesi, algoritmik öneriyi kabul ederse, aracın bir insan ajanının kararının anlamlılığını azaltabileceğini de kabul etmektedir. Bu ‘otomasyon yanlılığı’, bir makinenin mantığının kauçuk damgalamasından daha fazla olmayan yüzeysel insan katılımı olan birçok otomatik kararın, kamu sektöründe çoğalması muhtemeldir-sadece ADM’ye karşı korumaları çekmeden.
Neyin anlamlı insan katılımı sorusu mutlaka bağlama bağlıdır. Amsterdam’ın Temyiz Mahkemesi, Uber’in “robo ateşi” sürücülerine karar vermesinin anlamlı insan girdisi içermediğini buldu, çünkü sürücülerin itiraz etmesine izin verilmedi ve kararı alan Uber çalışanlarının, mutlaka anlamlı bir şekilde şekillenecek bilgi düzeyine sahip olmadığı tespit edildi. Makinenin önerisinin ötesinde sonuç.
Açıkçası, bir insanın anlamlı tanımı diğerinden farklıdır. DUAB, bunun pratikte nasıl görünebileceğini yeniden tanımlamak için Dışişleri Bakanı Bilim, İnovasyon ve Teknoloji Geniş Güçleri verir. Bu, hepimizi anlamlı bir şekilde girdi sağlayabilmek için zaman, eğitim, nitelikler veya anlayış olmadan insanlar tarafından yüzeysel olarak onaylanan otomatik kararlara maruz kalma riski taşır.
Birleşik Krallık hükümeti tarafından yapay zekanın sevinçli kucaklanması zamanların bir işareti olabilir, ancak kamu sektörü aracılığıyla otomatik karar almanın kontrolsüz çoğalması ve ilgili korumaların zayıflaması hepimiz için bir tehlikedir.