Bilim, İnovasyon ve Teknoloji Bakanlığı (DSIT’ler) Kıdemli Memurların Çoğu Kıdemli Memur, hükümetin kamu sektörü boyunca yapay zeka (AI) sistemlerinin sunulması etrafında şeffaflığı artırmada daha da ileriye gitmesi gerektiğini söyledi.
Kamu Hesapları Komitesi (PAC) üyeleri tarafından 30 Ocak 2025 tarihinde, hükümetin kamu sektörünün AI ve algoritmik karar alma araçlarını artan kullanımına olan güveni nasıl artırabileceğini isteyen DSIT Daimi Sekreteri Sarah Munby, “Şeffaflık konusunda daha fazlası var” dedi. bu da otomatik araçların nasıl kullanıldığına güven yaratmaya yardımcı olabilir.
Munby, kamu sektörünün, örneğin AI’nın hükümetten vatandaşlara mektuplarda veya e-postalarda kullanıldığı (hükümet rehberliğine yansıtıldığını söylediği) net olması gerektiğini ve ayrıca Ülke AI ile ilgili konularda.
Yetkili, eğer hükümet “açıkça güvenilir” olamıyorsa, bunun nihayetinde AI araçlarının daha fazla sunulması için bir “ilerleme engelleyici” olacağını da sözlerine ekledi.
Hükümetin buradaki çabalarının önemli bir yönü, DSIT ve Merkezi Dijital ve Veri Ofisi (CCDO) arasında işbirliği içinde tasarlanan ve kamu sektörü şeffaflığını iyileştirmek ve daha fazlasını sağlamak için Eylül 2022’de piyasaya sürülen algoritmik şeffaflık kayıt standardı (ATRS). kullandıkları algoritmik araçlar hakkında bilgi.
DSIT, Şubat 2024’te ATRS’yi 2024 yılında tüm devlet daireleri için zorunlu bir gereklilik haline getirmeyi amaçladığını açıklasa da (ayrıca zaman içinde daha geniş kamu sektörüne kullanımını genişletir), standart onunla katılım eksikliği nedeniyle eleştirildi. Şimdiye kadar, hükümetin yüzlerce yapay zeka ile ilgili sözleşmesi olmasına rağmen.
Mart 2024’te, Ulusal Denetim Ofisi (NAO), AI dağıtım anketine yanıt veren 32 kuruluşun sadece sekizinin “her zaman veya genellikle standartla uyumlu olduklarını” söyledi. Bu noktada ATRS’de sadece yedi kayıt bulundu.
Olduğu gibi, şu anda ATRS’de yer alan 33 kayıt bulunmaktadır; bunlardan 10’u 28 Ocak’ta Merkez Departman yetkisi kapsamında olmayan yerel yetkililer tarafından gönüllü olarak yayınlanmıştır.
ATRS hakkında yorum yapan Munby, “daha fazla çıkmamız gerekiyor” diye itiraf etti, başka bir “20 ya da daha fazla” nın Şubat ayında yayınlanacağını ve yıl boyunca takip edilecek “daha fazlası” olduğunu belirtti.
“Hepsinin dışarıda olması ve yayınlanması kesinlikle bizim görüşümüz” dedi. “Onları kaldırıp çalıştırmak biraz zaman alıyor. Bu kadar uzun süredir zorunlu değildi, ama… son zamanlarda hızda önemli bir hızlanma oldu ve bunun devam etmesini bekliyoruz. ”
Munby ayrıca “yasayı doğru yapmanın güven kurmanın önemli bir bileşeni” olduğunu vurguladı. “Verilerde oldukça geniş bir hüküm var [Use and Access] Otomatik karar vermenin gerçekleştiği yerlerde, meydan okuma yeteneği de dahil olmak üzere gerçekten iyi bir gerileme biçimleri olduğundan emin olmakla ilgili Bill [decisions]”Dedi.
İşçi Partisi hükümeti, İngiltere’nin AI Güvence ekosistemini oluşturarak teknolojiye hem güven hem de evlat edinmeyi öneren yakın zamanda yayınlanan AI eylem planının hemen hemen her önerisini benimsemiş olsa da, söz konusu önerilerin hiçbiri şeffaflık gereksinimleri.
‘Sosyal açıdan anlamlı şeffaflık’
30 Ocak’ta yayınlanan PAC’a yazılı kanıtlarda, Sheffield Üniversitesi’nde veri ve toplum profesörü Jo Bates ve Sheffield Üniversitesi’nde dijital toplum profesörü Helen Kennedy de dahil olmak üzere bir grup akademisyen olduğunu söyledi. Kamu sektörü AI ve algoritmalarının kullanımı konusunda “sosyal açıdan anlamlı şeffaflık” ın anahtarıdır.
“Sosyal açıdan anlamlı şeffaflık, bilgili kullanım için AI sistemlerinin kamuoyunun anlayışını geliştirmeye ve veri toplumlarına demokratik katılımlara odaklanıyor” dedi. “Bu, AI’nın yaygın olarak kanıtlanmış riskleri göz önüne alındığında önemlidir. Algoritmik önyargı ve ayrımcılık, halkların giderek daha fazla farkında oldukları. Sosyal açıdan anlamlı şeffaflık, AI sistem geliştiricilerininkiler üzerindeki halk üyelerinin ihtiyaçlarını ve çıkarlarını önceliklendiriyor. ”
Hükümetin, sistemlerin zorunlu kaydı yoluyla AI çevresinde “bilgi asimetrilerini azaltmak” için çalışması gerektiğini ve “Hükümet ve kamu üyeleri de dahil olmak üzere ticari olmayan üçüncü taraflar arasında tartışma ve karar vermeyi teşvik ederek” çalışması gerektiğini de sözlerine ekledi. -İlgili bilgiler herkese açık olarak yayınlanır.
Oxford Üniversitesi’nde bilgisayar bilimi profesörü olan Michael Wooldridge’den daha fazla yazılı kanıt, şeffaflığın önemli bir rol oynayabileceği Hükümet AI’sına kamu güvenini artırma ihtiyacını da vurguladı.
“Bazı insanlar yapay zeka hakkında heyecan duyuyor; Ama daha fazlası bu konuda endişeleniyor ”dedi. “İşleri, gizlilikleri konusunda endişeleniyorlar ve varoluşsal tehdit konusunda endişelenebilirler (yanlış).
Wooldridge, “Hükümette yapay zeka kullanımı iyi motive olsa da, bence hükümetin yapay zeka kullanımının şüphecilik (en iyi ihtimalle) ve en kötü ihtimalle düşmanlık ve öfke ile karşılanması muhtemel” dedi. “Bu korkular – yanlış yerleştirilmiş olsa da – ciddiye alınmalı ve şeffaflık güven oluşturmak için kesinlikle gerekli.”