Kamu Hizmetlerinin Otomatikleştirilmesi: Dikkatli bir yaklaşım

Kamu sektörünün pek çok işlevi otomatikleştiriliyor ve bu teknolojilerin çeşitli uygulamaları ve işleri değiştirme gücü ortaya çıkıyor. Örnek kullanım durumları şunları içerir:

• Yerel yetkililer – Sohbet robotlarının kullanılması, sosyal bakım değerlendirmelerinin otomatikleştirilmesi ve risk altındaki ailelerin belirlenmesi için veri analitiğinin kullanılması.

Ancak, bu sistemlerin herkesi eşit şekilde etkilemediğini ve marjinal toplulukların, belirsiz göçmenlik statüsüne sahip olanların veya devlet desteğine bağımlı olanların otomatik kararlardan etkilenme olasılığının daha yüksek olduğunu belirtmek önemlidir. Bu, önyargı ve gizlilik ihlalleri de dahil olmak üzere önemli sonuçlara yol açabilir.

Otomatik sistemler, amaçlanan sonuçları elde etme yetenekleri açısından incelenmelidir. Hackney Konseyi ve Bristol’un risk tabanlı doğrulama (RBV) sistemi gibi çok sayıda örnek, otomatik sistemlerin vaat edildiği gibi teslim edemeyebileceğini, bunun da etkisizliğe ve olumsuz etkilere yol açabileceğini göstermektedir.

Otomatik sistemlerdeki önyargılar genellikle onları eğitmek için kullanılan verilerden kaynaklanır. Tahmin edici polislik araçları ve 2020 A Seviyesi algoritması, önyargıların adil olmayan sonuçlara yol açtığı başlıca örneklerdir. Önyargı konusundaki endişeler, Batı Midlands Polisi ve İçişleri Bakanlığı tarafından belirli sistemlerin durdurulmasına yol açtı.

Otomasyon, veri kaynakları ve vatandaş onayı konusunda endişelere yol açan geniş çaplı verilere dayanır. Veri Koruma ve Dijital Bilgi Yasa Tasarısı etrafındaki tartışma, veri kullanımı ve gizlilik hakları arasındaki hassas dengeyi vurgular.

Birçok otomatik sistem özel şirketler tarafından geliştirilir ve bu da sınırlı şeffaflığa yol açar. Kamu sektörü kuruluşları bazen bu sistemler hakkında ayrıntılı bilgiye sahip değildir ve bu da hesap verebilirliği ve vatandaş başvurularını karmaşıklaştırır. Kamu Hukuku Projesi’nin otomatik sistemler sicili yaygın bir belirsizliği vurgular.

Güven çok önemlidir. Güven olmadan, vatandaşlar veri toplamaya ve otomatik sistemlerin kullanımına karşı koyabilir. NHS’nin dijital dönüşüm çabaları ve Post Office/Horizon skandalı, kamuoyunun teknolojiye olan güvenini sürdürmedeki zorlukları göstermektedir.

Otomasyonun faydalarını ve risklerini dengelemek için, aşağıdaki yol gösterici ilkeleri takip etmenin önemli olduğuna inanıyoruz:

1. İhtiyacı sorgulayın – Otomasyonun altında yatan nedenleri inceleyin. Mevcut sorunları tekrarlamadığından veya daha da kötüleştirmediğinden emin olun.

2. Etkisi ve riski – Otomasyonun minimum riskle önemli faydalar sağlayabileceği alanlara odaklanmak.

3. ‘Kırmızı çizgiler’ belirleyin – iBireylerin yaşamları üzerindeki potansiyel etkileri nedeniyle otomasyon için çok riskli olan kararları belirleyin.

4. Kapsamlı koruma ve değerlendirme – iTutarlı etki değerlendirmeleri uygulayın ve yetkililerin zararlı sistemleri değiştirmesini sağlayın.

5. Şeffaflık – Otomasyon sistemlerinin kullanımını ve mekaniğini kamuoyuna açık hale getirmek ve kapsamlı etki değerlendirmeleri sağlamak.

6. Personelin becerilerini geliştirmek– Kamu sektörü çalışanlarına otomasyon sistemlerini anlama ve değerlendirme bilgisini kazandırmak.

7. Vatandaş katılımı – Vatandaşları ve sivil toplum gruplarını karar alma ve otomatik sistemlerin izlenmesine dahil etmek, güven ve benimseme oluşturmak

Dikkatli, ilkeli bir yaklaşım olmadan, vatandaşların haklarından ve güveninden ödün vermeden otomasyonun faydalarından yararlanamayız. Bakım kritik öneme sahiptir ve hepimizin arkasında durması gereken bir şeydir.

Anna Dent deneyimli bir araştırmacı ve kamu politikası danışmanı ve Araştırma Başkanıdır. Umut vaat eden sorun.