Dışarıdan, Rotterdam’ın refah algoritması karmaşık görünüyor. Şehir 2018’de geliştirmeyi devralmadan önce danışmanlık firması Accenture tarafından geliştirilen sistem, Rotterdam’ın sosyal yardım departmanı tarafından toplanan veriler üzerinde eğitiliyor. İnsanlara 315 faktöre dayalı risk puanları atar. Bazıları yaş veya cinsiyet kimliği gibi nesnel gerçeklerdir. Bir kişinin görünüşü veya ne kadar dışa dönük olduğu gibi diğerleri özneldir ve sosyal hizmet uzmanlarının yargısına dayanır.
Rotterdam’ın batısında, idari olarak şehrin bir parçası olan Hoek van Holland kasabasında Pepita Ceelie, algoritmanın onu nasıl yüksek riskli olarak derecelendirdiğini anlamaya çalışıyor. Ceelie 61 yaşında, ağır dövmeleri var ve parlak pembe vızıltı kesimi var. İngilizce konuşmayı seviyor ve hemen konuya giriyor. Son 10 yıldır kronik sırt ağrısı ve bitkinlikle yaşıyor ve evden ne zaman çıkarsa mobilite scooter’ı kullanıyor.
Ceelie, Rotterdam’ın refah dolandırıcılığı ekibi tarafından ilki 2015’te ve tekrar 2021’de olmak üzere iki kez soruşturuldu. En son vakada, şehrin risk puanlama algoritması tarafından soruşturma için seçilmişti. Ceelie, müfettişlere, ağabeyinin altmışıncı doğum günü için neden kendisine 150 € (180 $) gönderdiğini ve davayı kapatmalarının beş aydan fazla sürdüğünü açıklamak zorunda kaldığını söylüyor.
Ceelie, bahçesinin fotoğraflarıyla süslenmiş 1950’lerden kalma, bloklu evinde otururken bir dizüstü bilgisayara dokunuyor. Bu soruşturmanın bir parçası olarak Rotterdam’ın refah risk puanlama sisteminin yeniden inşasına kendi bilgilerini giriyor. Şehrin algoritması ve verileri üzerine inşa edilen kullanıcı arabirimi, Ceelie’nin risk puanının nasıl hesaplandığını gösteriyor ve hangi faktörlerin onun dolandırıcılıktan soruşturulmasına yol açmış olabileceğini öneriyor.
Risk puanlama sisteminin 315 faktörünün tümü, başlangıçta veri setinde “ortalama” değerlere sahip hayali bir kişiyi tanımlayacak şekilde ayarlanmıştır. Ceelie sistemi kendi detaylarıyla kişiselleştirince puanı değişmeye başlar. Varsayılan 0,3483 puanla başlar; bir kişinin puanı 1’e ne kadar yakınsa, o kadar yüksek dolandırıcılık riski olarak kabul edilir. Sisteme iş bulmak için bir planı olmadığını söylediğinde puan yükseliyor (0,4174). 20 yıldır evinde yaşadığını girince düşüyor (0,3891). Rotterdam merkezinin dışında yaşamak onu 0,4’ün üzerine çıkarıyor.
Cinsiyetini erkekten kadına değiştirmek puanını 0,5123’e çıkarıyor. Bu çılgınca, diyor Ceelie. Yetişkin oğlu onunla yaşamasa da, oğlunun varlığı, algoritmaya göre, onun refah dolandırıcılığı yapma olasılığını artırıyor. “Onun bununla ne ilgisi var?” diyor. Ceelie’nin boşanması risk puanını yeniden yükseltir ve Rotterdam’ın sistemine göre 0,643 puanla bitirir: yüksek risk.
Ceelie, “Beni tanımıyorlar, ben bir numara değilim,” diyor. “Ben bir insanım.” İki refah dolandırıcılığı soruşturmasından sonra Ceelie sisteme kızdı. “Sadece bana karşı çıktılar, beni intihara meyilli düşüncelere sürüklediler” diyor. Araştırmaları boyunca başkalarının hikayelerini duymuş ve Hollanda’nın refah sistemiyle sorunları olan insanlar için kurulmuş bir Facebook destek grubuna dönmüştür. Ceelie, insanların bakkal ödemelerini veya ebeveynlerinden alınan parayı bildirmemek gibi küçük ihlaller nedeniyle yardımlarını kaybettiklerini söylüyor.
Rotterdam’ın sosyal yardım cezalarına karşı düzinelerce temyiz başvurusunda bulunmuş bir avukat olan Jacqueline Nieuwstraten, “Yardım aldıklarında insanlar için net olmayan pek çok şey var” diyor. Sistemin insanları hızlı bir şekilde cezalandırdığını ve müfettişlerin bireysel koşulları gerektiği gibi değerlendiremediğini söylüyor.
Hollanda, popülist sağcı politikacılar tarafından cesaretlendirilen refah dolandırıcılığına karşı sert bir duruş sergiliyor. Ve ülkenin tüm bölgeleri arasında Rotterdam, refah dolandırıcılığına en sert şekilde müdahale ediyor. Her yıl şehirden faydalanan yaklaşık 30.000 kişiden yaklaşık bini şehrin algoritması tarafından işaretlendikten sonra araştırılıyor. Rotterdam, ödemelerinin doğru olup olmadığını kontrol etmek için yılda yaklaşık 6.000 kişiyi araştırıyor. 2019’da Rotterdam, para cezalarını ve insanların yardımlarının tamamen kesilmesini içerebilen 2.400 yardım cezası verdi. 2022’de ülkenin en yüksek mahkemesine ulaşan temyiz başvurularının neredeyse dörtte biri Rotterdam’dan geldi.