Engellilik desteği alanların uygunluğunun otomatik olarak değerlendirilmesi ve ne kadar fon almaları gerektiğine ilişkin belirlemeler devam edecek, ancak manuel onayların yerini almayacak veya değişiklikleri engellemeyecektir.
Ulusal Engellilik ve Sigorta Programı (NDIS) ve hükümet hizmetlerinden sorumlu ortak bakan Bill Shorten dün, önceki hükümetin NDIS kullanıcılarının ihtiyaçlarını ve mali desteği değerlendirmek için algoritma uygulamasıyla ilgili sorunun “insan unsurunu ondan almaları” olduğunu söyledi. ”
Yaklaşan bir “NDIS yeniden başlatması”nı işaret eden Shorten, 35.8 milyar $’lık programa yönelik kesintiler veya tahsisatlarla ilgili soruların gelecek ayın federal bütçesini beklemek zorunda kalacağını, ancak manuel planlamayı gasp etmeden otomasyonu kullanmayı taahhüt ettiğini söyledi.
Ancak Ulusal Basın Kulübü’ne, NDIS alıcılarının ve sağlayıcılarının verilerinin otomatik analizinin, planın finansal sürdürülebilirliğini, dolandırıcılığa karşı dayanıklılığını ve kişiselleştirmesini geliştirebileceğini de söyledi.
NDIS “RoboPlanlama”
Her yıl 550.000’den fazla NDIS katılımcısı, önceden onaylanmış ürün ve hizmetler için aldıkları para miktarına ilişkin “planlarının” “makul ve gerekli” olup olmadığı konusunda bir incelemeden geçmelidir.
Morrison hükümetinin ‘bağımsız değerlendirmeler’ davası, NDIS kullanıcılarını 400 “persona”dan biri olarak yargılamak ve “kişiselleştirilmiş bütçelerini” buna göre atamak için anlaşılmaz bir araç kullanmak üzere müttefik sağlık uzmanlarıyla sözleşme yaptı.
‘Bağımsız değerlendirmeler’, alıcıların uzmanlarından veya doktorlarından gelen bildirimlere dayalı değerlendirmelerin yerini alacak şekilde planlandı.
Shorten muhalefette, bağımsız değerlendirme sistemlerini ‘RoboPlanning’ olarak etiketledi ve kusurlu matematiksel formüllere dayandığını söyledi.
“Bir kara kutu içinde inşa edildi. Ve engelli topluluğu bundan korkuyor ve meşru olarak ondan nefret ediyor” dedi.
Aracın kaynak kodu hiçbir zaman yayınlanmadı. Ulusal Engellilik Sigorta Kurumu (NDIA) sözcüleri, senato tahminlerine göre değerlendirmelerin “engellilik türü, yaş ve bir dizi başka faktöre” dayandığını söyledi.
400 kişilik sistemin NDIS kullanıcılarının ihtiyaçlarının çeşitliliğini yakalamadığını veya yeterli kişiselleştirmeye izin vermediğini savunan engellilik sektöründen gelen tepkiler, Koalisyonun Temmuz 2021’de plandan nihai olarak vazgeçmesine yol açtı.
Ancak, NDIS tespitlerinde otomatik aktüeryal ve tahmine dayalı araçların kullanımı, Koalisyonun ‘bağımsız değerlendirmeler’ denemesinden önceye dayanmaktadır; araçların şeffaflık eksikliğine veya bireylerin özel ihtiyaçlarını tanıma kapasitesine yönelik eleştiriler gibi.
Ancak Shorten dün hükümetin onlardan kurtulmayacağını söyledi.
Shorten, etik ve şeffaf bir şekilde kullanıldığı sürece NDIS operasyonlarında otomasyon teknolojisi ve veri analizi kullanmanın doğasında bir sorun olmadığını söyledi.
“Her zaman otomasyon ve crunch verilerini kullanacağız” dedi.
“Engelliler dünyasında o kadar çok veri var ki… Yeterince veri kullanmıyoruz.
“Otomasyon ve verileri kullanmak mükemmel, ancak kullanım amacı ve çevresindeki etik çerçeve bu şekilde.”
Otomatik ve manuel değerlendirmeleri birleştirme
Bireylerin NDIS planları, koalisyonun ‘bağımsız değerlendirmelerinden’ çok önce, ihtiyaçlarını ve gereken mali destek düzeyini tahmin eden algoritmalar tarafından otomatik olarak oluşturuldu.
Kullanıcının “tipik destek paketi” yaşlarına, engellerine ve işlev düzeylerine ve bu kategorilerdeki bireylerin ortalama gereksinimlerine bağlıdır.
Bununla birlikte, süreçteki aşamalar hala insan müdahalesini gerektirmektedir. Destek paketi, kullanıcıların özel ihtiyaçlarını karşılamadığı tespit edilirse değiştirilebilir ve bir NDIA temsilcisinin planı imzalaması gerekir.
Shorten, hibrit yaklaşımın, veri eşleştirmeden bir menfaatin geri ödenmesini gerektiren bir borç bildirimi düzenlemeye kadar tüm döngüyü otomatikleştiren ‘Robodebt’ gibi olmadığını söyledi.
Shorten, “Robodebt tamamen tek bir gerçeğe güvenmekle ilgiliydi,” dedi. “Eğer sosyal hizmetlere beyan ettiğiniz gelir, vergi dairesine göre ortalama yıllık gelirinizden farklıysa, o zaman devlet ispat yükünü tersine çevirir ve kişi masumiyetini kanıtlamak zorunda kalır.”
NDIS değerlendirmeleri, daha çok Çevrimiçi Uyum Müdahalesinin Robodebt olmadan önceki haline benzer.
2001’den bu yana tutarsızlıkları otomatik olarak belirlemek için sosyal yardım alanların rapor edilen gelirleri, ortalama yıllık vergi kayıtlarıyla karşılaştırılıyordu. Tutarsızlıklar, 2016’da Robodebt kullanıma sunulana kadar manuel olarak değerlendiriliyordu.
Kombine yaklaşımın destekçileri, NDIS’nin benzer yaş, engellilik ve işleve sahip kişilerin bir dereceye kadar insan gözetimini sürdürürken ihtiyaç duyduğu desteği belirleme konusunda tutarlı olmasına izin verdiğini söylüyor.
Eleştirmenler, algoritma kullanımının bireyleri hala geniş kategorilere ayırdığını ve bireysel ihtiyaçlarını göz ardı ederek karar verme sürecinde şeffaflıklarını engellediğini iddia ediyor.
Geçen yıl bir UNSW raporu, “Katılımcıların ve ailelerin görebildiği tek şey, insanların fonlarına başvurduklarında veya incelemeye gittiklerinde görünüşte keyfi kesintiler biçimindeki otomatik ayarlamaların nihai sonuçlarıdır.”
Rapor, otomatik değerlendirmelerden tamamen kurtulmak için Shorten’in Ekim ayında başlattığı NDIS’nin gözden geçirilmesi çağrısında bulundu.
algoritmik şeffaflık
Shorten dün, “Yapay zeka kullanımı etrafında her zaman etik bir çerçeve olması gerektiğini” ve bunun nasıl kodlanıp uygulandığına dair şeffaflık olması gerektiğini söyledi.
Shorten, “Benim görüşüm, ideal olarak, mümkün olan her yerde açık kaynak olması gerektiğidir, böylece insanlar neler olup bittiğini görebilir,” dedi.
“Verilerin en iyi korunması, vatandaşlarla ortak üretim yapmaktır… vatandaşlar kendi verilerini ne kadar kontrol edebileceklerini hissederlerse, hükümete o kadar çok güvenirler.”
Ancak, NDIS kullanıcıları ve başvuru sahipleri, algoritmaların uygunluklarını nasıl değerlendirdiği veya aldıkları destek düzeyini nasıl gözden geçirdiği konusunda bilgi sahibi değiller.
Bilgi edinme özgürlüğü talebi [pdf] “katılımcıların NDIS planı finansmanını değerlendirmek için NDIA tarafından algoritmaların kullanılmaya başlandığı tarih” ve “katılımcıların NDIS planı finansmanının değerlendirilmesinde algoritmaların kullanımına ilişkin etik çerçeveyi ortaya koyan belge” içeren belgeler için hiçbir sonuç döndürmedi.
Geçen yıl yayınlanan bir karar mektubunda ajans, “bunun nedeni, NDIA’nın plan finansmanını değerlendirmek için algoritma kullanmamasıdır” dedi.
Reddedilmenin anlambilime dayalı olması mümkündür – burada ajans, algoritmaların plan finansmanını “değerlendirmek” için değil “yönlendirmek” için kullanıldığını düşünür.