Hükümet, Avustralyalıların verilerini paylaşan veya eşleştiren kamu sektörü programlarını gözden geçirmeyi taahhüt etti ve yasal bir çerçeve taslağı hazırlamayı ve otomatik karar almayı denetlemek için yasal bir kurum kurmayı değerlendirecek.
Kraliyet Komisyonu’nun Robodebt’e yönelik 56 tavsiyesinin tamamı dün parlamentoya sunulan bir raporda ya kabul edildi ya da prensipte kabul edildi [pdf].
Sosyal Hizmetler Bakanı Amanda Rishworth yaptığı açıklamada, “Robodebt planı gibi bir başarısızlığın bir daha asla yaşanmamasını sağlamak için reformları ilerletmeye devam edeceğiz” dedi.
Ulusal Engellilik ve Sigorta Programı (NDIS) ve hükümet hizmetlerinden sorumlu ortak bakan Bill Shorten şunları ekledi: “Birkaç tane var [recommendations] ‘prensipte’ mutabakata varıldı; bunları nasıl uygulayacağımıza karar vermemiz gerekiyor ama büyük çoğunluk tam olarak mutabakata vardı.”
Otomatik karar verme
Kraliyet Komisyonu’nun raporu [pdf] Hükümete “tutarlı bir yasal çerçeve” ve “otomatik karar almayı denetlemek” için yeni veya genişletilmiş bir yasal kurum “göz önünde bulundurması” tavsiye edildi.
Hükümet, yasal çerçevenin ve Komisyon Üyesi Catherine Holmes’un, çerçevenin Avustralyalıların kararlara itiraz hakkını nasıl desteklemesi ve kararların nasıl alındığı konusunda şeffaflığa sahip olması gerektiğine ilişkin olarak dahil ettiği ayrıntıların değerlendirilmesini “kabul etti”.
Holmes, Temmuz ayında şunları yazdı: “Kararlardan etkilenenlerin incelemeye başvurmaları için açık bir yol olmalı.”
“Bakanlık web siteleri, otomatik karar vermenin kullanıldığını tavsiye eden ve sürecin nasıl çalıştığını sade bir dille açıklayan bilgiler içermelidir.
“[In addition] Bağımsız uzman incelemesine olanak sağlamak için iş kuralları ve algoritmalar kullanıma sunulmalıdır.”
Hükümetin yanıtı, gelecek herhangi bir çerçevenin “yapay zeka ve otomasyondaki teknolojik ilerlemelerin hız, maliyet ve verimlilik avantajlarından yararlanırken açık ve şeffaf” olabileceğini belirtiyor.
Hükümet, çerçeveye yönelik taahhüdünün, ‘otomatik kararların nasıl alındığına ilişkin anlamlı bilgi talep etme hakkını’ güvence altına alacak şekilde söz konusu Kanunda değişiklik taslağı hazırlamayı kabul ettiği “Gizlilik Yasası İnceleme raporuna verdiği yanıt” ile tutarlı olduğunu söyledi. ”
Holmes’un önerdiği denetim organının (hükümetin yanıtı da kabul edildi) otomatik sistemlerin “teknik yönlerini ve bunların adalet, önyargıdan kaçınma ve müşteri kullanılabilirliği açısından etkilerini” izleyeceğini yazdı.
Hükümet, “yapay zeka ve otomatik karar alma önlemlerinden” sorumlu olmak için “bir organ kurmayı veya mevcut bir organın işlevlerini genişletmeyi düşünmeyi” taahhüt etti.
NSW, 2021’de kamu sektöründe yapay zeka kullanımını denetleyen bir organ kuran ilk eyalet oldu; Yapay Zeka Danışma Komitesi, kurumların dağıtımdan önce özel çözümler oluşturmaya yönelik tekliflerini inceliyor.
Otomatik karar alma konusunda halihazırda yerleşik olan Commonwealth çerçevesine en yakın olanı, Endüstri Bilimi ve Kaynakları Bakanlığı’nın yapay zeka etik kurallarıdır: özel sektör ve kamu sektörü kuruluşlarının rekabet edebilirlik ve hesap verebilirlik gibi taahhüt edebileceği sekiz gönüllü ilke.
Avrupa Birliği, Genel Veri Koruma Yönetmeliği’nde yer alan daha zorunlu bir çerçeveyi benimsemiştir.
GDPR’nin 22. Maddesi bireyleri “tabii ki” sistemlere karşı korur. [them] yalnızca otomatik işlemeye dayalı bir karara varmak.”
Önerilen çerçevenin, engelli destek planlarına erişim ve yenileme başvurularının gözden geçirilmesi gibi halihazırda sosyal hizmetler sektöründe kullanılan otomatik karar alma programlarını nasıl etkileyebileceğinden bahsedilmedi.
Ulusal Engellilik Sigortası Kurumu’nun (NDIA) alıcıların ihtiyaçlarının ve mali desteğinin otomatik değerlendirmesini kullanmasını eleştirenler, bu özel programa “Roboplanning” adını veriyor.
Ancak Shorten, Robodebt’ten farklı olarak NDIA’nın değerlendirmelerinin döngüdeki insanı koruduğunu ve alıcıların planlarında manuel değişiklikler yapılmasına izin verdiğini söyleyerek karşılaştırmayı reddetti.
Kurumlar arası veri eşleştirme ve değişim programları
Hükümet ayrıca Services Australia ile Avustralya Vergi Dairesi (ATO) arasındaki mevcut ve gelecekteki “uçtan uca veri alışverişi” ve “veri eşleştirme programlarının” gözden geçirilmesi yönündeki tavsiyeleri de kabul etti.
Holmes, raporunda şunları yazdı: “Commonwealth, Services Australia ile ATO arasında halihazırda yürütülen uçtan uca veri alışverişi süreçlerinin yasal olduğundan emin olmak için hukuki tavsiye almalıdır.”
“ATO ve DHS [Services Australia’s previous name] Ortaklaşa yürütülen veri eşleştirme programlarına uygulanan operasyonel yönetişim uygulamalarını gözden geçirmek ve güçlendirmek için acil adımlar atmalıdır.”
Ortak programların “düzgün şekilde belgelendiğinden” ve “yasal olarak uyumlu” olduğundan emin olmak için incelemelerin gerekli olduğunu söyledi.
Hükümet, iki kurum arasında veri alışverişi ve eşleştirmeye yönelik gelecekteki tekliflerin gözden geçirileceğini ve halihazırda faaliyet gösteren programların incelemelerinin halihazırda sürdüğünü söyledi.
“ATO ve Services Australia, tüm yasal ve etik gerekliliklerin karşılandığından emin olmak için kurumlar arasında faaliyet gösteren tüm mevcut veri alışverişlerini inceliyor.”
Her iki kurum da “Kullandığın Kadar Öde (PAYG) ve Tek Dokunuşla Bordro (STP) veri alışverişi programlarıyla ilgili olarak bağımsız, harici hukuki danışmanlık aldı; bu, her iki kurumun da verilerin her yönünü düzenleyen gerekli yasal çerçevelere uyduğunu doğruladı.” Değişim”, hükümetin yanıtı okundu.
Ancak yanıtta, iki kurumun erken emeklilik erişimine yönelik hileli iddiaları engellemek için kullandığı veri eşleştirme programlarından ve JobKeeper programından hiç bahsedilmedi; ikincisi, işletmelerin pandemi sırasında çalışan işe almaları için mali bir teşvikti.
Hükümet ayrıca sosyal yardım sisteminde gelecekte yapılacak değişiklikleri gözden geçirmek üzere yeni bir danışma kurulu duyurdu; bu kurul, eski NSW müşteri hizmetleri ve dijital hükümet bakanı Victor Dominello ve Sidney Teknoloji Üniversitesi’nin şu anki yöneticisi olan eski insan hakları komiseri Edward Santow’u içerecek. Yapay zekanın etik kullanımını savunan Teknoloji Enstitüsü.