Hükümetten, teknolojinin nasıl kullanıldığını doğru bir şekilde belirlemek için bireysel bir memur temelinde AI kullanımını anlaması istenmiştir.
Kamu Hesapları ve Denetim Ortak Komitesi, kamu sektörü AI kullanımı hakkındaki bulgularını verdi. [pdf]
Komite nihayetinde, kamu sektörünün yapay zeka, zorunlu kurallar ve gereksinimler ile standart tanımlar ve eğitim kullanabileceğini belirleyen mevzuat da dahil olmak üzere kapsamlı değişiklikler çağrısında bulunur.
Biraz aciliyetle bu çabayı koordine etmek için bir çalışma grubunun toplanması gerekecektir.
Komite başkanı Linda Burney, “Komitenin Avustralya hükümeti AI sistemleri için etkili ve koordineli yönetişim çerçeveleri uygulamazsa, bu teknolojinin çok yakın gelecekte bunu yapma yeteneğini aşacağından çok büyük bir endişe” dedi.
Ancak ilk adım, AI’nın Avustralya kamu hizmeti genelinde nasıl kullanıldığını daha iyi anlamaktır.
Komite, yıllık APS çalışan nüfus sayımının bu verileri toplamak için kullanılabileceğini söyledi; Geçen yıl 140.000’den fazla yanıtı vardı.
Komite, “otomatik karar alımından üretken yapay zekaya kadar kullanılan teknolojinin belirli türleri ve kaynakları; bu teknolojilerin kullanıldığı faaliyetler ve görevler ve bunun belirli kararlar ve eylemler üzerindeki etkisi; ve bu sistemler için sağlanan eğitim düzeyleri ve türleri ve yanıtlayıcının bunları etkili bir şekilde kullanması için güven düzeyi. ”
Ayrıca, bu teknolojilerin çıktılarının nasıl yönetildiğini ve “potansiyel önyargılar da dahil olmak üzere AI tarafından üretilen karar alma ile ilişkili risklerin anlama düzeyi” olduğunu anlamak istiyor.
Bu ayrıntılı veri kümesi ‘gölge’ veya AI’nın kullanıldığı belgesiz yolları temizleyebilir ve Hükümette AI kullanımının gelecekteki yönünü bilgilendirebilir.
Şu anda, AI kullanımı en son yayınlanmış şeffaflık ifadeleri aracılığıyla ajans düzeyinde rapor edilmektedir. Bununla birlikte, bunlar şimdiye kadar oldukça belirsizdi ve teknolojinin belirli kullanımlarına gitmiyor.
Bu ayrıntılı veriler olmasa bile, komite AI’nın yasaklanmasının dikkate alınması gereken bazı alanlar olduğunu söyledi.
Yapay zeka, “refah faydaları, ceza adaleti veya göç” gibi “bireylerin yaşamlarını doğrudan etkilediği” ve algoritmik önyargı, yanlış pozitifler ve “idari hukuk gereksinimleriyle uyumlu olmayan kararlar” potansiyeline dikkat çektiği konusunda uyardı.
“AI sistemleri şu anda Avustralya halkından sorumlu değildir ve hatalı verilere dayanabilecek, insan hakları ihlallerine katkıda bulunabilecek veya bireyleri yanlış bir şekilde işaretleyebilecek algoritmik önyargıya sahip olabilir” dedi.
Komite ayrıca AI’ya “kamu hizmetinde veya başka yerlerde gözetim amacıyla kullanılmıştır”.
Bu özel olarak tanımlanmamıştır, ancak teknolojinin üretkenlik yazılımında kullanımından CCTV ile birlikte kullanımına kadar geniş bir ağ oluşturabilir.