Avustralya Bilgi Komiserliği Ofisi (OAIC), devlet kurumlarında otomatik karar verme (ADM) sistemlerinin kullanımına ilişkin açıklama eksikliğinin, teknolojiye ve kamu hizmetine olan güveni riske attığını söylüyor.
Bir masaüstü araştırması, ADM teknolojisini kullanmasına izin verilen federal kurumların yalnızca azınlığının bu uygulamayı açıkladığını ortaya çıkardı.
Ofis, toplumun hükümete olan güveninin tehlikeye atılmasını önlemek için buna daha fazla ihtiyaç duyulduğunu söyledi.
OAIC, Robodebt Kraliyet Komisyonu tarafından Centrelink’in felaketle sonuçlanan otomatik borç kurtarma planında ortaya çıkarılanlar gibi teknolojinin başarısızlıklarına ilişkin yüksek profilli örneklerin şeffaflık ihtiyacını artırdığını söyledi.
OAIC raporunda, “ADM teknolojisini hükümette kullanmanın faydaları, yalnızca risklerin uygun şekilde azaltılması ve Avustralya toplumu arasında güven oluşturulması durumunda gerçekleştirilecektir” dedi.
“Güveni mümkün kılan temel unsurlardan biri şeffaflıktır ve şeffaflığa öncülük ederek hükümet, teknolojiye yönelik kamu güvenini inşa edebilir ve faydalarının toplum genelinde geniş çapta paylaşılmasını sağlayabilir” diye ekledi.
Avustralya’nın Bilgi Komiseri Elizabeth Tydd, toplumun hükümetin dürüstlüğüne olan güvenini korumak için kamuya yapılan açıklamalara ihtiyaç olduğunu söyledi.
Tydd, “ADM’nin ne zaman ve nasıl kullanıldığını açıkça açıklayarak kurumlar bütünlüğü geliştirebilir, kamu güvenini güçlendirebilir ve yasal hükümet bilgilerine ulaşma hakkını destekleyebilir” dedi.
Basit fayda hesaplayıcılardan makine öğrenimi sistemlerine kadar çeşitli kullanımları kapsayan devlet kurumları, bireylerin yetkilerini ve yükümlülüklerini belirlemek için ADM’leri kullanabilir.
Sistemler artan verimlilik ve tutarlılık yoluyla kamuya fayda sağlayabilir, ancak aynı zamanda Centrelink’in algoritmik Robodebt borç tahsilat programının yıkıcı siyasi etkisinin gösterdiği gibi ciddi riskler de taşıyabilir.
Avustralya’nın şeffaflık gereklilikleri kapsamında Bilgi Edinme Özgürlüğü YasasıAjanslar, otomatik karar alma konusundaki uygulamalarını kamuoyuna anlatmakla yükümlüdür. Ancak OAIC çok az kişinin bunu aktif olarak yaptığını tespit etti.
Masaüstü incelemesinde yalnızca dört kurumun Bilgi Yayın Programı (IPS) aracılığıyla teknoloji kullanımlarını açıkladığı tespit edildi.
IPS, kamunun hükümet bilgilerine erişimi için standartlar belirliyor ve kurumların ne yaptıkları ve bunu nasıl yaptıkları hakkında tavsiyeler yayınlamalarını gerektiriyor.
Ancak OAIC, bu kurumların ADM teknolojisini nasıl kullandıkları konusunda net olmadıklarını tespit etti.
Diğer dokuz kurum ise IPS yükümlülüklerinin bir parçası olarak ADM teknolojisinin kullanıldığına değindi ancak bunu kullanıp kullanmadıklarını doğrulamadı.
OAIC ayrıca başka iki devlet kurumunun da ADM teknolojisini kullandığını gösteren kanıtlar buldu.
OAIC ayrıca, incelenen 23 kuruluşun hiçbirinin teknolojiyi nasıl kullandıklarına ilişkin kılavuz veya politika yayınlamadığını ortaya çıkardı.
ADM teknolojisinin hükümet tarafından kullanımı daha geniş anlamda şeffaflık sorunları nedeniyle olumsuz etkilenmiştir.
Son zamanlarda bir parlamento komitesi, bakanların teknolojiyi örneğin biyogüvenlik ve göç hakkında karar vermek için çok az gerekçe veya kamu incelemesine sunulan açıklama ile kullanabileceği yönündeki endişelerini dile getirdi.
Ancak ADM sisteminin kullanımıyla ilgili şeffaflık eksikliğinin üstesinden gelmeye yönelik bir miktar siyasi irade var.
Robodebt Kraliyet Komisyonu’na yanıt olarak, federal Başsavcı Departmanı şu anda, kurumların ADM’yi kullanırken şeffaflık yükümlülükleri ve kötüye kullanımını önlemek için sahip oldukları güvenlik önlemleri hakkında ek rehberlik sağlamak üzere tüm hükümeti kapsayan bir çerçeve geliştiriyor.
2024 yılında Queensland’in tüm hükümet BİT gözetim ve etkinleştirme organı, kamu sektörü projelerinin ADM ve yapay zeka (AI) teknolojilerinin kullanımına ilişkin riskleri değerlendirmek ve azaltmak için iç değerlendirmelere ve dış incelemelere tabi olacağını söyledi.