Queensland kamu sektörü projeleri yakında yapay zeka (AI) ve otomatik karar alma (ADM) kullanımına özgü riskleri değerlendirmek ve azaltmak için tasarlanmış dahili değerlendirmelere ve harici incelemelere tabi tutulacak.
Eyaletin tüm hükümete ait BT gözetim ve etkinleştirme organına söylendi iThaberler Mart ayında yaptığı bir sunumda taslağını hazırladığını ilk kez açıkladığı zorunlu çerçeveyi yayınlamak üzere olduğunu söyledi.
Queensland hükümetinin baş müşteri ve dijital sorumlusu Chris McLaren, QGCDG olarak bilinen müşteri ve dijital grubunun, Queensland hükümeti genelindeki kullanım durumlarını desteklemek için bir yapay zeka yönetişim politikası geliştirme ve yapay zeka risk değerlendirme çerçevesini destekleme sürecinin son aşamasında olduğunu söyledi.
McLaren, “QGCDG ayrıca Queensland hükümetinde yeni ISO42001 Yapay Zeka Yönetim Sistemi Standardı ve diğer ilgili endüstri standartlarının olası benimsenmesini araştırmanın erken aşamalarındadır; bu, yapay zekanın kullanım ömrü boyunca riskinin belirlenmesine ve yönetilmesine olanak tanıyacaktır” dedi.
Geçtiğimiz hafta, tüm federal eyalet toprakları veri ve dijital bakanları, hükümet projeleri için iç değerlendirmeler ve dış incelemeler yoluyla güvence puanlaması ve kontrolleri öneren ancak zorunlu kılmayan ulusal bir çerçeve üzerinde anlaştılar; bu, projelerin sırasıyla yüksek veya düşük finansal ve risk eşiklerini karşılamalarına bağlıydı.
Şu ana kadar bu düzenlemeyi uygulayan tek yargı bölgeleri NSW ve WA’dır; NSW yalnızca AI kullanan projeleri kapsarken, NSW ADM kullanan projeleri de kapsamaktadır.
McLaren, her ne kadar her ayrıntı henüz kesinleşmemiş olsa da QGCDG’nin AI risk değerlendirme çerçevesinin hem AI’yı hem de ADM’yi kapsayacağını söyledi.
“Yapay zeka risk değerlendirme çerçevesi, büyük ölçekli projelerdeki Yapay Zeka ve Yapay Zeka Yönetimine (AI) uygulanacaktır.”
Yeni çerçeve ve politikanın, ‘BİT Yatırım İncelemesi’ ve ‘Portföy, Program ve Proje Güvence Çerçevesi’ni de içeren mevcut zorunlu rejimlere dahil edileceğini sözlerine ekledi.
“Yeni AI risk değerlendirme çerçevesiyle bir proje veya programda tespit edilen herhangi bir yeni risk, mevcut risk ve güvence süreçleri kapsamında yönetilecektir.”
McLaren, yapay zeka risk değerlendirme çerçevesinin geniş rejimlere yapay zekaya özgü daha fazla denetim ve denge ekleyeceğini belirterek, QGCDG’nin halihazırda yapay zeka kullanan projelerin planlanması ve uygulanması konusunda departmanlara ve kurumlara destek sağladığını söyledi.
“Mevcut güvence süreci, AI ve ADM ile ilişkili olanlar da dahil olmak üzere risk faktörlerinin dikkate alınmasını içerir.”
“Yapay zeka ve yapay zeka unsurlarının tespit edildiği durumlarda, bu risklerin tespiti, değerlendirilmesi ve azaltılması konusunda uzman veri ve yapay zeka ekibine danışılmakta ve danışmanlık hizmeti verilmektedir.
“Veri ve AI ekibi, AI riskini yönetme konusunda konu uzmanlığı ve tavsiye sağlayan teknik ve etik uzmanlardan oluşmaktadır.
“Gerektiğinde Yapay Zeka ve ADM riski Dijital Ekonomi Liderleri Alt Grubu (dijital yatırımlar için üst düzey yönetim organı) ile görüşülür.”
Bu, Sunshine State’in yapay zeka projelerini hızla benimsemiş olmasına rağmen, hala inceleme altında olduğu anlamına geliyor.
Projeler arasında, sınıflandırma algoritmaları konusunda eğitilmiş dronlar tarafından tespit edilen yabani otlar konusunda şeker kamışı üreticilerini uyarmak için halihazırda dronlar kullanan Tarım ve Balıkçılık Bakanlığı da yer alıyor.
Queensland kamu sektörünün yardımcı sohbet robotu QChat başka bir örnektir. McLaren, platformun halihazırda müşteri etkinleştirme, RegTech, üretkenlik iyileştirme ve siber güvenlik gibi çeşitli üretken AI kullanım durumlarına dağıtıldığını söyledi iThaber’ 2023 Bilişim Durumu Raporu.
QCDG Veri ve Yapay Zeka Yöneticisi Nathan Bines, hükümet çapındaki grubun birlikte çalışabilirliği en üst düzeye çıkarma ve denetimi sürdürme konusundaki odağını vurgulayarak, QChat’in erişim genişletilmeden önce “birkaç departman içinde” kademeli olarak geliştirildiğini, test edildiğini ve kullanıma sunulduğunu söyledi.
Ayrıca, tüm AI projeleri halihazırda QGCDG’ye kayıtlıdır ve hükümet organları bir güvence profili aracı kullanmaktadır [pdf] Yalnızca dahili bir değerlendirmenin mi yoksa ek bir harici incelemenin mi gerekli olduğunu belirlemek için.
Yeni politikanın teyit edeceği detaylar, hükümetin AI ve ADM projelerinin gelecekte tabi olacağı güvence kontrollerinin düzeyi olacak.