Batı Avustralya kurumları, mevcut ve planlanan tüm otomatik karar verme ve yapay zeka projelerini, geniş bir teknoloji yelpazesini kapsayan zorunlu bir risk rejimi kapsamında değerlendiriyor.
Yenilik ve Dijital Ekonomi Bakanı Stephen Dawson şunları söyledi: iTnews Yapay Zeka Güvence Çerçevesi'nin “birincil hedefinin” “BA kamu sektörü tarafından yapay zekanın güvenli ve sorumlu bir şekilde kullanılmasını sağlamak” ve “yeniliğin gerçekleşmesi için uygun ortamı yaratmak” olduğunu söyledi.
“Çerçeve, risk azaltma stratejilerinin uygulanması ve açık yönetişim ve hesap verebilirlik tedbirlerinin oluşturulması yoluyla kamu görevlilerinin WA AI politikasına uymalarına yardımcı olmayı amaçlıyor” dedi.
WA'nın Yapay Zeka Danışma Kurulu ayrıca, iç değerlendirme sırasında hafifletme kontrolleri uygulandıktan sonra hala orta ölçekli veya daha yüksek risk/risklere sahip olan herhangi bir projeyi veya projenin WA'nın dijital yetenek fonu aracılığıyla finanse edilip edilmediğini veya maliyetinin 5 milyon dolardan fazla olup olmadığını inceler ve bunlar hakkında geri bildirim sağlar.
Yapay zeka riskini yönetmek
Dahili değerlendirmeler, diğer yapay zeka etik ilkelerinin yanı sıra karar vermede adaleti, açıklanabilirliği ve doğruluğu zayıflatma potansiyelini ölçerek yapay zekanın veya karar verme projesinin risklerini belirler. [pdf] çerçevenin desteklemeyi amaçladığı.
Dawson, “Çerçeve, kurumların yapay zeka sistemlerini, projelerini ve veriye dayalı araçlarını değerlendirmeleri için sistematik bir yaklaşım sağlıyor.” dedi.
“Beş etik ilkesiyle destekleniyor ve kullanıcıyı her ilkeye ilişkin sorular konusunda yönlendiriyor.
“Bu mantıksal ve sistematik yaklaşımı kullanarak kurumlar kendi değerlendirmelerini yapabilir ve gerektiğinde riskleri titizlikle yönetebilirler.”
İkinci aşamada kurumlar, yapay zeka destekli operasyonlara daha fazla insan müdahalesi eklemek, modelin eğitim verilerini incelemek veya çıktısını doğrulamak için daha fazla test uygulamak gibi risk azaltma kontrollerini pilot olarak uyguluyor.
Etki azaltma stratejilerini uyguladıktan sonra kurum, projenin risklerini yeniden değerlendirir.
Geniş bir teknoloji yelpazesi
Bu ayın başlarında yürürlüğe giren plan, “açık bir programlama olmaksızın belirli bir dizi insan tanımlı hedef veya parametre için içerik, tahminler, tavsiyeler veya kararlar gibi tahmine dayalı çıktılar” üreten sistemleri kapsıyor.
Yapay zekanın geniş ISO/IEC 22989:2022 tanımına dayanan şema, [pdf] hem tam hem de kısmen otomatik karar verme sistemlerini kapsadığını ve rastgele orman modelleri veya sinir ağları gibi gelişmiş kendi kendini düzelten süreçler tarafından belirlenen kurallara sahip çözümlerle sınırlı olmadığını belirtir.
Federal hükümetin Robodebt'ten öğrendiği derslerle tutarlı olarak, “kural tabanlı otomasyon” sistemleri “[do] “genel yapay zeka platformu” gibi “öğrenmeyin veya adapte olmayın” risklerinin de değerlendirilmesi gerekiyor[s]ajansların “kendi verileriyle” birlikte geliştirmeleri veya eğitmeleri.
Çerçevenin, benzer güvence kontrollerini zorunlu kılan ancak daha dar bir kapsama sahip olan NSW'nin yapay zeka risk rejiminden çok daha fazla değerlendirme ve dış incelemeye yol açması muhtemel.
NSW planı geriye dönük değildir; oysa Batı Avustralya kamu görevlilerinin talimatları [pdf] “mevcut yapay zeka çözümlerini değerlendirmek ve gerektiğinde WA Yapay Zeka Danışma Kurulu tarafından gözden geçirilmek.”
Ve NSW rejiminin aksine, WA planının “yaygın olarak mevcut ticari uygulamaya sahip…hiçbir şekilde özelleştirilmeyen” sistemler için herhangi bir muafiyeti yok; WA kurumları, büyük dil modelleri gibi ortak araçların kullanımını değerlendirmelidir [pdf].
Bu ayın başlarında NSW Ombudsmanı, OSINT incelemesinde 275 kamu sektörü yapay zeka ve otomatik karar aracını doğruladı ve 702 tane daha tespit etti; ancak belgelere göre NSW planının ilk bir buçuk yılında yalnızca 14 projeyi dışarıdan inceledi. [pdf] iTnews Bilgi Edinme Özgürlüğü yasalarıyla elde edilmiştir.
Diğer eyaletler yapay zeka risk rejimini taahhüt ediyor
Şubat ayında eyalet ve bölge hükümetleri arasında yapılan toplantıda “hükümetler tarafından kullanılan yapay zekanın güvencesi için bir başlangıç ulusal çerçevesi” oluşturulmasına karar verildi.
Tazmanya ve Kuzey Bölgesi dışındaki tüm Veri ve Dijital Bakanlar, önerilen çerçevenin “Avustralya Yapay Zeka Etik İlkeleri ile uyumlu olduğunu ve ortak güvence süreçlerini içerdiğini” belirten ortak bir bildiriye katıldı ve imzaladı.
NSW hükümetinin Yapay Zeka Güvence Çerçevesi şu anda inceleniyor; Bu, 2022'de başlatıldığında Avustralya'da hükümet yapay zekasının risk değerlendirmesini zorunlu kılan ilk programdı.
11 Mart'ta NSW hükümetinin bilgi ve dijital sorumlusu Laura Christie, eyaletin yapay zekaya yönelik soruşturmasına “güncellenmiş bir Yapay Zeka Güvence Çerçevesi'nin 2024'ün sonlarında yayınlanacağını” söyledi.
Dawson söyledi iTnews WA'nın çerçevesinin de yapay zekadaki ilerlemelere ayak uydurmak için düzenli olarak güncelleneceğini söyledi.
Dawson, “Dijital Hükümet Ofisi, yapay zeka ortamı geliştikçe çağdaş kalmalarını sağlamak için WA Yapay Zeka Politikası materyallerini ve kılavuzlarını güncellemeye devam edecek” dedi.
“Bu, en iyi uygulamalardan yararlanılmasını sağlamak için diğer Avustralya eyaletleri ve bölgeleriyle işbirliği içinde çalışmayı ve özellikle de Commonwealth ve/veya eyalet hükümeti düzeyinde düzenleyici yaklaşımlar geliştirilirse, yargı alanları arasında uyumun olmasını içerir.”