Queensland’daki sürücülerden çekilen milyonlarca fotoğrafı değerlendirmek için kullanılan bir görüntü tanıma AI sistemi, potansiyel etik riskleri yeterince yönetmediği için inceleme altına alınmıştır.
Eyaletin cep telefonu ve Emniyet Belmeliği Teknolojisi (MPST) programının bir parçası olan sistem, cep telefonu kullanımı ve emniyet kemeri uyumu tespit etmek için Acusensus tarafından geliştirilen AI destekli ‘kafa up’ kameralarını kullanıyor.
İlk olarak Temmuz 2021’de Ulaştırma ve Ana Yollar Bakanlığı (TMR) tarafından konuşlandırıldı.
Operasyonel olarak etkili olmakla birlikte, insan incelemesi gerektiren vaka sayısını yüzde 98 oranında azaltmakla birlikte, sistem, özellikle Queensland hükümetinin Eylül 2024’te yayınlanan AI etik çerçevesi ışığında, etik beklentilerin potansiyel olarak yetersiz kaldığı için yeni bir denetimde işaretlendi.
Denetime göre [pdf]2024 yılında, hem satıcı hem de ihlalleri yöneten Queensland Gelir Ofisi tarafından yapay zeka ile ilgili davaların insan incelemelerinin ardından 114.000 para cezası verilmiştir.
Denetçi raporu, “MPST programı, bir dizi etik risk getiren sürüş suçlarını tespit etmek için görüntü tanıma yapay zekası kullanıyor” dedi.
“TMR, Queensland hükümetinin AI yönetişim politikasının gerektirdiği gibi henüz tam bir etik risk değerlendirmesi yapmamıştır.
Diyerek şöyle devam etti: “Bu, MPST programı için tüm etik risklerin tanımlanıp tanımlanmadığını bilmediği anlamına geliyor.”
Ancak rapor, MPST programının Queensland AI yönetişim politikasını yayınlamadan önce tanıtıldığını belirtti.
Ayrıca TMR’nin “sistem güvenilirliğini ve doğruluğunu desteklemek, gizliliği korumak, ince yargılama sürecinde adil sonuçları sağlamak ve sözleşme düzenlemelerini yönetmek için kontroller uyguladığını” kabul etti.
TMR, denetime şu anda önümüzdeki 12 ay boyunca “AI sistemlerinin merkezi görünürlüğünü” sağlamak için bir çerçeve oluşturduğunu ve ayrıca 2025’in sonuna kadar devletin falra -falra yapay zeka riski değerlendirmesini – çerçevesini kullanmayı planladığını söyledi.
TMR şu anda, geçen yıl Aralık ayında ASX listesinde bulunan Acusensus ile 27.4 milyon dolarlık bir sözleşme uzatması imzaladığı MPST birimlerinin sayısını genişletmek için bir programın ortasında.
Genel olarak, denetim TMR’nin kullanımda olan AI sistemleri üzerinde “tam görünürlükten yoksun” endişelerini dile getiriyor.
Bu, eyalet hükümetinin kendi AI asistanı QCHAT’ı kabul etmesini sağlar.
Denetime göre, TMR henüz QCHAT için varlığa özgü herhangi bir istem yapılandırmamıştır.
Denetim, “Bu korumayı kullanmak, QCHAT’tan gelen yanıtların doğruluğunu artırabilir ve yanıltıcı rehberlik alan kullanıcıların riskini azaltabilir” dedi.
Departman, izleme prosedürlerini tanıtmayı ve Aralık 2025’e kadar uygulamayı planladığını ve iç AI okuryazarlığını iyileştirmenin yanı sıra yanıt verdi.