Avustralya Federal Polisi memurları, iç yönergelere aykırı olarak, yılın ilk yarısında operasyonel konular için 10 kez çevrimiçi yüz görseli arama araçlarını “potansiyel olarak” kullandı.
Bilgi edinme özgürlüğü (FoI) talebi Guardian Avustralya muhabiri Ariel Bogle tarafından bu ayın başında yayınlandı [pdf]bu yılın Ocak ve Ağustos ayları arasında AFP içinden FaceCheck.ID’ye 35 “bağlantı” ve ters görsel arama aracı PimEyes’e 742 “bağlantı” yapıldığını gösterdi.
Bu durum, dün gece geç saatlerde yapılan senato tahminlerinde açıklığa kavuşturuldu; operasyon sorumlusu Charlotte Tressler, AFP’nin şu ana kadar araçların toplamda yaklaşık 41 kullanıcısını ortaya çıkardığını söyledi.
41 kişiden 27’si sitelere “yalnızca araştırma ve göz atma amacıyla” erişti; sekiz “çevrimiçi olarak mevcut olan mevcut açık kaynaklı yapay zeka araçlarını anlamak”; üçü “platformları test etmek ve yeteneği değerlendirmek”; ve araçları aktif soruşturmalarda kullanan diğer üç kişi.
Üç polisten oluşan son grubun aletlerle yaptıkları artık dahili soruşturmaya tabi.
Tressler, “Platformları operasyonel amaçlarla kullanma potansiyeli olan üç kullanıcımız vardı” dedi.
“Olabileceğine inanıyoruz [on] yaklaşık 10 kez, hâlâ inceliyoruz [it].
“Belki bir fotoğrafın ve muhtemelen bir dosyanın yüklendiğini düşünüyoruz, hâlâ ayrıntıları doğruluyoruz.”
Tressler, olayların dokuzunun PimEyes kullanımıyla ilgili olduğunu, yalnızca bir tanesinin FaceCheck.ID’nin potansiyel operasyonel kullanımıyla ilgili olduğunu söyledi.
AFP’nin iki aracın kullanılması karşısında “şaşırdığını” ve bunların kullanımını ancak FoI talebini yerine getirirken öğrendiğini söyledi.
Tressler, “AFP bu platformların hiçbirinin kullanımını desteklemiyor, bu nedenle öncelikli olarak platformların tüm kullanımlarını gözden geçiriyoruz ve bu durumun bir daha yaşanmamasını sağlıyoruz” dedi.
“Gelecekte bir daha şaşırmayacağımızdan emin olmak için şimdi tüm teknolojilerimizin tüm kullanımının tam bir değerlendirmesini yapıyorum.”
Tressler, araç kullanımı “stok sayımına” ek olarak, dahili soruşturmalardan bir dizi başka eylemin de çıktığını söyledi.
“Bunlar etrafındaki tüm yönetimlerimize bakıyoruz ve düzenlemelerimizi güçlendirmeye çalışıyoruz” dedi.
“Yeni teknolojileri kullanırken bu yönetişimi takip etmeleri gerektiğini vurgulamak için AFP içindeki her komutanla temasa geçtim.
“Artık yapay zekanın ve gelişen teknolojilerin kullanımını denetlediğimizden emin olmak için yeni bir alan kurduk.
“Bunu ciddiye almamız gerekiyor. Bu platformların gerekli kontroller yapılmadan kullanılma potansiyeli olduğunu görünce tatmin olmadık ve yönetimimizi uygun şekilde güçlendiriyoruz.”
AFP daha önce tartışmalı açık kaynaklı yüz görseli arama araçlarını kullanırken yakalanmıştı.
Şirket, Facebook’tan milyarlarca görüntüyü alan ve daha sonra Avustralya gizlilik yasalarını ihlal ettiği ortaya çıkan bir platform olan Clearview AI’yi 2020’de kısa süreliğine denediğini itiraf etti.
Buna yanıt olarak AFP, ücretsiz yazılım denemelerinin kullanımını kısıtladı ve PimEyes ve FaceCheck.ID örneğinde bu mevcut korkulukların nasıl aşıldığı açık olmasa da, gelişen teknolojinin merkezi değerlendirmesini yaptığını söyledi.