NSW hükümet işverenlerine, önyargı ve potansiyel halüsinasyonlarla ilgili roller için başvuran adaylar hakkında tarama yapmak veya karar vermek için yapay zeka kullanmamaları talimatı verilmiştir.
Kamu Hizmeti Komiseri NSW Ofisi, AI’nın “işe alım tabanlı kararlar almak için kullanılmaması gerektiğini” belirten yönergeler yayınlamıştır ve özellikle ‘son derece uzmanlaşmış roller’ için kullanımından kaçınmaya vurgu yaparak.
Komiser’in işe alım rehberliğinde yapay zeka kullanmasına göre [pdf]AI, işe alım belgeleri geliştirme, materyal ve iletişim hazırlama, aday yanıtları veya görüşmecilerin notlarını özetleme, başvuru sahibi soruşturmalarını – özellikle de hacimler yüksek olduğunda ve zamanlama görüşmeleri gibi görevler için uygun şekilde kullanılabilir.
“İşe alım süreçleri sırasında AI kullanmayı seçen ajanslar, AI kullanımının yasal, net ve şeffaf bir şekilde belgelenmesini ve risklerin uygun şekilde tanımlandığını ve azaltılmasını sağlamalıdır” dedi.
“Kritik olarak, AI karar verirken insanların yerini almamalıdır.”
Yapay zeka ile ilgili temel endişeler, büyük ölçüde önyargıya odaklanmıştır.
Bunlar, işe alım ekiplerinin bilmeden AI çıktılarına aşırı dayanabileceği otomasyon yanlılığı; yapay zeka araçlarına yerleştirilmiş doğal önyargılar; Video röportaj teknolojileri adayların duygularına, kişiliğine veya görünümüne dayanan çıkarımlar yapmak; ve güvenilmez değerlendirme kriterleri.
Ayrıca, rapor, ‘halüsinasyonlar’ olarak bilinen hataları veya fabrikasyon bilgileri bir başka önemli risk olarak vurgulamaktadır.
Teknoloji perspektifinden bakıldığında, rapor “hazır ürün satın almak cazip görünebilir, ancak her ajans ortamında mutlaka uygun değildir.
Raporda, “Bir ürün bir ajansta işe yarayabilirken, diğerinde öngörülemeyen riskler yaratabilir” diye ekledi.
“Bir AI ürünü tedarik ederken, pazarlama ve sözleşme materyallerini yakından gözden geçirmek önemlidir. [NSW AI Assessment Framework] gereksinimler.
“Bu, tedarikçilerin AI ürünü tarafından kullanılan algoritmik karar verme hakkında herhangi bir bilgi sağlamak konusunda isteksiz olabileceği ve ayrıca AI ürünü sadece sınırlı şekillerde test edilmiş olabileceği için özellikle önemlidir.”