Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
CIO Eric Hysen, Ajansın İlk Yapay Zeka Sorumlusu Olarak Ek Rol Üstlenecek
Rashmi Ramesh (raşmiramesh_) •
18 Eylül 2023
ABD İç Güvenlik Bakanlığı, “güvenilir yapay zekayı” teşvik etmeye yönelik devam eden federal çabanın bir parçası olarak önyargılı yapay zeka karar verme ve yüz tanıma sistemlerinden kaçınacağını söyledi.
Ayrıca bakınız: Web Semineri | SASE Dağıtımınız Neden ZTNA 2.0 ile Başlamalı?
Bakanlık Perşembe günü, personelin etnik köken, din veya ulusal köken gibi korunan özelliklere dayalı olarak bireylerin profilini çıkarmak veya onlara karşı ayrımcılık yapmak için yapay zekayı kullanmasını yasaklayan bir politika beyanı da dahil olmak üzere iki ferman yayınladı. Politika, DHS’nin yapay zekayı ayrımcı etkiler açısından değerlendirmesini gerektiriyor.
Ayrıca yüz tanıma sistemlerinin önyargı veya farklı etkiler açısından test edilmesini zorunlu kılan bir direktif de yayınladı. Yönerge, ABD vatandaşlarının, kolluk kuvvetleri tarafından ihtiyaç duyulması dışında, yüz tanımayı devre dışı bırakabileceğini belirtiyor ve yüz tanımanın tutuklama için tek temel olarak kullanılmasını yasaklıyor.
ABD İç Güvenlik Bakanı Alejandro Mayorkas da departman CIO’su Eric Hysen’in orijinal pozisyonunda kalırken “Yapay Zeka Direktörü” olarak görev yapacağını duyurdu.
Dönemin Başkanı Donald Trump tarafından görevdeki son haftalarında imzalanan bir idari emir, yapay zekanın hükümette kullanımına ilişkin “doğru, güvenilir ve etkili” olması da dahil olmak üzere ilkeler belirledi. Biden yönetimi o zamandan beri yapay zekada insan haklarının rolünü vurguladı. Ekim 2022’de yapay zeka haklar bildirgesi için bir plan yayınladı ve o zamandan bu yana bir düzineden fazla teknoloji devinden halkın yapay zekaya olan güvenini artırmak ve ulusal güvenlik tehditlerine karşı koruma sağlamak için gönüllü taahhütler aldı (bkz: IBM, Nvidia ve Diğerleri ‘Güvenilir’ Yapay Zeka Geliştirmeyi Kararlaştırdı).
Önyargılı sonuçlarla mücadele etmek, göründüğünden daha zor olabilir; çünkü yapay zeka sistemleri, açıkça önyargılı soruşturmalar kullanılmasa bile ayrımcılık yapmak için kullanılabilir. Posta koduna ve gelire dayalı bariz istemleri kapatarak etnik köken gibi özelliklerin yakın temsillerini ortadan kaldırmak, diğer faktörlere dayalı sorgulamalarla aynı kasıtlı önyargılı sonuçların elde edilebilmesi olasılığını mümkün kılar. Yapay zeka etkilidir çünkü geniş veri havuzlarından yararlanır ve bilgisayarların görünüşte ilgisiz veri noktaları arasında bağlantı kurmasına olanak tanır. Yeterli veri olduğunda posta kodu gibi yakın bir proxy’ye gerek yoktur.
Yüz tanımayı eleştirenler ayrıca, yüz tanıma eşleşmelerine dayalı haksız tutuklamaları önlemek için insan incelemesinin yeterli olup olmayacağını da sorguladılar. New York Times, ağustos ayında, bilinmeyen bir suçlunun yüzünün fotoğrafını veri tabanındaki bir fotoğrafla eşleştiren yüz tanıma araması sonucunda altı kişinin haksız yere bir suçla itham edildiğini bildirdi. Bir psikoloji profesörü Times’a şöyle dedi: “Yeterince yüz ararsa, her zaman gözetleme görüntüsündeki kişiye benzeyen kişileri ortaya çıkaracak çok güçlü bir aracınız var.”
İki DHS fermanı, Mayorkas’ın Nisan ayında oluşturduğu bir yapay zeka görev gücünün sonucudur. Mayorkas, “Yapay zeka, etkili ve sorumlu bir şekilde kullanmamız gereken güçlü bir araçtır” dedi.