Yapay Zeka ve Makine Öğrenimi, Yönetişim ve Risk Yönetimi, Devlet
Gizlilik Savunucuları, DHS’nin Yapay Zeka ve Yüz Tanıma Kullanımının Genişletilmesinden Kaynaklanacak Risklere Karşı Uyardı
Chris Riotta (@chrisriotta) •
4 Aralık 2024
ABD İç Güvenlik Bakanlığı, dronlar ve direğe monte kameralar da dahil olmak üzere garantisiz gözetim teknolojilerinin kullanımını genişletirken temel gizlilik önlemlerini ihmal ediyor; bu trend uzmanları, gizlilik haklarını tehdit ettiği konusunda uyarıyor.
Ayrıca bakınız: Yapay Zeka Destekli Uygulamalar için Yönetişim Çerçevesi Oluşturma
Hükümet Sorumluluk Ofisi’nin Salı günü bildirdiğine göre, bakanlık ayrıca çoğu gözetim teknolojisi için önyargı risklerini değerlendirecek politikalardan yoksun. DHS, AI destekli araçları önyargı açısından değerlendirmeyi planlarken, yüz tanıma ve plaka okuyucuları da dahil olmak üzere 20’den fazla diğer sistemdeki riskleri henüz ele almadı.
Raporda, DHS’nin kendi kurumları tarafından kullanılan tüm teknolojilerden habersiz olduğu, Gümrük ve Sınır Koruma, Göçmenlik ve Gümrük Muhafaza ve Gizli Servis’in giderek daha fazla üçüncü taraf analitik yazılımlara güvendiği ve insansız hava araçları, gözetleme araçları ve 24 saat kamuya açık hizmet verdiği belirtildi. kameralar, genellikle izin gerektirmeden. Comparitech’in tüketici mahremiyeti savunucusu Paul Bischoff’a göre, hükümetin yüz tanıma ve yapay zeka destekli gözetleme sistemleri için mahremiyet korumalarının eksikliği, ülke çapında mahremiyet hakları üzerinde “caydırıcı bir etki” yaratabilir.
Bischoff, Information Security Media Group’a verdiği demeçte, DHS’nin “yüz tanıma yapay zekası için yüksek düzeyde doğruluğu karşılaması gerekli olmalıdır” dedi ve kolluk kuvvetlerinin teknolojiyi kullanımındaki uyumsuzlukların azınlıkları ve yaşlıları orantısız bir şekilde etkilediğini belirtti. “Kolluk kuvvetlerinin kullanımı için eşik yüksek, ancak kolluk kuvvetleri genellikle daha fazla şüpheli bulmak için eşiği düşürüyor.”
“Gözetim teknolojileri ve bunlar aracılığıyla toplanan veriler yalnızca eğitimli, atanmış personel tarafından erişilebilir olmalı ve üçüncü taraflarla paylaşılmamalıdır” diye ekledi.
GAO tarafından incelenen üç DHS emniyet teşkilatı, otomatik plaka okuyucuları ve özel satıcılar ile eyalet veya yerel emniyet teşkilatı tarafından sağlanan teknolojiler de dahil olmak üzere üçüncü taraf gözetim araçlarından gelen verilere erişiyor. CBP ayrıca, uçak kuyruk numarası okuyucularından, otomatik plaka okuyucularından, direk kameralarından, algılamalı araçlardan ve daha fazlasından bilgi toplamaya başlamak için üçüncü taraf satıcılarla anlaşmalar yapmayı planladığını da bildirdi.
Gizlilik yazılımı firması Duality Technologies’in baş işletme sorumlusu Michael Hughes’a göre kolluk kuvvetlerinin yüz tanıma ve diğer gelişen teknolojileri kullanımındaki temel zorluklardan biri, yalnızca belirli bir amaç için gerekli olan temel verilerin toplanmasını içeren veri minimizasyonudur; bu genellikle gözden kaçırılan bir prensiptir. .
Hughes, ISMG’ye kolluk kuvvetleri sorgularının çoğunun “samanlık” kullanımını içerdiğini söyledi; bu taktik, ajansların özel odaklarını gizlemek için gerekenden çok daha fazla veri talep ettiği ve “düşmanların çok daha fazlasını talep ederek ajansın neye baktığını veya ne aradığını bilmesini önlemek için” soruşturma veya görevin kendisi için gerekli veya ilgili olandan daha fazla bilgi.”
Hughes, “Pahalı ve zaman alıcı yığın yığınlama işlemlerine güvenmek yerine, ajanslar sorgularını ve analizlerini veri sahibinden gizli tutabilir” dedi ve bu yaklaşımın kolluk kuvvetlerinin kendi operasyonları için gerekli hızda hareket ederken operasyonel güvenliği desteklemesine olanak sağlayacağını da sözlerine ekledi. misyon.
GAO, bakanlığa, gelişen teknolojilerdeki önyargılarla ilişkili riskleri değerlendirmek ve iyileştirilmiş teknoloji politikaları aracılığıyla gizlilik korumalarını uygulamak için yeni politikalar geliştirmesi konusunda çağrıda bulundu. Raporda ayrıca DHS’nin kolluk kuvvetlerine, mevcut gizlilik politikalarını halihazırda kullanımda olan tüm tespit, gözlem ve izleme teknolojilerine uygulamaları çağrısında bulunuldu.
DHS yorum taleplerine yanıt vermedi.