Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Dijital Olarak Yönetilen Medya Halihazırda Ulusal Güvenlik ve Gizlilik Kaygılarına Yol Açıyor
Chris Riotta (@chrisriotta) •
9 Kasım 2023
Hukuk uzmanları ve teknoloji uzmanları, aldatıcı içeriğin hali hazırda ulusal güvenliği, kişisel mahremiyeti ve kamu güvenini etkilediği konusunda uyararak, ABD Kongresi’ni deepfake teknolojilerin kullanımına karşı kısıtlamalar getirmesi ve dijital olarak manipüle edilmiş medya kullanımına karşı kadınlar ve azınlık toplulukları için yeni korumalar sağlaması yönünde çağrıda bulundu. .
Ayrıca bakınız: BT ve Güvenlikte Yapay Zekanın Geleceği Nedir?
Deepfake tespit sistemleri, dezenformasyon kampanyalarını ve sosyal mühendislik saldırılarını önlemeye yardımcı olabilir. Ayrıca potansiyel tehditleri tespit edebilir ve yetkisiz erişimi önleyebilirler. Ancak araştırmalar, manipüle edilmiş veya sentetik medyanın varlığını tespit etmek ve azaltmak için tasarlanan bu sistemlerin, kadınları ve farklı ırklardan insanları hedef alan deepfake içeriği tespit etmede yüksek hata oranlarına sahip olduğunu gösteriyor.
George Washington Üniversitesi Hukuk Fakültesi profesörü Spencer Overton Çarşamba günü Temsilciler Meclisi’nde ifade verdi: “Deepfake’leri tespit etmek için teknolojiler geliştirilirken, ilk çalışmalar bu sistemlerin çoğunun beyazların yer aldığı deepfake’leri beyaz olmayan insanlara göre daha doğru tespit ettiğini gösterdi.” Siber Güvenlik, Bilgi Teknolojisi ve Hükümet Yenilikleri Gözetim Alt Komitesi. Overton, tespit sistemlerinin “yeterince sağlam sayıda renkli insan görüntüsünü içeren veri kümeleri üzerinde eğitilmediğini”, bunun da farklı ırklardan bireyleri hedef alan derin sahte tehditlerle mücadelede etkinlik ve doğruluk açısından bir boşluk yarattığını söyledi.
“Kongre bir araya gelmeli, ortaya çıkan bu zorlukları anlamalı ve tüm Amerikalıları ve demokrasimizi deepfake teknolojilerin zararlarından korumak için gerçekten harekete geçmelidir” diye ekledi.
Eylül ayında Siber Güvenlik ve Altyapı Güvenliği Ajansı, FBI ve NSA ile ortak bir danışma belgesinde, sentetik medyadan kaynaklanan tehditlerin “katlanarak arttığı” ve “kullanıcılar için büyüyen bir zorluk” sunduğu konusunda uyarıda bulunarak, kuruluşlara doğrulama yeteneklerini ve derin sahte tespit tekniklerini iyileştirme çağrısında bulundu. ulusal kritik altyapı sahipleri ve operatörleri de dahil olmak üzere modern teknoloji ve iletişim” (bkz: ABD Federal Kurumları Firmaları Deepfakes’e Hazırlanmaya Çağırıyor)
İnsan hakları kar amacı gütmeyen kuruluş Witness’ın genel müdürü Sam Gregory, yasa yapıcılara kadınların rıza dışı cinsel içerik ve pornografi üreten deepfake teknolojilerinden orantısız bir şekilde tehditlerle karşı karşıya kaldıklarını söyledi. Ünlülerin ve politikacıların da benzerleri değiştirilmiş dijital içerikte kullanıldı; Şubat ayındaki Chicago belediye başkanlığı seçimi arifesinde, eski aday Paul Vallas’ın yanlış kışkırtıcı yorumlar ve tartışmalı politika bakış açıları içeren derin sahte bir sahtekarlığı X’te paylaşılmıştı. Video, sosyal medya platformundan kaldırılmadan önce binlerce kez görüntülendi.
Gregory, “Mevcut zararlar derin sahte teknolojiler tarafından daha da kötüleşiyor” diyerek alt komiteyi “gizliliği ve ifade özgürlüğünü koruyan sorumlu tespit ve kaynak yaklaşımlarını desteklemeye” ve “bilinen zararlara yönelik hedeflenen mevzuatı dikkate almaya” teşvik etti.
Bu yılın başlarında milletvekilleri, derin sahte mahrem görüntülerin rıza dışı geliştirilmesini yasaklayan Mahrem Görüntülerin Deepfake’lerini Önleme Yasasını yürürlüğe koydu. Temsilci Gerry Connolly, D-Va., tasarının “etkilenenler için ek yasal eylem yolları oluşturduğunu” ve “derin sahte pornografinin zararlı yayılmasının” önlenmesine yardımcı olduğunu söyledi.
Teknolojinin değiştirilmiş ses ve telekomünikasyon operasyonları ile kötü amaçlı siber faaliyetler yürütmek için kullanılabileceğini söyleyerek, “Endişelenmemiz gereken sadece deepfake videolar değil” diye ekledi.
Connolly, “Hükümet ve özel sektör, deepfake’lerin tehlikelerini ve sonuçlarını işbirliği içinde vurgulamalı ve bu dezenformasyon ve istismarla nasıl mücadele edileceğini öğretmelidir” dedi.