Birleşmiş Milletler Uluslararası Telekomünikasyon Birliği, bir raporda, şirketlerin seçim müdahalesi ve finansal sahtekarlık risklerine karşı artan risklere karşı yardımcı olmak için yanlış bilgi ve derin takılma içeriğini tespit etmek ve damgalamak için gelişmiş araçlar kullanmaları gerekmektedir.
ITU, AI tarafından oluşturulan görüntüler ve videolar ve gerçek insanları ikna edici bir şekilde taklit eden sesler ve Cenevre’deki iyi zirvede yayınlanan raporda yayınlanan sesler gibi derinüz gübreler ve montaj riskleri oluşturan sesler.
ITU, manipüle edilmiş multimedya ile mücadele etmek için sağlam standartlar çağrısında bulundu ve sosyal medya platformları gibi içerik distribütörlerinin paylaşmadan önce görüntüleri ve videoları kimlik doğrulamak için dijital doğrulama araçları kullanmasını önerdi.
ITU’nun Standardizasyon Bürosu Çalışma Grupları Bölümü Şefi Bilel Jamoussi, “Sosyal medyaya güven önemli ölçüde düştü çünkü insanlar neyin doğru ve neyin sahte olduğunu bilmiyorlar.” Deepfes ile savaşmak, üretken AI’nın gerçekçi multimedya üretme yeteneği nedeniyle en büyük zorluk olduğunu söyledi.
2019’dan bu yana derin hasarlara hitap eden dijital düzenleme yazılımı lideri Adobe’den Leonard Rosenthol, kullanıcıların güvenilirliğini değerlendirmelerine yardımcı olmak için dijital içeriğin provenansının oluşturulmasının öneminin altını çizdi.
Rosenthol, “Kullanıcıların bu bilgileri göstermek için içeriğini tükettikleri daha fazla yer almaya ihtiyacımız var … Yemleriniz arasında kaydırırken,” Bu resme güvenebilir miyim, bu videoya güvenebilir miyim … “dedi.
Dijital yönetişim araştırma firması Digital Medusa’nın kurucusu Dr. Farzaneh Badiei, şu anda manipüle edilmiş materyalleri tespit etmeye odaklanan tek bir uluslararası bekçi olmadığı göz önüne alındığında, soruna küresel bir yaklaşımın önemini vurguladı.
Reuters’e verdiği demeçte, “Standartlar ve çözümler yamalarımız varsa, zararlı derinleme daha etkili olabilir.” Dedi.
ITU şu anda, İnternet trafiğinin yüzde 80’ini oluşturan filigran videoları için Yaratıcı Kimlik ve Zaman Damgaları gibi provenans verilerini gömmek için standartlar geliştiriyor.
İsviçre merkezli Umanitek’in kurucusu Tomaz Levak, özel sektörü proaktif olarak güvenlik önlemleri uygulamaya ve kullanıcıları eğitmeye çağırdı.
“AI sadece daha güçlü, daha hızlı veya daha akıllı olacak … Sistemlerin kurbanı olmadıklarından emin olmak için insanları yükseltmemiz gerekecek.” Dedi.