Demokrasi ve Teknoloji Merkezi’nin özgür ifade projesi direktörü Kate Ruane, çoğu büyük teknoloji platformunun artık özel görüntülerin rıza dışı dağıtımını yasaklayan politikalara sahip olduğunu ve en büyüklerin çoğunun deepfake ile mücadele ilkelerini kabul ettiğini söylüyor. Ruane, Telegram’ın diğer büyük teknoloji platformlarına göre daha az ayrıntılı olan hizmet şartları hakkında “Platformda rıza dışı mahrem görsel oluşturmanın veya dağıtımının yasak olup olmadığının aslında net olmadığını söyleyebilirim” diyor.
Telegram’ın zararlı içeriği kaldırma yaklaşımı, platformun tarihsel olarak dolandırıcılara, aşırı sağcı gruplara ve terörizmle ilgili içeriğe ev sahipliği yapması nedeniyle sivil toplum grupları tarafından uzun süredir eleştiriliyor. Telegram CEO’su ve kurucusu Pavel Durov, ağustos ayında Fransa’da bir dizi potansiyel suçla ilgili olarak tutuklanıp suçlandığından beri Telegram, hizmet şartlarında bazı değişiklikler yapmaya ve kolluk kuvvetlerine veri sağlamaya başladı. Şirket, WIRED’in açık deepfake’leri özellikle yasaklayıp yasaklamadığına ilişkin sorularına yanıt vermedi.
Zararı Gerçekleştirin
Dört yıl önce deepfake Telegram botlarını keşfeden araştırmacı Ajder, uygulamanın deepfake kötüye kullanımı için neredeyse benzersiz bir konumda olduğunu söylüyor. Ajder, “Telegram size arama işlevini sağlıyor; böylece toplulukları, sohbetleri ve botları tanımlamanıza olanak tanıyor” diyor. “Bot barındırma işlevini sağlıyor, dolayısıyla etkili araçları sağlayan bir yer var. O zaman burası aynı zamanda onu paylaşabileceğiniz ve nihai sonuç açısından zararı gerçekten uygulayabileceğiniz yerdir.”
Eylül ayının sonlarında, birkaç deepfake kanalı Telegram’ın botlarını kaldırdığını yayınlamaya başladı. Kaldırmalara neyin yol açtığı belli değil. 30 Eylül’de 295.000 aboneli bir kanal, Telegram’ın botlarını “yasakladığını” ancak kullanıcıların kullanması için yeni bir bot bağlantısı yayınladığını yayınladı. (Kanal, WIRED’in Telegram’a soru göndermesinin ardından kaldırıldı.)
İnsanları korumak için çalışan bir kampanya grubu olan #NotYourPorn’un kurucu ortağı ve yöneticisi Elena Michael, “Telegram gibi uygulamalarla ilgili gerçekten endişe verici şeylerden biri, özellikle hayatta kalanların bakış açısından takip edilmesi ve takip edilmesinin çok zor olmasıdır” diyor görüntüye dayalı cinsel istismardan.
Michael, Telegram’la güvenlik konularını tartışmanın “çok zor” olduğunu söylüyor ancak son yıllarda şirkette bazı ilerlemeler kaydedildiğini de belirtiyor. Ancak şirketin içeriği denetleme ve filtreleme konusunda daha proaktif olması gerektiğini söylüyor.
Michael, “Hayatta kalan ve bunu kendi başına yapmak zorunda kalan biri olduğunuzu hayal edin, bu yük kesinlikle tek bir kişinin omuzlarında olmamalı” diyor. “Reaktif olmaktan ziyade proaktif bir şeyi hayata geçirme sorumluluğu elbette şirkete ait olmalı.”