Web sitelerinin çoğu, derin sahte porno videoları barındırdıklarını veya yaydıklarını açıkça belirtiyor; genellikle şu kelimeyi içeriyor: derin sahtekarlıklar veya bunların türevleri kendi adlarında yer almaktadır. En iyi iki web sitesinin her biri 44.000 video içeriyor, diğer beşi ise 10.000’den fazla deepfake video barındırıyor. Çoğunun birkaç bin videosu var, bazıları ise yalnızca birkaç yüz tane listeliyor. Araştırmacının analiz ettiği bazı videolar milyonlarca kez izlendi.
Araştırma ayrıca, bir şekilde rızaya dayalı olmayan deepfake pornografiyi içeren 300 genel pornografi web sitesi daha belirledi. Araştırmacı, “sızdıran” web sitelerinin ve insanların sosyal medya resimlerini yeniden yayınlamak için var olan web sitelerinin de derin sahte görüntüler içerdiğini söylüyor. Fotoğraflarla ilgilenen bir web sitesi, 350.000 fotoğrafta insanları “soydurduğunu” iddia ediyor.
Deepfake video ve görsellerinin tam ölçeğini çevrimiçi olarak ölçmek inanılmaz derecede zordur. İçeriğin sosyal medyada nerede paylaşıldığını takip etmek zorlayıcı olurken, istismar edici içerik de özel mesajlaşma gruplarında veya kapalı kanallarda, genellikle mağdurların tanıdığı kişiler tarafından paylaşılıyor. Eylül ayında, İspanya’nın Almendralejo kasabasında yaşları 11 ila 17 arasında olan 20’den fazla kız, yapay zeka araçlarının onların bilgisi dışında çıplak fotoğraflarını oluşturmak için kullanılmasının ardından ortaya çıktı.
Avustralya’daki Monash Üniversitesi’nde doçent olan Asher Flynn, “Rıza dışı, derin sahte pornografik görüntüler oluşturmaya yönelik yapay zeka araçlarının kullanılabilirliğinde önemli bir artış oldu ve pornografi platformları ile yasa dışı çevrimiçi ağlarda bu tür içeriklere yönelik talepte bir artış oldu” diyor. Yapay zekaya ve teknolojinin kolaylaştırdığı kötüye kullanıma odaklanan. Bu durumun yalnızca yeni üretken yapay zeka araçlarıyla artması muhtemeldir.
Deepfake videolar veya görseller oluşturmaya yönelik birçok web sitesi ve araca erişim, arama yoluyla sağlanır. Milyonlarca insan araştırmacının analiz ettiği web sitelerine yönlendiriliyor ve insanların yüzde 50 ila 80’i bu web sitelerine arama yoluyla ulaşıyor. Deepfake videolarını arama yoluyla bulmak önemsiz bir işlemdir ve kişinin neyi arayacağı konusunda özel bir bilgiye sahip olmasını gerektirmez.
Sorun küreseldir. Araştırmacı bir VPN kullanarak Kanada, Almanya, Japonya, ABD, Brezilya, Güney Afrika ve Avustralya’daki Google aramalarını test etti. Tüm testlerde, deepfake web siteleri arama sonuçlarında belirgin bir şekilde görüntülendi. Videolarda genellikle ünlüler, yayıncılar ve içerik oluşturucular hedef alınıyor. Maddocks, deepfake’lerin yayılmasının “endemik” hale geldiğini ve Aralık 2017’de ilk deepfake videolar öne çıktığında birçok araştırmacının ilk korktuğu şeyin bu olduğunu söylüyor.