Web sitesini aç açık bir deepfake oluşturucudan yararlandığınızda size bir korku menüsü sunulacak. Yalnızca birkaç tıklamayla, tek bir fotoğrafı sekiz saniyelik müstehcen bir video klibe dönüştürme olanağı sunarak kadınları gerçekçi görünümlü grafik cinsel durumlara sokar. Web sitesindeki metinde “Gelişmiş AI teknolojimizle herhangi bir fotoğrafı çıplak bir versiyona dönüştürün” yazıyor.
Potansiyel kötüye kullanım seçenekleri oldukça geniştir. Web sitesindeki 65 video “şablonu” arasında, tasvir edilen kadınların kıyafetlerini çıkardığı bir dizi “soyunma” videosu yer alıyor; ancak aynı zamanda “makinenin derin boğazını sikme” adı verilen açık video sahneleri ve çeşitli “meni” videoları da var. Her videonun oluşturulması için küçük bir ücret alınır; Yapay zeka tarafından oluşturulan sesin eklenmesi daha maliyetlidir.
WIRED’in daha fazla maruz kalmayı sınırlamak için adlandırmadığı web sitesi, insanların yalnızca AI ile dönüştürmeye izin verdikleri fotoğrafları yüklemeleri gerektiğini söyleyen uyarılar içeriyor. Bunu uygulayacak herhangi bir kontrolün olup olmadığı belli değil.
Elon Musk’un şirketleri tarafından yaratılan sohbet robotu Grok, binlerce rıza dışı “soyunma” veya “çıplaklaştırma” bikini görüntüsü oluşturmak için kullanıldı; bu, dijital cinsel taciz sürecini daha da sanayileştirip normalleştirdi. Ancak bu yalnızca en görünür olanıdır ve en açık olanından çok uzaktır. Yıllardır düzinelerce web sitesi, bot ve uygulamadan oluşan deepfake ekosistemi büyüyor ve çocukların cinsel istismarı materyallerinin (CSAM) oluşturulması da dahil olmak üzere görüntüye dayalı cinsel istismarın otomatikleştirilmesini her zamankinden daha kolay hale getiriyor. Bu “çıplaklaştırma” ekosistemi ve bunun kadınlara ve kız çocuklarına verdiği zarar muhtemelen birçok insanın anlayabileceğinden daha karmaşıktır.
Yarım on yılı aşkın bir süredir teknolojiyi takip eden deepfake uzmanı Henry Ajder, “Artık çok kaba bir sentetik şerit değil” diyor. “Gerçekte oluşturulan şeyin çok daha yüksek bir gerçekçiliğinden ve aynı zamanda çok daha geniş bir işlevsellik yelpazesinden bahsediyoruz.” Bir araya getirildiğinde, hizmetler muhtemelen yılda milyonlarca dolar kazanıyor. “Bu toplumsal bir bela ve gördüğümüz yapay zeka devriminin ve sentetik medya devriminin en kötü, en karanlık kısımlarından biri” diyor.
Geçtiğimiz yıl WIRED, çok sayıda açık deepfake hizmetinin nasıl yeni işlevler sunduğunu ve zararlı video oluşturma olanağı sunacak şekilde hızla genişlediğini izledi. Görüntüden videoya modeller artık kısa bir klip oluşturmak için yalnızca bir fotoğrafa ihtiyaç duyuyor. Muhtemelen ayda milyonlarca görüntüleme alan 50’den fazla “deepfake” web sitesinin WIRED incelemesi, neredeyse hepsinin artık açık, yüksek kaliteli video oluşturma sunduğunu ve çoğu zaman kadınların tasvir edilebileceği düzinelerce cinsel senaryoyu listelediğini gösteriyor.
Bu arada Telegram’da düzinelerce cinsel deepfake kanalı ve bot, düzenli olarak farklı cinsel pozlar ve pozisyonlar gibi yeni özellikler ve yazılım güncellemeleri yayınladı. Örneğin, geçen yılın haziran ayında, bir deepfake hizmeti bir “seks modunun” tanıtımını yaptı ve bunun yanında şu mesajın reklamını yaptı: “Farklı kıyafetler, en sevdiğiniz pozlar, yaş ve diğer ayarları deneyin.” Bir diğeri, yakında resim ve videoların “daha fazla stilinin” geleceğini ve kullanıcıların yapay zeka sistemlerine yönelik özel istemleri kullanarak “kendi açıklamalarınızla tam olarak hayal ettiğiniz şeyi yaratabileceklerini” bildirdi.
“Bu sadece ‘Birini soymak istiyorsun.’ değil. ‘İşte bunun farklı fantastik versiyonları.’ gibi. Farklı pozlar bunlar. Medya kuruluşu Göstergesi ile birlikte “çıplaklaştırma” hizmetlerinin genellikle büyük teknoloji şirketlerinin altyapısını nasıl kullandığını ve bu süreçte büyük olasılıkla büyük paralar kazandığını araştıran bağımsız analist Santiago Lakatos, “Bu, farklı cinsel pozisyonlardan kaynaklanıyor” diyor. “Birisini yapabileceğin versiyonlar var [appear] hamile,” diyor Lakatos.
WIRED incelemesi, Telegram’da 1,4 milyondan fazla hesabın 39 deepfake oluşturma botu ve kanalına kaydolduğunu ortaya çıkardı. WIRED, Telegram’a hizmetler hakkında soru sorduktan sonra şirket, deepfake araçlarından en az 32’sini kaldırdı. Bir Telegram sözcüsü, “Deepfake’ler ve bunları oluşturmak için kullanılan araçlar da dahil olmak üzere rıza dışı pornografi, Telegram’ın hizmet şartları kapsamında kesinlikle yasaktır” dedi ve tespit edildiğinde içeriği kaldırdığını ve geçen yıl politikalarını ihlal eden 44 milyon içeriği kaldırdığını ekledi.