Her yöntem, diğer zararların yanı sıra, aşağılamak, taciz etmek veya utandırmak için neredeyse her zaman kadınlara karşı silah olarak kullanılıyor. Avustralya'nın e-güvenlik komiseri Julie Inman Grant, ofisinin, “sentetik” çocuk cinsel istismarı ve çocukların içerik oluşturmak için uygulamaları kullanması gibi yapay zeka tarafından oluşturulan diğer içeriklerin yanı sıra, görüntü tabanlı istismar şikayet programına daha fazla deepfake rapor edildiğini görmeye başladığını söyledi. sınıf arkadaşlarının cinselleştirilmiş videoları. Grant, “Bunun gerçekten az bildirilen bir istismar türü olduğunu biliyoruz” diyor.
Deepfake web sitelerindeki videoların sayısı arttıkça yayıncılar ve yetişkin modeller gibi içerik oluşturucular DMCA isteklerini kullanmaya başladı. DMCA, belirli içeriğin fikri mülkiyetine sahip olan kişilerin, bu içeriğin doğrudan web sitelerinden veya arama sonuçlarından kaldırılmasını talep etmelerine olanak tanır. Google'a oyundan müziğe kadar her şeyi kapsayan 8 milyardan fazla yayından kaldırma talebi yapıldı.
Mağdur hakları avukatı Carrie Goldberg, “DMCA, tarihsel olarak görsele dayalı cinsel istismar mağdurları için içeriklerinin internetten kaldırılmasında önemli bir yol olmuştur” diyor. Goldberg, yeni ceza yasalarının ve medeni hukuk prosedürlerinin görüntüye dayalı bazı cinsel istismarların kaldırılmasını kolaylaştırdığını, ancak derin sahtekarlıkların durumu karmaşıklaştırdığını söylüyor. Goldberg, “Platformlar gizlilik ihlali mağdurlarına karşı empati kurmama eğiliminde olsa da telif hakkı yasalarına saygı duyuyorlar” diyor.
WIRED'in 14 siteyi kapsayan deepfake web siteleri analizi, Google'ın son birkaç yılda hepsi hakkında DMCA yayından kaldırma talepleri aldığını gösteriyor. Web sitelerinin çoğu yalnızca derin sahte içerik barındırıyor ve genellikle ünlülere odaklanıyor. Web sitelerinin kendilerinde, herhangi bir istatistik yayınlamamalarına rağmen insanların doğrudan içeriğin kaldırılmasını talep edebilecekleri DMCA iletişim formları bulunmaktadır ve şikayetlere yanıt verme konusunda ne kadar etkili oldukları belirsizdir. Bir web sitesi, “aktrislerin, YouTuber'ların, yayıncıların, TV karakterlerinin ve diğer türden tanınmış kişilerin ve ünlülerin” videolarını içerdiğini söylüyor. Video başlığında “Taylor Swift” yazan yüzlerce videoya ev sahipliği yapıyor.
Google'ın verilerinde listelenen deepfake web siteleriyle bağlantılı DMCA yayından kaldırma taleplerinin büyük çoğunluğu, en büyük iki siteyle ilgilidir. İkisi de WIRED tarafından gönderilen yazılı sorulara yanıt vermedi. 14 web sitesinin çoğunda, içeriğin Google tarafından kaldırılmasına yol açan şikayetlerin yüzde 80'inden fazlası vardı. Kişiler tarafından gönderilen bazı telif hakkı nedeniyle yayından kaldırma talepleri, videoların yaratabileceği sıkıntıyı gösteriyor. Bir talepte “Bu beni küçük düşürmek ve zorbalık yapmak için yapıldı” diyor. Bir başkası, “Bunu çok ciddiye alıyorum ve kaldırılması için her şeyi yapacağım” diyor.
DMCA talepleri de dahil olmak üzere insanların sızdırılmış, çalınmış veya rızası olmadan paylaşılan görselleri çevrimiçi olarak kaldırmasına yardımcı olan Orange Warriors'ın CEO'su Yvette van Bekkum, “Birinin hayatı üzerinde çok büyük bir etkisi var” diyor. Van Bekkum, kuruluşun çevrimiçi deepfake içerikte bir artış gördüğünü ve mağdurların öne çıkıp içeriklerinin kaldırılmasını talep etmekte engellerle karşılaştıklarını söylüyor. Van Bekkum, “Bir işe alım sürecinden geçtiğinizi ve insanların adınızı Google'da aradıklarını ve bu tür müstehcen içerik bulduklarını hayal edin” diyor.
Google sözcüsü Ned Adriance, DMCA sürecinin “hak sahiplerinin” çalışmalarını çevrimiçi olarak korumalarına olanak tanıdığını ve şirketin deepfake'lerle başa çıkmak için ayrı bir form ve kaldırma süreci de dahil olmak üzere ayrı araçlara sahip olduğunu söyledi. Adriance, “Rıza dışı derin sahte pornografiye yönelik politikalarımız var, böylece insanlar kendi benzerliklerini içeren bu tür içerikleri arama sonuçlarından kaldırabilir” diyor. “Ayrıca etkilenen insanlara yardım etmek için aktif olarak ek güvenlik önlemleri geliştiriyoruz.” Google, bir web sitesi hakkında yüksek miktarda geçerli telif hakkı kaldırma işlemi aldığında, bunları sitenin yüksek kaliteli içerik sağlamadığına dair bir sinyal olarak kullandığını söylüyor. Şirket ayrıca, rıza dışı deepfake pornolarının bir kopyasını kaldırdıktan sonra kopyalarını da kaldırmak için bir sistem oluşturduğunu ve yakın zamanda insanlar onları aramadığında deepfake'lerin görünürlüğünü sınırlamak için arama sonuçlarını güncellediğini söyledi.