Yıllarca sözde “Nudify” uygulamaları ve web siteleri çevrimiçi mantar oldu ve insanların çocuk cinsel istismar materyalleri de dahil olmak üzere kadın ve kızların rıza ve küfürlü görüntüleri oluşturmalarını sağladı. Bazı milletvekilleri ve teknoloji şirketlerinin zararlı hizmetleri sınırlamak için adımlar atmasına rağmen, her ay milyonlarca insan hala web sitelerine erişiyor ve sitelerin içerik oluşturucuları her yıl milyonlarca dolar kazanıyor olabilir.
İnsanların sadece birkaç tıklamayla “çıplak” resimlerini oluşturmak için fotoğraf yüklemelerine ve AI kullanmalarına izin veren 85 burunlu ve “soyunma” web sitesinin bir analizi, sitelerin çoğunun Google, Amazon ve Cloudflare’den teknoloji hizmetlerine güvendiğini ve çevrimiçi kalmak için olduğunu buldu. Dijital aldatmayı araştıran bir yayın olan Gösterge ile ortaya çıkan bulgular, web sitelerinin son altı ayın her biri için ortalama 18,5 milyon ziyaretçiye sahip olduğunu ve toplu olarak yılda 36 milyon dolara kadar çıkabileceğini söylüyor.
Gösterge kurucu ortağı ve çevrimiçi güvenlik araştırmacısı Alexios Mantzarlis, karanlık çıplaklaştırıcı ekosisteminin “Silikon Vadisi’nin laissez-faire yaklaşımının üretken AI yaklaşımının” devam etmesine izin verdiği “kazançlı bir iş” haline geldiğini söylüyor. Mantzarlis, teknoloji şirketlerinden, “Tek kullanım durumlarının cinsel taciz olduğu açık olduğunda AI sebikicilere herhangi bir hizmet vermeyi bırakmalılar” diyor. Açık DeepFakes oluşturmak veya paylaşmak giderek daha yasadışı hale geliyor.
Araştırmaya göre, Amazon ve Cloudflare 85 web sitesinin 62’si için barındırma veya içerik dağıtım hizmetleri sunarken, Google’ın oturum açma sistemi 54 web sitesinde kullanılmıştır. Nudify web siteleri, ana akım şirketler tarafından sağlanan ödeme sistemleri gibi bir dizi başka hizmet kullanır.
Amazon Web Services sözcüsü Ryan Walsh, AWS’nin müşterilerin “uygulanabilir” yasaları izlemelerini gerektiren açık hizmet şartlarına sahip olduğunu söyledi. Walsh, “Şartlarımızın potansiyel ihlallerine ilişkin raporlar aldığımızda, yasaklanmış içeriği devre dışı bırakmak için hızlı bir şekilde gözden geçiriyoruz” diyor Walsh.
Google sözcüsü Karl Ryan, “Bu sitelerin bazıları şartlarımızı ihlal ediyor ve ekiplerimiz bu ihlalleri ele almak için harekete geçiyorlar,” diyor Google sözcüsü Karl Ryan, Google’ın oturum açma sisteminin geliştiricilerin yasadışı içeriği ve diğerlerini taciz eden politikalarını kabul etmesini gerektirdiğini belirtiyor.
Cloudflare, WIRED’in yazma sırasında yorum talebine yanıt vermemişti. Wired, daha fazla maruz kalma sağlamamak için bu hikayedeki nudifier web sitelerini adlandırmıyor.
İlk olarak, ilk açık “DeepFakes” ı oluşturmak için kullanılan araçlardan ve süreçlerden kaynaklandıktan sonra 2019’dan beri web sitelerini ve botlarını buruşturun ve soyun. Bellingcat’in bildirdiği gibi birbirine bağlı şirketlerin ağları, teknolojiyi sunan ve sistemlerden para kazanarak çevrimiçi olarak ortaya çıktı.
Genel olarak, Hizmetler fotoğrafları rıza dışı açık görüntülere dönüştürmek için AI kullanır; Genellikle fotoğraf oluşturmak için kullanılabilecek “kredi” veya abonelikler satarak para kazanırlar. Son birkaç yılda ortaya çıkan üretken AI görüntü jeneratörlerinin dalgası tarafından süper şarj edildi. Çıktıları çok zarar verici. Sosyal medya fotoğrafları çalındı ve küfürlü görüntüler oluşturmak için kullanıldı; Bu arada, yeni bir siber zorbalık ve istismar biçiminde, dünyanın dört bir yanındaki genç çocuklar sınıf arkadaşlarının görüntülerini yarattı. Bu tür samimi görüntü kötüye kullanımı kurbanlar için üzücüdür ve görüntülerin web’den ovmak zor olabilir.