Google, Apple ve Discord gibi büyük teknoloji şirketleri, insanların gerçek fotoğraflarından kıyafetleri çıkarmak için yapay zeka kullanan ve kurbanların rızaları olmadan “çıplak” görünmesini sağlayan zararlı “soyunma” web sitelerine hızla kaydolmalarını sağlıyor. Bu deepfake web sitelerinden bir düzineden fazlası aylardır teknoloji şirketlerinin giriş düğmelerini kullanıyor.
WIRED analizi, Google, Apple, Discord, Twitter, Patreon ve Line’ın oturum açma altyapısını kullanan en büyük 16 sözde soyunma ve “çıplaklaştırma” web sitesini buldu. Bu yaklaşım, insanların kredi ödemesi yapmadan ve görseller oluşturmadan önce deepfake web sitelerinde kolayca hesap oluşturmalarına olanak tanır ve onlara bir güvenilirlik görünümü sunar.
Kadınların ve kızların rızası olmadan mahrem görüntülerini oluşturan botlar ve web siteleri yıllardır var olsa da, üretken yapay zekanın tanıtılmasıyla sayıları arttı. Bu tür “soyunma” tacizi endişe verici derecede yaygın ve iddiaya göre genç erkekler sınıf arkadaşlarının görüntülerini oluşturuyor. Eleştirmenler, teknoloji şirketlerinin sorunların ölçeğiyle başa çıkmakta yavaş davrandığını, web sitelerinin arama sonuçlarında üst sıralarda yer aldığını, sosyal medyada onları tanıtan ücretli reklamların yayınlandığını ve uygulamaların uygulama mağazalarında gösterildiğini söylüyor.
“Bu, Büyük Teknoloji tarafından kadınlara ve kızlara yönelik cinsel şiddeti normalleştiren bir eğilimin devamı,” diyor EndTAB’ın (Teknoloji Destekli Kötüye Kullanımı Sonlandırma) avukatı ve kurucusu Adam Dodge. “Oturum açma API’leri kolaylık araçlarıdır. Cinsel şiddeti asla kolaylık eylemi haline getirmemeliyiz,” diyor. “Bu uygulamalara erişimin etrafına duvarlar örmeli ve bunun yerine insanlara bir asma köprü vermeliyiz.”
WIRED tarafından analiz edilen ve API’ler ve yaygın kimlik doğrulama yöntemleri aracılığıyla dağıtılan oturum açma araçları, insanların deepfake web sitelerine katılmak için mevcut hesaplarını kullanmalarına olanak tanır. Google’ın oturum açma sistemi 16 web sitesinde, Discord’un 13’ünde ve Apple’ın altısında göründü. X’in düğmesi üç web sitesindeydi, Patreon ve mesajlaşma hizmeti Line’ın ikisi de aynı iki web sitesinde göründü.
WIRED, kötüye kullanımı mümkün kıldıkları için web sitelerinin adını vermiyor. Birçoğu daha geniş ağların bir parçası ve aynı bireylere veya şirketlere ait. Giriş sistemleri, teknoloji şirketlerinin geliştiricilerin hizmetlerini zarar, taciz veya insanların mahremiyetini ihlal edecek şekilde kullanamayacaklarını belirten genel kurallara sahip olmasına rağmen kullanıldı.
WIRED tarafından arandıktan sonra, Discord ve Apple sözcüleri web sitelerine bağlı geliştirici hesaplarını kaldırdıklarını söyledi. Google, şartlarının ihlal edildiğini tespit ettiğinde geliştiricilere karşı işlem yapacağını söyledi. Patreon, açık görsellerin oluşturulmasına izin veren hesapları yasakladığını söyledi ve Line, soruşturma yaptığını doğruladı ancak belirli web siteleri hakkında yorum yapamayacağını söyledi. X, sistemlerinin kullanım şekliyle ilgili bir yorum talebine yanıt vermedi.
Discord güven ve emniyet başkan yardımcısı Jud Hoffman, WIRED’a geliştirici politikasını ihlal ettiği için web sitelerinin API’lerine erişimini sonlandırdığını söyledikten sonraki saatlerde, soyunma web sitelerinden biri Telegram kanalında Discord üzerinden yetkilendirmenin “geçici olarak kullanılamadığını” ve erişimi geri yüklemeye çalıştığını iddia etti. Bu soyunma hizmeti, WIRED’ın operasyonları hakkında yorum talebine yanıt vermedi.
Hızlı Genişleme
Deepfake teknolojisi 2017’nin sonlarına doğru ortaya çıktığından beri, rızaya dayanmayan mahrem video ve görsellerin sayısı katlanarak arttı. Videoların üretilmesi daha zor olsa da, “soyunma” veya “çıplaklaştırma” web siteleri ve uygulamaları kullanılarak görsellerin oluşturulması yaygınlaştı.
“Bunun bir yenilik olmadığını, cinsel taciz olduğunu açıkça belirtmeliyiz,” diyor yakın zamanda soyunma ve çıplaklık web sitelerine ve yaratıcılarına karşı dava açan San Francisco şehir avukatı David Chiu. Chiu, ofisinin davaya odaklandığı 16 web sitesinin yalnızca bu yılın ilk altı ayında yaklaşık 200 milyon ziyaret aldığını söylüyor. Chiu, “Bu web siteleri dünya çapında kadınların ve kızların korkunç bir şekilde sömürülmesine karışıyor. Bu görüntüler kadınları ve kızları zorbalık etmek, aşağılamak ve tehdit etmek için kullanılıyor,” iddiasında bulunuyor.