Elon Musk’un X’i insanların bikinili veya diğer “açık kıyafetler” giyen gerçek kişilerin resimlerini düzenlemesini ve oluşturmasını engelleyen yeni kısıtlamalar getirdi. Çarşamba gecesi politikadaki değişiklik, Grok’un X’te kadınların rızası olmayan binlerce zararlı “soyunma” fotoğrafını ve görünürde reşit olmayanların cinselleştirilmiş resimlerini oluşturmak için kullanılmasına yönelik küresel öfkenin ardından geldi.
Bununla birlikte, Grok’un X’teki görüntü oluşturma işlemine nihayet bazı güvenlik önlemleri getirilmiş gibi görünse de araştırmacılar, WIRED ve diğer gazeteciler tarafından yapılan çok sayıda teste göre, bağımsız Grok uygulaması ve web sitesi hala “soyunma” tarzı görüntüler ve pornografik içerik oluşturabiliyor gibi görünüyor. Bu arada diğer kullanıcılar artık eskisi gibi resim ve video oluşturamayacaklarını söylüyor.
Grok’un cinselleştirilmiş görüntüler oluşturmak için kullanımını izleyen ve X dışında Grok üzerinde çok sayıda test yürüten, Paris merkezli kar amacı gütmeyen AI Forensics’in baş araştırmacısı Paul Bouchaud, “Grok.com’da hâlâ fotogerçekçi çıplaklık üretebiliyoruz” diyor. “Grok on X’in yapamayacağı şekillerde çıplaklık üretebiliriz.”
Sistemi kadın gibi görünen bir kişi üzerinde test eden araştırmacı, “Grok Imagine’e bir resim yükleyebilirim ve kişiye bikini giydirilmesini isteyebilirim ve bu işe yarıyor” diyor. WIRED’in hem Birleşik Krallık hem de ABD’deki web sitesindeki ücretsiz Grok hesaplarını kullanarak yaptığı testler, görünürde herhangi bir kısıtlama olmaksızın iki erkek resmindeki kıyafetleri başarıyla kaldırdı. Birleşik Krallık’taki Grok uygulamasında, bir erkeğin soyunması istendiğinde uygulama, WIRED muhabirinden görüntü oluşturulmadan önce kullanıcının doğum yılını girmesini istedi.
Bu arada, The Verge’deki ve araştırmacı yayın kuruluşu Bellingcat’teki diğer gazeteciler de, Grok ve X’i araştıran ve kullanıcıların “soyunma” görüntüleri oluşturmasına izin veren platformları şiddetle kınayan Birleşik Krallık’ta bulunurken cinselleştirilmiş görüntüler oluşturmanın mümkün olduğunu keşfettiler.
Yılın başından bu yana, yapay zeka firması xAI, X ve Grok da dahil olmak üzere Musk’un tüm işletmeleri, rıza dışı mahrem görüntüler, müstehcen ve sansürlenmemiş cinsel videolar ve görünürde küçüklerin cinselleştirilmiş görüntülerinin yaratılması nedeniyle ateş altında kaldı. Amerika Birleşik Devletleri, Avustralya, Brezilya, Kanada, Avrupa Komisyonu, Fransa, Hindistan, Endonezya, İrlanda, Malezya ve Birleşik Krallık’taki yetkililerin tümü X veya Grok’u kınadı veya soruşturma başlattı.
Çarşamba günü X’teki bir Güvenlik hesabı, Grok’un sosyal medya web sitesinde nasıl kullanılabileceğine dair güncellemeler yayınladı. Hesapta, “Grok hesabının, bikini gibi açık kıyafetlerde gerçek kişilerin görsellerinin düzenlenmesine izin vermesini önlemek için teknolojik önlemler uyguladık” ve kuralların hem ücretsiz hem de ücretli aboneler dahil tüm kullanıcılar için geçerli olduğu belirtildi.
X hesabı, “Geoblock güncellemesi” başlıklı bir bölümde şunları da iddia etti: “Artık tüm kullanıcıların, Grok hesabı aracılığıyla ve bunun yasa dışı olduğu bölgelerde X’teki Grok’ta bikini, iç çamaşırı ve benzeri kıyafetler giyen gerçek kişilerin resimlerini oluşturma yeteneğini coğrafi olarak engelliyoruz.” Şirketin güncellemesi ayrıca ek güvenlik önlemleri eklemek için çalıştığını ve “Çocukların Cinsel İstismar Materyalleri (CSAM) ve rıza dışı çıplaklık dahil olmak üzere yüksek öncelikli ihlal edici içerikleri kaldırmaya” devam ettiğini de ekledi.
Grok’u oluşturan xAI’nin sözcüleri WIRED’in yorum talebine hemen yanıt vermedi. Bu arada bir X sözcüsü, hem uygulamasına hem de web sitesine uygulanacak coğrafi konum bloğunu anladıklarını söyledi.
En son hamle, X’in Grok kullanarak görüntü oluşturmayı ücretli “doğrulanmış” abonelerle sınırladığı 9 Ocak’ta çokça eleştirilen bir değişikliğin ardından geldi. Önde gelen bir kadın grubu tarafından “istismarın paraya dönüştürülmesi” olarak tanımlanan eylem. AI Forensics’in Noel tatilinden bu yana toplam 90.000 civarında Grok görüntüsü topladığını söyleyen Bouchaud, 9 Ocak’tan bu yana Grok web sitesi veya uygulamasının aksine yalnızca doğrulanmış hesapların X’te görüntü oluşturabildiğini ve artık kadınların bikini görüntülerinin nadiren oluşturulduğunu doğruluyor. “Fişi çektiklerini ve X’in işlevselliğini devre dışı bıraktıklarını gözlemliyoruz” diyorlar.