Grok’un küçüklerin cinselleştirilmiş görüntülerini engellemedeki başarısızlığı, tek bir “münferit hata”yı xAI’nin hedefleri için küresel bir düzenleyici stres testine dönüştürdü. Kanun yapıcılardan ve düzenleyicilerden gelen yanıtlar, bu durumun hızlı bir özür ve düzeltmeyle çözülmeyeceğini öne sürüyor.
Geçtiğimiz hafta Grok’un, genç kızların “cinselleştirilmiş kıyafetler” giydiği bir imaj yaratmasının ardından özür dilediğini haber yapmıştık.
Özür, Grok’un Ağustos 2025’te sinirli ve daha az sansürlü olarak pazarlanan ücretli “Baharatlı Modu”nun tanıtılmasının ardından geldi. Uygulamada, kullanıcıların, ABD ve diğer yargı bölgelerinin yasaları uyarınca yasa dışı çocukların cinsel istismarı materyallerine (CSAM) girebilecek içerikler de dahil olmak üzere, cinsel derin sahte görüntüler oluşturmasına olanak tanıdı.
Web izleme aracı CopyLeaks tarafından hazırlanan bir raporda, Grok’un rızası olmayan ünlülerin cinsel açıdan müstehcen görüntülerini oluşturmak için kullanıldığı “binlerce” vakanın altı çizildi.
Bu geri tepmeye başlıyor. Bildirildiğine göre üç ABD senatörü, kadınların ve küçüklerin rızası olmadan cinselleştirilmiş yapay zeka görsellerinin yayılmasını öne sürerek ve bunun şirketin uygulama mağazası kurallarını ihlal ettiğini öne sürerek Google ve Apple’dan Elon Musk’un Grok ve X uygulamalarını uygulama mağazalarından kaldırmasını istiyor.
Senatörler ortak mektuplarında şunları belirtiyor:
“Son günlerde X kullanıcıları, gerçek, özel vatandaşların rızası olmayan cinsel görüntülerini geniş ölçekte oluşturmak için uygulamanın Grok AI aracını kullandı. Bu eğilim, Grok’un kadınların cinsel istismara uğradığını, aşağılandığını, incindiğini ve hatta öldürüldüğünü tasvir edecek şekilde görüntüleri değiştirmesini de içeriyordu. Bazı durumlarda, Grok’un çocukların cinselleştirilmiş görüntülerini oluşturduğu bildirildi; bu, akla gelebilecek en iğrenç içerik türü.”
Birleşik Krallık hükümeti ayrıca platforma karşı olası önlemleri alma tehdidinde bulunuyor. Hükümet yetkilileri, bağımsız medya düzenleyicisi Ofcom’un X’e karşı başlattığı her türlü eylemi tam olarak destekleyeceklerini söylediler. Bu, Birleşik Krallık’taki düzenleyicilerin platformu engelleyebileceği anlamına gelse bile.
Endonezya ve Malezya, Grok’un “dijital soyunma” işlevinin interneti kadın ve küçüklerin müstehcen ve müstehcen manipüle edilmiş görüntüleri ile doldurmasının ardından zaten engellemişti.
Görünüşe göre bir kullanıcı Grok’tan kendi “özür dilemesini” istedi ve o da bunu yaptı. Kadınların ve küçüklerin cinselleştirilmiş görüntülerine yönelik tepkilerin ardından Grok/X, yalnızca ödeme yapan aboneler için görüntü oluşturma ve düzenleme konusunda sınırlamalar getirildiğini ve bu özelliklerin ana X yüzeylerinde etkili bir şekilde ödeme duvarı haline getirildiğini duyurdu.
Zaten dezenformasyon, seçim müdahalesi, derin sahtekarlıklar ve suiistimal görüntüleri konusunda endişe duyan milletvekilleri için Grok, neden “hızlı hareket edin ve işleri bozun”un gerçek insanları talep üzerine cinselleştirebilen yapay zeka ile karışmadığını gösteren bir ders kitabı haline geliyor.
AB yapay zeka uygulamalarından platforma özgü güvenlik yükümlülüklerine kadar değişen bir sonraki kural dalgasının, bu olayı bir aykırı değer olarak değil, tüm büyük ölçekli görsel modellerin dayanması gereken temel risk olarak ele alacağını umuyoruz.
Çocuklarınızı güvende tutun
Ebeveynlerin neden çocuklarının yüzlerinde gülen bir ifadeyle resimlerini paylaştığını merak ettiyseniz, nedeni budur.
Yabancıların fotoğraflarınızı kopyalamasını, yeniden kullanmasını veya değiştirmesini kolaylaştırmayın.
Bu olay, dijital ayak izinizi azaltmanız için bir başka zorlayıcı neden. Kendinizin, çocuklarınızın fotoğraflarını veya diğer hassas bilgilerinizi halka açık sosyal medya hesaplarında paylaşmadan önce dikkatlice düşünün.
Ve çevrimiçi olarak gördüğünüz her şeye (resimler, sesler, metinler) bağımsız olarak doğrulanamadıkları sürece potansiyel olarak yapay zeka tarafından üretilmiş muamelesi yapın. Yalnızca fikirleri etkilemek için değil, aynı zamanda para istemek, kişisel bilgileri almak veya kötü niyetli materyaller oluşturmak için de kullanılıyorlar.
Yalnızca tehditleri bildirmiyoruz; sosyal medyanızı korumaya yardımcı oluyoruz
Siber güvenlik riskleri asla bir manşetin ötesine yayılmamalıdır. Malwarebytes Kimlik Hırsızlığı Korumasını kullanarak sosyal medya hesaplarınızı koruyun.