Elon Musk’un sosyal medya platformu X, yapay zeka sohbet robotu Grok’ta, eleştirmenlerin ve yetkililerin çocukların cinsel istismarı materyali (CSAM) olduğunu söylediği içerikler de dahil olmak üzere, rıza dışı cinselleştirilmiş görüntülerin oluşturulmasını önlemeyi amaçlayan bir dizi değişiklik duyurdu.
Duyuru, Grok AI’nin görüntü oluşturma yetenekleri ve rıza dışı cinselleştirilmiş içerik raporları üzerinde haftalardır artan incelemelerin ardından Çarşamba günü X’in resmi Güvenlik hesabı aracılığıyla yapıldı.
X, CSAM ve Rıza Dışı İçeriklere İlişkin Sıfır Tolerans Politikasını Yineliyor
X, açıklamasında “her türlü çocuk cinsel istismarına, rıza dışı çıplaklığa ve istenmeyen cinsel içeriğe sıfır tolerans” gösterdiğini vurguladı. Platform, CSAM dahil olmak üzere yüksek öncelikli ihlal içeriklerini kaldırmaya ve X’in kurallarını ihlal eden hesaplara karşı yaptırım uygulamaya devam ettiğini söyledi. Gerektiğinde çocukların cinsel istismarına yönelik materyal arayan hesaplar kolluk kuvvetlerine bildirilir.
Şirket, üretken yapay zekanın hızlı gelişiminin sektör çapında zorluklar yarattığını kabul etti ve yeni riskler ortaya çıktıkça daha hızlı yanıt vermek için kullanıcılar, ortaklar, yönetim organları ve diğer platformlarla aktif olarak çalıştığını söyledi.
Grok AI Görüntü Oluşturma Kısıtlamaları Genişletildi
Güncellemenin bir parçası olarak X, Grok yapay zekasının gerçek kişilerin resimlerini bikini gibi açık kıyafetlere dönüştürerek düzenlemesini kısıtlamak için teknolojik önlemler uyguladığını söyledi. Bu kısıtlamalar dünya çapında geçerlidir ve ücretli aboneler dahil tüm kullanıcıları etkiler.
Başka bir değişiklikle, @Grok hesabı aracılığıyla görsel oluşturma ve görsel düzenleme artık dünya çapındaki ücretli abonelerle sınırlıdır. X, bu adımın, Grok’u yasaları veya platform politikalarını ihlal ederek kötüye kullanmaya çalışan kullanıcıların tespit edilmesini sağlamaya yardımcı olarak ek bir sorumluluk katmanı eklediğini söyledi.
X ayrıca belirli yargı bölgelerinde coğrafi engelleme önlemlerinin getirildiğini de doğruladı. Bu tür içeriklerin yasa dışı olduğu bölgelerde kullanıcılar artık Grok AI kullanarak bikini, iç çamaşırı veya benzeri kıyafetler giyen gerçek kişilerin görsellerini oluşturamayacak. Benzer coğrafi engelleme kontrolleri xAI tarafından bağımsız Grok uygulaması için kullanıma sunuluyor.
Duyuru, Yaygın Kötüye Kullanım Raporlarının Ardından Geliyor
Güncelleme, binlerce kullanıcının aracı kullanarak kadın ve çocukların cinselleştirilmiş görüntülerini oluşturduğunun bildirilmesinin ardından, Grok AI ile ilgili büyüyen bir skandalın ortasında geldi. Çok sayıda rapor, kullanıcıların halka açık görselleri nasıl aldıklarını ve bireyleri rızaları olmadan açık veya müstehcen senaryolarda tasvir etmek için Grok’u nasıl kullandıklarını belgeledi.
XAI’nin Grok’un görüntü oluşturma sisteminin bir parçası olarak geliştirdiği ve farklılaştırıcı olarak tanıttığı “Baharatlı Mod” olarak bilinen bir özellik özellikle endişe vericiydi. Eleştirmenler, bu özelliğin büyük ölçekli istismara olanak sağladığını ve rıza dışı mahrem görüntülerin yayılmasına katkıda bulunduğunu söylüyor.
Medya raporlarında yer alan bir analize göre, Grok’un son tatil döneminde ürettiği yaklaşık 20.000 görselin yarısından fazlası, minimal giyimli insanları tasvir ediyordu ve bazı görsellerde çocukların yer aldığı görülüyordu.
ABD ve Avrupalı Yetkililer İncelemeyi Artırıyor
14 Ocak 2026’da, X’in duyurusundan önce Kaliforniya Başsavcısı Rob Bonta, ofisinin Grok kullanılarak üretilen rıza dışı cinsel içerikli materyallerin çoğalması nedeniyle xAI hakkında bir soruşturma başlattığını doğruladı.
Bonta yaptığı açıklamada, kadın ve çocukların açık bir şekilde tasvir edildiğini anlatan raporların “şok edici” olduğunu söyledi ve xAI’yi derhal harekete geçmeye çağırdı. Ofisi, xAI’nin yasayı ihlal edip etmediğini ve nasıl ihlal etmiş olabileceğini inceliyor.
Düzenleyici baskılar uluslararası alanda da yoğunlaştı. Avrupa Komisyonu bu ayın başlarında Grok’un imaj oluşturma yeteneklerini, özellikle de küçüklerin yer aldığı cinsel içerikli görseller yaratmayı incelediğini doğruladı. Avrupalı yetkililer yaptırım eyleminin değerlendirildiğinin sinyalini verdi.
App Store Baskısı Zorlukları Artırıyor
12 Ocak 2026’da üç ABD’li senatör, Grok AI’nın kötü niyetli ve istismarcı içerikle ilgili uygulama mağazası politikalarını defalarca ihlal ettiğini öne sürerek Apple ve Google’ı X ve Grok’u uygulama mağazalarından kaldırmaya çağırdı. Milletvekilleri, bu tür içeriklerin devam etmesi durumunda uygulama dağıtım platformlarının da sorumluluk taşıyabileceği konusunda uyardı.
Devam Eden Gözetim ve Sektöre Etkileri
X, en son değişikliklerin, kullanıcıların ücretsiz veya ücretli abone olmasına bakılmaksızın tüm AI istemleri ve oluşturulan içerik için geçerli olan mevcut güvenlik kurallarını değiştirmediğini söyledi. Platform, güvenlik ekiplerinin güvenlik önlemleri eklemek, yasa dışı içeriği kaldırmak, uygun olduğu durumlarda hesapları askıya almak ve yetkililerle işbirliği yapmak için sürekli çalıştığını belirtti.
Soruşturmalar birden fazla yargı bölgesinde devam ederken Grok tartışması, üretken yapay zeka çağında yapay zeka güvenliği, hesap verebilirlik ve çocukların ve savunmasız bireylerin korunmasına ilişkin daha geniş tartışmada belirleyici bir vaka haline geliyor.