Çevrimiçi güvenlik düzenleyicisi Ofcom, Grok AI sohbet robotunun kötüye kullanılması olarak değerlendirilen durumun ardından, Birleşik Krallık Çevrimiçi Güvenlik Yasası kapsamında X hakkında resmi bir soruşturma başlattı.
Düzenleyici, X’teki chatbot hesabının insanların çıplak görüntülerini (bu mahrem görüntü istismarı veya pornografi anlamına gelebilir) ve çocukların cinsel istismarı materyali anlamına gelebilecek cinselleştirilmiş çocuk görüntülerini oluşturmak ve paylaşmak için kullanıldığına ilişkin raporlarla ilgili olarak derinden endişe duyduğunu söylediği şeye yanıt verdiğini söyledi.
Grok serbest bırakıldı 25 Aralık 2025 ile 1 Ocak 2026 arasında yayınlanan, Grok’tan bahseden 50.000 tweet’e dayanan AI Forensics’in çevrimiçi görselleri üzerinde yapılan çalışma, bunların yarısından fazlasının (%53) “minimum kıyafetli” bireyler içerdiğini ortaya çıkardı.
Araştırmacı Paul Bouchaud, Google’ın Gemini görüş modeliyle belirlenen bu görsellerin %81’inin kadın gibi görünen bireyler olduğunu, %2’sinin ise 18 yaşında veya daha genç görünen kişileri tasvir ettiğini bildirdi.
Çalışma ayrıca, oluşturulan görsellerin %6’sının Gemini tarafından tanımlanan tanınmış kişileri tasvir ettiğini de ortaya çıkardı. Raporda Bouchaud, çalışmanın AI görüntü oluşturucu tarafından tasvir edilen 350’den fazla kişiliği tespit ettiğini ve bunların yaklaşık üçte birinin siyasi figür olarak tanımlandığını söyledi. Raporda Bouchaud, bunun propaganda malzemesi ve dezenformasyon amacıyla kullanılabilecek içeriği engelleyen görünür bir korkuluk bulunmadığını gösterdiğini belirtti.
Ofcom, 5 Ocak’ta X ile temasa geçtiğini ve İngiltere’deki kullanıcıları koruma görevlerine uymak için hangi adımları attığını açıklamak için 9 Ocak’a kadar süre verdiğini söyledi.
Şirketin cevabının ardından Ofcom, X’in Çevrimiçi Güvenlik Yasası kapsamındaki yasal yükümlülüklerine uyup uymadığını tespit etmek için resmi bir soruşturma başlatmaya karar verdiğini söyledi.
Soruşturma alanları arasında, Birleşik Krallık’taki kişilerin Birleşik Krallık’ta yasa dışı olan içeriği görme riskinin değerlendirilmesi ve X’in, Birleşik Krallık’taki kişilerin rıza dışı mahrem görüntüler gibi “öncelikli” yasa dışı içeriği görmesini önlemek için uygun adımları atıp atmadığı yer alıyor.
Soruşturma ayrıca X’in yasa dışı içeriğin farkına varıldığında ne kadar hızlı kaldırdığını ve kullanıcıları gizlilik yasalarının ihlaline karşı nasıl koruduğunu da inceleyecek. Ofcom, çocukların korunmasıyla ilgili olarak, soruşturmanın aynı zamanda Grok AI hizmetinin Birleşik Krallık’taki çocuklar için oluşturduğu riski ve X’in Birleşik Krallık’taki çocukları pornografi görmekten korumak için yaş güvencesini kullanmanın etkinliğini de değerlendireceğini söyledi.
Soruşturma hakkında yorum yapan Ofcom şunları söyledi: “Grok’un, X üzerinde yasa dışı, rıza dışı mahrem görüntüler ve çocukların cinsel istismarına yönelik materyaller oluşturmak ve paylaşmak için kullanıldığına dair raporlar derinden endişe verici. Platformlar, Birleşik Krallık’taki insanları Birleşik Krallık’ta yasa dışı olan içerikten korumalıdır ve şirketlerin görevlerini yerine getiremediğinden şüphelendiğimiz noktaları, özellikle de çocuklara zarar verme riskinin bulunduğu durumları araştırmaktan çekinmeyeceğiz.”
“Bu soruşturmayı en yüksek öncelikli konu olarak ilerleteceğiz ve aynı zamanda yasal süreci takip edeceğimizden emin olacağız. Birleşik Krallık’ın bağımsız çevrimiçi güvenlik uygulama kurumu olarak, soruşturmalarımızın yasal olarak sağlam ve adil bir şekilde karara bağlandığından emin olmamız önemli.”
Çocukların ve insanların mahremiyetini korumak için korkuluklara duyulan ihtiyaç konusundaki tartışmalardan kaçındığı anlaşılan CEO Elon Musk’un X yayınında Grok’a pek çok övgü yapıldı. Musk, X ile ilgili bir gönderide İngiltere’nin “sansür için her türlü bahaneyi” istediğini söyledi.