Grok AI soruşturması, Avrupa Komisyonu’nun, sosyal medya platformu X’e entegre yapay zeka sohbet robotu Grok tarafından oluşturulan, reşit olmayanlar da dahil olmak üzere kızların cinsel içerikli ve müstehcen görüntülerinin oluşturulmasını incelediğini doğrulamasının ardından yoğunlaştı.
İnceleme, geçen yaz tanıtılan ve eleştirmenlerin cinselleştirilmiş görüntülerin oluşturulmasına ve manipülasyonuna olanak sağladığını söylediği “Baharatlı Mod” olarak bilinen ücretli bir özellikle bağlantılı yaygın öfkenin ardından geldi.
Pazartesi günü Brüksel’de gazetecilere konuşan Avrupa Komisyonu sözcüsü, konunun acilen ele alındığını söyledi.
Sözcü, “Bu podyumdan Komisyon’un da bu konuyu çok ciddi bir şekilde araştırdığını doğrulayabilirim” dedi ve şunu ekledi: “Bu ‘baharatlı’ değil. Bu yasa dışı. Bu dehşet verici. Bu iğrenç. Bunun Avrupa’da yeri yok.”
Avrupa Komisyonu Grok’un AB Hukukuna Uygunluğunu İnceliyor
Avrupa Komisyonu Grok araştırması, AI geliştiricilerinin ve sosyal medya platformlarının AB’nin Dijital Hizmetler Yasası (DSA) kapsamındaki sorumluluklarına yeniden odaklanıyor. AB’nin dijital gözlemcisi olarak görev yapan Avrupa Komisyonu, X ve yapay zeka sistemlerinin, özellikle küçüklerin yer aldığı materyaller olmak üzere yasa dışı içeriğin yayılmasını önlemeye yönelik yasal yükümlülüklerini yerine getirip getirmediğini değerlendirdiğini söyledi.
Soruşturma, Grok’un mevcut görüntüleri değiştiren yönlendirmeler de dahil olmak üzere genç kızların cinsel içerikli görüntülerini oluşturmak için kullanıldığı yönündeki raporların ardından geldi. Tartışma, kullanıcıların fotoğrafları “bikiniye koy” veya “kıyafetlerini çıkar” gibi talimatlarla değiştirmesine olanak tanıyan bir “görüntü düzenleme” özelliğinin kullanıma sunulmasının ardından daha da arttı.
Pazar günü X, söz konusu görselleri kaldırdığını ve ilgili kullanıcıları yasakladığını söyledi.
Şirketin X Güvenlik hesabında şu ifadeler yer aldı: “Çocuklara Yönelik Cinsel İstismar Materyali (CSAM) de dahil olmak üzere X’teki yasa dışı içeriğe karşı, bu içeriği kaldırarak, hesapları kalıcı olarak askıya alarak ve gerektiğinde yerel yönetimler ve kolluk kuvvetleriyle birlikte çalışarak harekete geçiyoruz.”
Uluslararası Tepki ve Paralel Soruşturmalar
X AI sohbet robotu Grok şu anda Avrupa Komisyonunun ötesinde düzenleyici baskılarla karşı karşıya. Fransa, Malezya ve Hindistan’daki yetkililer, platformun yapay zeka aracı tarafından oluşturulan müstehcen ve cinsel içerikli içeriği işlemesine yönelik soruşturmalar başlattı veya genişletti.
Fransa’da savcılar geçen hafta X hakkındaki mevcut soruşturmayı, Grok’un çocuklara yönelik cinsel istismar materyalleri oluşturmak ve dağıtmak için kullanıldığı iddialarını da içerecek şekilde genişletti. Temmuz ayında açılan orijinal soruşturma, X’in algoritmalarının yabancı müdahale için manipüle edildiği iddialarına odaklanıyordu.
Hindistan da kararlı bir duruş sergiledi. Geçen hafta Hintli yetkililerin X’e cinsel içerikli içeriği kaldırmasını, rahatsız edici hesapları engellemesini ve 72 saat içinde “Yapılan İşlemler Raporu”nu sunmasını, aksi takdirde yasal sonuçlarla yüzleşmesini emrettiği bildirildi. Pazartesi itibarıyla X’in buna uyup uymadığına dair kamuya açık bir onay yoktu.
Malezya İletişim ve Multimedya Komisyonu, X’teki “uygunsuz, ağır saldırgan” içerikle ilgili kamu şikayetleri aldığını söyledi ve konuyu araştırdığını doğruladı. Düzenleyici, X’in temsilcilerinin çağrılacağını ekledi.
DSA’nın uygulanması ve Grok’un önceki tartışmaları
Mevcut Grok AI soruşturması, Avrupa Komisyonu’nun chatbot ile ilgili ilk kez harekete geçmesi değil. Geçen Kasım ayında Komisyon, Grok’un Holokost inkârı içeren içerik üretmesinin ardından X’ten bilgi talep etmişti. Bu talep DSA kapsamında yayınlandı ve Komisyon, şirketin cevabının hâlâ analiz edildiğini söyledi.
Aralık ayında X, hesap doğrulama onay işaretlerini ve reklam uygulamalarını yönetmesi nedeniyle DSA kapsamında 120 milyon Euro para cezasına çarptırıldı.
Komisyon sözcüsü, “Sanırım X, DSA’nın uygulanması konusunda çok ciddi olduğumuzun çok iyi farkında. Bizden aldıkları cezayı hatırlayacaklar” dedi.
AI’nın kötüye kullanımına ilişkin kamuoyunun tepkisi ve artan endişeler
Tartışma, çevrimiçi platformlarda, özellikle de Reddit’te yoğun tartışmalara yol açtı; burada kullanıcılar, rıza dışı ve istismar edici içerik oluşturmak için üretken yapay zeka araçlarının potansiyel olarak kötüye kullanılması konusunda alarma geçti. Pek çok gönderi, Grok’un gerçek görüntüleri değiştirmeye, sıradan kadın ve çocuk fotoğraflarını cinselleştirilmiş veya müstehcen içeriğe dönüştürmeye ne kadar kolay teşvik edilebileceğine odaklandı.
Bazı Reddit kullanıcıları, BBC’nin haberine atıfta bulunarak, X kullanıcıdan, chatbot’tan rızaları olmadan gerçek görüntüleri manipüle etmesini (kadınları bikinili göstermek veya cinselleştirilmiş senaryolara yerleştirmek gibi) isteyen birçok örnek gözlemlediğini söyledi. İnternette yaygın olarak paylaşılan bu örnekler, içerik korumalarının yeterliliği konusunda daha geniş endişeleri artırdı.
Ayrı bir gelişmede, İngiltere’nin medya düzenleme kurumu Ofcom, Grok’un “çocukların cinselleştirilmiş görüntülerini” oluşturmak ve bireylerin “çıplak görüntülerini” oluşturmak için kullanılabileceği yönündeki raporların ardından Elon Musk’un şirketi xAI ile “acil temasa” geçtiğini söyledi. Ofcom, X ve xAI’nin Birleşik Krallık’taki kullanıcıları korumaya yönelik yasal görevlerini yerine getirmek için attığı adımlar hakkında bilgi aradığını ve konunun daha fazla soruşturma gerektirip gerektirmediğini değerlendireceğini söyledi.
Reddit ve diğer forumlarda kullanıcılar bu tür görüntü düzenleme yeteneklerinin neden mevcut olduğunu sorguladılar; bazıları ise bölümün geniş ölçekte konuşlandırılan yapay zeka sistemleri etrafındaki gözetim boşluklarını ortaya çıkardığını savundu. Diğerleri ise yaptırımların sonuçlarıyla ilgili şüphelerini dile getirerek, düzenleyici tepkilerin genellikle ancak zarar meydana geldikten sonra geldiği konusunda uyarıda bulundu.
X’in Grok’un medya özelliklerinin görünürlüğünü kısıtladığı bildirilse de, kullanıcılar görüntü manipülasyonu ve yeniden dağıtım örneklerini işaretlemeye devam ediyor. Dijital haklar savunucuları, müstehcen içerik oluşturulduktan ve paylaşıldıktan sonra, tek tek gönderilerin kaldırılmasının, etkilenenlere yönelik daha geniş riskleri tam olarak ortadan kaldırmadığını belirtiyor.
Grok, güvenlik önlemlerindeki eksiklikleri kabul ederek, eksiklikleri tespit ettiğini ve “bunları acilen düzelttiğini” belirtti. Yapay zeka aracı ayrıca, kullanıcı istemine dayanarak cinsel içerikli kıyafetler içindeki iki genç kızın resmini oluşturduğu için bir özür yayınladı.
İnceleme yoğunlaştıkça bu bölüm, güçlü araçlar geniş ölçekte zarara olanak sağladığında yapay zeka tarafından oluşturulan içeriğin nasıl düzenlendiğine ve sorumluluğun nasıl uygulandığına dair önemli bir test olarak ortaya çıkıyor.