ChatGPT ile felsefi tartışmalara doyduysanız, CEO Sam Altman’ın size haberleri var: Hizmet yakında cinsel türden entelektüel sohbetlere çok daha az dahil olabilecek. Bu doğru; seks yapmak ChatGPT’ye geliyor. Gerçekten şaşırdık mı?
Bu, başlangıçta NSFW içeriğini yasaklayan şirketin yaklaşımında bir değişikliğe işaret ediyor. 14 Ekim’de X’te yayınlanan bir gönderide Altman, şirketin savunmasız kullanıcılar için zihinsel sağlık sorunları yaratmamak için ChatGPT’yi “oldukça kısıtlayıcı” tuttuğunu söyledi. Ancak artık şirketin bu deneyimden ders aldığını ve “daha fazlasını denemeye” hazır hissettiğini söylüyor.
“Birkaç hafta içinde, ChatGPT’nin, insanların daha çok 4o’da sevdikleri gibi davranan bir kişiliğe sahip olmalarına olanak tanıyan yeni bir ChatGPT sürümünü çıkarmayı planlıyoruz (daha iyi olacağını umuyoruz!). ChatGPT’nizin çok insani bir şekilde yanıt vermesini, bir ton emoji kullanmasını veya bir arkadaş gibi davranmasını istiyorsanız, ChatGPT bunu yapmalıdır (ancak yalnızca siz istiyorsanız, kullanımı en üst düzeye çıkardığımız için değil).”
Aralık ayına kadar, yaş sınırlaması genişledikçe ChatGPT’nin “doğrulanmış yetişkinler için erotika gibi daha da fazlasına izin vereceğini” ekledi.
Bu ani bir dönüş değil. Şirketin Model Spesifikasyonu belgesinde ChatGPT’nin doğru koşullar altında biraz yaramaz olmasına izin vermeyi düşündüğünü söylediği geçen yılın Mayıs ayında işler değişmeye başladı.
“Geliştiricilerin ve kullanıcıların, kullanım politikalarımıza uydukları sürece hizmetlerimizi uygun gördükleri şekilde kullanma esnekliğine sahip olmaları gerektiğine inanıyoruz. API ve ChatGPT aracılığıyla yaşa uygun bağlamlarda NSFW içeriği oluşturma yeteneğini sorumlu bir şekilde sağlayıp sağlayamayacağımızı araştırıyoruz. Bu alandaki model davranışa ilişkin kullanıcı ve toplumsal beklentileri daha iyi anlamak için sabırsızlanıyoruz.”
Bunu, belgenin Şubat 2025’teki güncellemesinde başka bir açıklamayla takip etti; yaş, cinsel derin sahtekarlıklar ve intikam pornosu gibi şeylerin etrafına katı bir sınır çizerken bir “yetişkin modu” üzerinde düşünmeye başladı.
Devasa bir pazar
Bu hamlenin arkasında para olduğu inkar edilemez. Analistler, insanların geçen yıl küçük bir yapay zeka arkadaşlığı için dünya çapında 2,7 milyar dolar ödediğine ve pazarın 2034 yılına kadar 24,5 milyar dolara çıkmasının beklendiğine inanıyor; yıllık %24’lük şaşırtıcı bir büyüme oranı.
Yapay zeka “kız arkadaşları” ve “erkek arkadaşları” zaten video tabanlı sanal ortaklardan sizi arayabilen artırılmış gerçeklik arkadaşlarına kadar her şeyi kapsıyor. Elon Musk’un X’i, yeterince rahatsız ederseniz görünüşe göre sizin için soyunacak olan Ani adında cinselleştirilmiş bir sanal arkadaş piyasaya sürerek, büyük teknoloji şirketleri bile bu işe bulaşıyor.
İnsanlar onlarca yıldır teknolojiyle kirleniyor ve kirleniyor elbette (telefonda seks hatları 1980’lerin başında başladı ve kamera siteleri yıllardır gündemdeydi). Ancak yapay zeka ölçeği tamamen değiştiriyor. Otomasyonun bir sınırı yoktur, insan operatörlere ihtiyaç yoktur ve karşı taraftaki kullanıcıların sınırların nerede olduğunu bildiğinin garantisi yoktur.
Yargılamıyoruz ama normal kurallar geçerlidir. Bu içeriklerin yetişkinlere yönelik olması gerekiyor; bu da ebeveynlerin, çocuklarının çevrimiçi ortamda nelere eriştiğini izlemesini her zamankinden daha önemli hale getiriyor.
Gizlilik riski
Bu ayın başlarında, iki yapay zeka yardımcı uygulamasının, bir veritabanı yanlış yapılandırmasının ardından cinsel konuşmalar da dahil olmak üzere milyonlarca özel sohbet günlüğünü nasıl açığa çıkardığını ele aldık; bu, bu hizmetlerin ne kadar mahrem veri topladığının ciddi bir hatırlatıcısı.
Üstelik bu ilk kez de değildi. 2024’te başka bir yapay zeka kız arkadaşı platformu saldırıya uğradı ve kullanıcıların fantezileri, sohbet geçmişleri ve profil verileri sızdırıldı. Bu hikaye, duygusal yakınlığı zayıf güvenlik hijyeniyle karıştırdıklarında bu uygulamaların ne kadar savunmasız olabileceğini gösterdi.
Yapay zeka ortaklığı yaygınlaştıkça, bu tür ihlaller, bu tür verilerin gerçekte ne kadar güvenli bir şekilde saklanabileceği konusunda zorlu soruları gündeme getiriyor.
Yapay zekayla biraz yalnız kalmak isteyen yetişkinler düzenli olarak ara vermeyi ve akıl sağlığını kontrol etmeyi unutmayın. Altman, OpenAI’nin “ciddi zihinsel sağlık sorunlarını hafifletebildiğini” düşünse de, uzmanlar giderek daha gerçekçi hale gelen yapay zekalarla ilişkilerin çok gerçek duygusal riskler yaratabileceği konusunda uyarıyor.
Yalnızca gizlilik hakkında rapor vermiyoruz; size bunu kullanma seçeneğini de sunuyoruz.
Gizlilik riskleri asla bir başlığın ötesine yayılmamalıdır. Malwarebytes Privacy VPN’i kullanarak çevrimiçi gizliliğinizi kendinize ait tutun.