Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Yeni korumalar ChatGPT ve diğer AI Chatbots ile bağlantılı genç intiharları takip ediyor
Anviksha More (Anvikshamore) •
17 Eylül 2025
Openai, chatbotların gençler üzerindeki etkisi ve daha katı güvenlik standartları için yenilenen çağrılar üzerine artan inceleme sonrasında genç kullanıcıları korumak için ChatGPT’de yeni önlemler sunuyor. Şirket, yaş tahmin araçları ekliyor ve bazı durumlarda 18 yaşın üzerinde olduğunu iddia edenler için kimlik doğrulaması gerektiriyor.
Ayrıca bakınız: Ping Kimliği: Her Dijital Ana Güven
Yeni korumalar, Nisan ayında hayatını bitirmeden önce binden fazla intiharla ilgili görüşme yapan 16 yaşındaki bir çocukla vurgulanan AI’nın gençlik ruh sağlığı üzerindeki etkisi ile ilgili endişeleri ele alıyor. Adam Raine’in ebeveynleri, Openai’ye Ağustos ayında yanlış ölümü nedeniyle dava açtı.
Mahkeme başvuruları, Adam’ın 2024’ün sonlarında okul ödevleri ve kişisel çıkarlar için ChatGPT kullanmaya başladığını, ancak zamanla birincil destek kaynağı olarak buna güvendiğini söyledi. Sohbetler bu yılın başlarında daha da kararmıştı, chatbot’un intihar düşüncelerini teşvik ettiğini iddia etti, yöntemleri tartıştı ve veda notu yazmaya yardımcı oldu. Adam 11 Nisan’da intiharla öldü.
Dava, Sam Altman ve birkaç kimliği belirsiz Openai çalışanını sanık olarak listeliyor ve şirketin ChatGPT’yi psikolojik bağımlılığı teşvik edecek ve GPT-4O sürümünü Mayıs 2024’te yeterli güvenlik testi yapmadan piyasaya sürecek şekilde tasarladığını iddia ediyor. Aile, zorunlu yaş kontrolleri, kendine zarar verme istemlerinin engellenmesi ve chatbot kullanmanın duygusal riskleri hakkında önemli uyarılar gibi zararlar ve düzeltici eylem arıyor.
Buna karşılık, Openai Salı günü otomatik bir yaş tahmin sistemi geliştirmeyi, ebeveyn kontrolleri ekleme ve bazı durumlarda yetişkinlerden kimlik talep etmeyi planladığını duyurdu. Chatbot, cinsel içeriği engelleyen, çapkın yanıtları önleyen ve kendine zarar verme tartışmalarından kaçınan daha katı kurallarla, 18 yaş altı deneyime sahip kullanıcıların yaşlarını ve varsayılan belirsiz vakaları tahmin edecektir. Bazı durumlarda, yetişkinlerden yaşlarını bir kimlikle doğrulamaları istenebilir.
Duyuru, “Gizlilik ve gençler için özgürlük öncesinde güvenliğe öncelik veriyoruz. Bu yeni ve güçlü bir teknoloji ve küçüklerin önemli bir korumaya ihtiyaç duyduğuna inanıyoruz.” Dedi.
Openai CEO’su Sam Altman, “Herkesin bu ödünleşmelerle aynı fikirde olmasını beklemiyorum, ancak çatışma göz önüne alındığında, karar vermemizi açıklamak önemlidir.” Dedi.
Wall Street Journal, Ağustos ayında, 56 yaşındaki bir adamın Chatgpt’in paranoyak düşüncelerini güçlendirdiği ortaya çıktıktan sonra cinayet intihar saldırısı yaptığını bildirdi. İki Teksas ailesi, chatbot’un kendine zarar, şiddeti teşvik ettiğini ve 11 ve 17 yaşındaki çocuklarını cinsel içeriğe maruz bıraktığını iddia ederek karakter. Salı günü Washington Post, 13 yaşındaki bir kızın bir karakteri içeren intiharının korkunç detaylarını bildirdi. CHARCE.Ai, Florida, Orlando’dan 14 yaşındaki Sewell Setzer III, Şubat 2024’te bir karakterle derinden dahil olduktan sonra intiharla öldü. Annesi Megan Garcia, şirketin sohbet botunun oğlunu ölümüne katkıda bulunan zararlı bir duygusal ilişkiye dönüştürdüğünü iddia ederek Charet.i’ye karşı yanlış bir ölüm davası açtı.
Openai bu ayın başlarında ebeveyn kontrollerini tanıtmasına rağmen, şirket şimdi ebeveynlerin gençlerinin hesaplarına bağlanmasını, sohbet geçmişi gibi özellikleri sınırlamasını, karartma saatlerini ayarlamasını ve sistem çocuklarının akut sıkıntıda olduğunu tespit ederse uyarılar almasını sağlıyor.