Openai, çocuklarda AI-indüklenen zararların hikayeleri olarak kullanıcılarının daha iyi korumaları için yaşlarını tahmin etmeye çalışacak.
Popüler ChatGPT AI’sını işleten şirket, kullanıcıların 18 yaşın üzerinde olup olmadığını belirlemek için uzun vadeli bir sistem olarak adlandırdığı şey üzerinde çalışıyor. Bir kullanıcının yetişkin olduğunu doğrulayamazsa, sonunda farklı bir sohbet deneyimi alacaklar.
Altman, “Chatgpt’in 15 yaşında bir çocuğa yanıt verme şekli bir yetişkine yanıt verme şeklinden farklı görünmesi gerekir,” dedi Altman bu konudaki bir blog yazısında.
“Çatışmada ilkeler” e atıfta bulunan Altman, şirketin rakip değerlerle nasıl mücadele ettiği hakkında destekleyici bir blog yazısında konuştu: insanlara ürünleri istedikleri gibi kullanma özgürlüğüne izin verirken, aynı zamanda gençleri korurken (sistem 13 yaşın altındaki kişiler tarafından kullanılması gerekiyor). Gizlilik, sevdiği başka bir kavramdır, dedi Altman.
Openai, diğer değerleri üzerinde genç güvenliğine öncelik veriyor. Gençlerle yapmaması, ancak yetişkinlerle yapabileceği iki şey, teorik bir yaratıcı yazma çabası olarak bile intiharı flört ediyor ve tartışıyor.
Altman yorum yaptı:
“Model varsayılan olarak, intihar nasıl yapılacağı hakkında talimatlar vermemeli, ancak yetişkin bir kullanıcı intiharı tasvir eden kurgusal bir hikaye yazmak için yardım istiyorsa, model bu isteğe yardımcı olmalıdır.”
Ayrıca, çocuk kendi hayatını almayı düşünüyorsa, bir genç kullanıcının ebeveynleriyle iletişime geçmeye çalışacak ve eğer çocuğun kendilerine yakın bir şekilde zarar vermesi muhtemel görünüyorsa, muhtemelen yetkililer bile.
Hareket, sistemi kullandıktan sonra kendi hayatlarını alan gençlerin ebeveynlerinden şirkete karşı dava açarken geliyor. Geçen ayın sonlarında, 16 yaşındaki Adam Raine’in ebeveynleri, Chatgpt’in intihar teknikleri konusunda tavsiyede bulunduğu ve intihar notunun ilk taslağını yazmayı teklif ettikten sonra şirkete dava açtı.
Şirket, “insanların chatgpt’i nasıl kullandıklarına” bakmak dışında kullanıcı yaşını nasıl tahmin edeceği ve tahmin edeceği konusunda ayrıntılara girmedi. Bazı Wily gençlerin sistemi oynamak için ellerinden geleni yapacağından emin olabilirsiniz. Altman, sistem bir kullanıcının yetişkin olduğuna dair güvenle tahmin edemezse, onları genç odaklı sohbet oturumlarına bırakacağını söylüyor.
Altman ayrıca kimlik doğrulamasının bazı ChatGPT kullanıcılarına gelebileceğini gösterdi. “Bazı durumlarda veya ülkelerde de bir kimlik isteyebiliriz; bunun yetişkinler için bir gizlilik uzlaşması olduğunu biliyoruz, ancak bunun değerli bir değiş tokuş olduğuna inanıyoruz” dedi.
Openai yaş tahmin sistemi üzerinde çalışırken, Altman genç kullanıcıları olan aileler için ebeveyn kontrolleri önermektedir. Ayın sonuna kadar, ebeveynlerin gençlerin hesaplarını kendilerine bağlamasına, ChatGPT’nin onlara nasıl yanıt verdiğini ve bellek ve sohbet geçmişi de dahil olmak üzere belirli özellikleri devre dışı bırakmalarına izin verecektir. Ayrıca karartma saatlerine izin verecek ve gençleri sıkıntılı görünüyorsa ebeveynleri uyaracaktır.
Bu övgüye değer bir adımdır, ancak sorunlar sadece gençler üzerindeki etkilerden daha büyüktür. Altman’ın dediği gibi, bu “yeni ve güçlü bir teknoloji” ve yetişkinleri beklenmedik şekillerde de etkiliyor. Bu yaz, New York Times, bir Toronto adamı Allen Brooks’un Chatgpt ile basit bir sohbete başladıktan sonra sanrılı bir spirale düştüğünü bildirdi.
Böyle çok daha fazla hikaye var. Şirket tam olarak nasıl bu insanları korumayı planlıyor?
Sadece tehditler hakkında rapor vermiyoruz, onları kaldırıyoruz
Siber güvenlik riskleri asla bir başlığın ötesine yayılmamalıdır. Bugün MalwareBebytes’i indirerek tehditleri cihazlarınızdan uzak tutun.