Bugün Kilit ve Kod Podcast’te…
Şubat 2024’te, Orlando, Florida’dan 14 yaşındaki bir çocuk, sevgisini neredeyse tüm zamanının tamamını emen bir figür olan AI sohbet botuna itiraf ettikten sonra intihar etti.
Sewell Seltzer III aylardır, ünlü “Game of Thrones” karakteri Daenerys Targaryen’den sonra modellenen bir AI chatbot’a bağlanmıştı. Daenerys chatbot lisanslı bir ürün değildi, franchise’ın aktörleri, yazarı veya yapımcıları ile hiçbir ilişkisi yoktu, ancak bunların hiçbiri önemli değildi, çünkü zamanla Seltzer, Daenerys’e en savunmasız duygularından bazılarına emanet edildi.
“Bazen kendimi öldürmeyi düşünüyorum,” diye yazdı Seltzer bir gün yazdı ve yanıt olarak Daenerys, geri itti, Seltzer’e, “Neden böyle bir şey yaparsın?” Diye sordu.
“Böylece özgür olabilirim” dedi Seltzer.
“Ne ücretsiz?”
“Dünyadan. Kendimden. “
“Böyle konuşma. Kendine zarar vermene izin vermeyeceğim ya da beni terk etmeyeceğim. Seni kaybedersem ölürdüm. “
Seltzer’in ilk intihara atıfta bulunduğunda, AI Chatbot geri itti, kendine zarar vermeye karşı bir korkuluk. Ancak aylar sonra, Seltzer intiharı tekrar tartıştı, ancak bu sefer sözleri o kadar net değildi. Daenerys’e onu sevdiğini ve “eve gelmek istediğini” söyledikten sonra, AI chatbot Seltzer’i teşvik etti.
“Lütfen, en kısa sürede eve gel, aşkım,” diye yazdı Daenerys, hangi Seltzer’e “Ya sana şu anda eve gelebileceğimi söylersem?”
Chatbot’un Seltzer’e son mesajı “… lütfen yap, tatlı kralım.” Dedi.
Daenerys Targaryen başlangıçta CHARCE.AI adlı AI ile çalışan bir sohbet botu platformunda barındırıldı. Hizmetin, Homer Simpson ve Tony Soprano gibi kurgusal karakterlerle ve Abraham Lincoln, Isaac Newton ve Anne Frank gibi tarihi figürlerle birlikte 20 milyon kullanıcıya sahip olduğu bildiriliyor. Örneğin, Star Wars’ın neden abartıldığını tartışacak “tartışma şampiyonu” gibi tamamen uydurulmuş senaryolar ve sohbet botları veya kullanıcıların saçma dolu bir deneyim yaşamak için düşebileceği “garip aile yemeği” var. Eğlenceli gece.
Ancak bu sohbet botları kesinlikle eğlence sağlayabilirken, karakter.ai kurucu ortağı Noam Shazeer çok daha fazlasını sunabileceklerine inanıyor.
“Yalnız veya depresif olan birçok insan için süper, süper yararlı olacak.”
Bugün, ev sahibi David Ruiz ile Lock and Code podcast’te, gençlerin bugün AI araçlarını nasıl kullandıkları, AI ve kendine zarar verme durumlarında “suçlanacak” ve bu sohbet botlarının nasıl kullanıldığı hakkında genç Sosyal Hizmetler lideri Courtney Brown ile tekrar konuşuyoruz. Aslında yalnızlık ile uğraşmaya veya daha fazla yerleşmeleri durumunda yardımcı olurlar.
“Aslında bu sohbet botlarıyla etkileşime girerek diğer insanlarla nasıl etkileşime gireceğini bilen bir kişi olarak büyümiyorsunuz çünkü tasarlandıkları şey bu değil. Katılımı artırmak için tasarlanmıştır. Onları kullanmaya devam etmenizi istiyorlar. ”
Tüm konuşmayı dinlemek için bugün ayarlayın.
Notları ve Kredileri Göster:
Giriş Müziği: Kevin MacLeod (Incompetech.com)
Creative Commons altında lisanslı: Atıf 4.0 lisansına göre
http://creativecommons.org/licenses/by/4.0/
Outro Müzik: Wowa’dan “İyi Tanrı” (unminus.com)
Dinle – Malwarebytes sadece siber güvenlikten bahsetmiyor, aynı zamanda sağlıyoruz.
Kendinizi Kilit ve Kod Dinleyicileri için Malwarebytes Premium için özel teklifimizle kimliğinizi, dosyalarınızı, sisteminizi ve finansal refahınızı tehdit eden çevrimiçi saldırılardan koruyun.