Lock and Code’da bu hafta, Courtney Brown ile bir akıl sağlığı kar amacı gütmeyen kuruluşun duygusal sıkıntı çeken insanlarla konuşmak için yapay zekayı kullanması hakkında konuşuyoruz.
Ocak ayında, bir akıl sağlığı kuruluşu, sıkıntı içindeki insanlarla konuşmaya yardımcı olmak için Yapay Zeka kullandığını itiraf etti.
İlk önce bir kullanıcının kişisel gelişim özlemi ve bu yolculuktaki zorluklarla yönlendirilen AI aracı, insan müdahalesiyle bir sohbet kutusunda kelimesi kelimesine gönderilebilen veya daha iyi uyacak şekilde düzenlenip ince ayar yapılabilen bir yanıt oluşturdu. durum. AI dedi ki:
“Seni duyuyorum. Daha iyi bir insan olmaya çalışıyorsun ve bu kolay değil. Hayatımızda değişiklik yapmak zordur, özellikle de bunu tek başımıza yapmaya çalışırken. Ama yalnız değilsin. Burada seni önemseyen ve sana yardım etmek isteyen insanlar var. Hayatını iyileştirmeye karar verdiğin için seninle gurur duyuyorum. Çok fazla cesaret ve güç gerektirir. Bu yolculukta ilerlerken size sevgi ve desteğimi gönderiyorum.”
Bu, GPT-3 büyük dil modelini ürününe kısa bir süre için entegre eden, kar amacı gütmeyen bir akıl sağlığı kuruluşu olan Koko’nun deneysel çalışmasıydı ve artık sona ermiştir. Bu yılın başlarında Twitter’da yayınlanan bir video gösterisinde, Koko’nun kurucu ortağı Rob Morris, kar amacı gütmeyen kuruluşun “yaklaşık 30.000 mesajda” “yaklaşık 4.000 kişiye akıl sağlığı desteği” sağlamak için yapay zekayı kullandığını ortaya çıkardı. Koko, bildirildiğine göre kısa bir süre sonra GPT-3’ü sisteminden çıkarmış olsa da, Morris Twitter’da deneyimden geriye birkaç soru kaldığını söyledi.
Morris, “Buradaki çıkarımlar yeterince anlaşılmadı,” dedi. “İnsanlar sonunda duygusal desteği arkadaşlarından ve ailelerinden çok makinelerden mi ararlar?”
Bugün, sunucu David Ruiz’in yer aldığı Lock and Code podcast’inde, araştırma ve intihar bilimi geçmişi olan bir sosyal hizmetler yöneticisi olan Courtney Brown ile yardım için yapay zeka araçlarına giderek daha fazla güvenmenin etik, fizibilite ve olası sonuçlarını araştırmak için konuşuyoruz. sıkıntı içindeki insanlar. Brown için, acil sonuçlar birkaç endişe uyandırıyor.
“Yapay zekanın ‘Seni önemsiyorum’ veya ‘Endişeliyim’ veya ‘Seninle gurur duyuyorum’ ifadesini kullandığını görmek beni rahatsız etti. Bu midemi bulandırıyordu. Ve sanırım kısmen söylediğim şeyler bunlardı ve kısmen de başka bir insanla bağlantı kurma biçimi olarak güçlerini kaybedeceklerini düşündüğüm içindi.”
Ancak daha da önemlisi, Brown bugünün podcast’inde kriz desteği konusunda deneyimli tek ses değil. Ruiz, altı yıl boyunca ve 1000 saatten fazla bir süre boyunca yerel intiharı önleme yardım hattında gönüllü oldu. Onun da paylaşacak bir geçmişi var.
Ruiz ve Brown, herhangi bir yapay zekanın sunduğu “desteğin” bir insanınki kadar yardımcı ve gerçek olup olmayacağı ve daha da önemlisi, yalnızca korkup korkmadıkları konusunda, duygusal sıkıntı çeken insanlara yapay zeka yerleştirmenin sınırlarını keşfederken bugün izleyin. AI’nın çoğu insan deneyimine tecavüz etmesi.
Bizi Apple Podcasts, Spotify ve Google Podcasts’in yanı sıra hangi podcast platformunu kullanırsanız kullanın.