Startup Koko, genç yetişkinlerle kendilerine zarar verme riski taşıyan deneyler yapmakla eleştirildi. Daha da kötüsü, genç yetişkinler denek olduklarının farkında değillerdi.
Akıl sağlığı danışmanlığı sağlamak için bir yapay zeka sohbet robotu kullandığı için kızgın suya düşen kar amacı gütmeyen girişim Koko, şimdi kendilerine zarar verme riski taşıyan genç yetişkinlerle deneyler yapmakla eleştirildi. Daha da kötüsü, genç yetişkinler denek olduklarının farkında değillerdi.
Anakart, deneyin Ağustos ve Eylül 2022 arasında yapıldığını bildiriyor. 18 ila 25 yaşları arasındaki risk altındaki denekler, Discord ve Facebook Messenger’da “depresyon” ve “lağım kayması” gibi “krizle ilgili” anahtar kelimeler yayınladıktan sonra bir sohbet robotuna yönlendirildi. , Telegram ve Tumblr. Daha sonra, yapay zeka tarafından desteklenen “tipik bir kriz yanıtı” (kriz yardım hattını arayın) veya “bir dakikalık, gelişmiş kriz yanıtı Tek Oturumlu Müdahale (SSI)” alan bir gruba rastgele atandılar.
Koko’nun kurucu ortağı ve Stony Brook Üniversitesi profesörü Rob Morris, deneyi psikoloji meslektaşları Katherine Cohen, Mallory Dobias ve Jessica Schleider ile birlikte gerçekleştirdi. Çalışma, genç yetişkinleri kriz yardım hatlarına yönlendirmenin yeterli olmadığını sosyal medya platformlarına göstermeyi amaçladığını söylüyor. Morris, yapay zeka chatbot müdahalesinin zihinsel sağlık sorunlarıyla mücadele eden genç yetişkinleri desteklemede daha etkili olduğunu göstermek istediğini söylüyor.
Ancak, bu sadece kağıt üzerinde iyi görünüyor.
Koko yapmak için tasarlandığını gerçekleştirmeden önce, gizlilik politikasını ve hizmet şartlarını (ToS) sunarak kullanıcılara anonim verilerinin paylaşılabileceğini ve araştırma için kullanılabileceğini söylüyor. İlk sorun burada yatıyor: Projede yer alma onayı, Koko’nun gizlilik politikasını ve Hizmet Koşullarını kabul ederek verilir. Hepimizin bildiği gibi, çevrim içi insanların büyük bir çoğunluğu normalde bunları okumaz. Muhtemelen, risk altındaki genç yetişkinler için de ilk düşünce bu değil.
Gerçek rıza için hükümler sorulduğunda, Morris şunları söyler: Anakart, “KİK’nin araştırmacıları çok iyi nedenlerle izin almaktan muaf tuttuğu birçok durum vardır, çünkü bu etik dışı veya pratik olmayabilir ve bu özellikle internet araştırmaları için yaygındır. İnceliklidir.” Bir KİK veya kurumsal inceleme kurulu, araştırma etiği komitesi olarak da adlandırılır. Temel olarak, insan araştırma konularını koruyan gruptur.
İkinci sorun verileri içerir. Ön baskı, deneklerin araştırmacılara yaşlarını, cinsiyet kimliklerini ve cinsel kimliklerini sağladığını ortaya koyuyor. Bu tür veri kümeleri anonim olabilir, ancak araştırmalar bunların yüzde 99,98’lik yüksek bir doğrulukla belirli kişilere kadar izlenebileceğini gösteriyor. Eric Perakslis, “Çoğu KİK, mahremiyet veya güvenlikle ilgili herhangi bir zarar olamayacağını iddia ettikleri için ‘tanımlanmamış’ araştırmaya izin veriyor. Ancak bu durumda, kullanıcıları tanımlamak için kullanılabilecek demografik bilgiler topluyorlar” dedi. Duke Klinik Araştırma Enstitüsü’nde baş bilim ve dijital yetkili, Anakart raporlar.
Ve hem araştırmacıları hem de psikologları korkutan ve dehşete düşüren son sorun, deneyin “insan dışı denek araştırması” olarak yürütülmesiydi. Bu, öznelerin gerekli güvenlik ve mahremiyetle ilgili korumalardan çıkarıldığı anlamına gelir.
New York Üniversitesi biyoetik profesörü Arthur Caplan’ın “Tamamen, korkunç derecede etik dışı. Potansiyel olarak intihara meyilli kişiler üzerinde kanıtlanmamış müdahalelerle deneysel bir şekilde ortalığı karıştırmak tek kelimeyle korkunç,” dediği aktarıldı.
“Girişimciler, akıl hastalıkları ve durumları için yapay zeka kurabileceklerini bu şekilde düşünüyorlarsa, en iyi planları tepkiler, davalar, kınama ve eleştirilerle dolu bir lansman yapmaktı. Bunların hepsi tamamen kazanıldı ve hak edildi.”
“Son yıllarda etik çarkta bu kadar duygusuzca uyuyan bir çalışma görmemiştim. İntihara meyilli kişilerle bu şekilde uğraşmak affedilemez.”
Malwarebytes, fidye yazılımının tüm kalıntılarını kaldırır ve yeniden virüs bulaşmasını önler. İşletmenizi korumaya nasıl yardımcı olabileceğimiz hakkında daha fazla bilgi edinmek ister misiniz? Aşağıdan ücretsiz bir deneme edinin.
ŞİMDİ DENE