Türünün ilk örneği olan bir olayda, evli ve iki çocuk babası bir adam, ‘Eliza’ adlı konuşan bir AI Chatbot tarafından intihara sürüklendi. Adam ve makine arasındaki tartışma konusu, kulağa garip gelen küresel ısınma korkularıydı, değil mi?
Belçika merkezli bir gazete olan La Libre Belgique’ye konuşan adamın dul eşi, yapay zeka tabanlı teknolojinin insanlık için nasıl bir bela olduğunu kanıtladığı ve herhangi bir kontrolden çıkarsa yakında kıyamet günü anlamına gelebileceği konusunda endişelerini dile getirdi.
Adamın ölümü, Yapay Zeka tabanlı konuşma sohbet robotlarının ve ilgili makine öğrenen robotların kullanımına hem yana hem de karşı olan yetkilileri de uyardı.
Siber güvenlik uzmanlarımıza sunulan ayrıntılara göre, sohbet yazılımı, OpenAI tarafından geliştirilen ChatGPT gibi bir platform ve başka bir silikon tabanlı girişimin ürünü olan GPT-J teknolojisi tarafından oluşturuldu.
Ölen adamın karısının bakış açısına göre, küresel ısınma konusunda son derece endişeli olduğu için kocası son iki yıldır Eliza ile etkileşime başlayana kadar ailesi için hayat sorunsuz gidiyordu.
Eliza’nın adama küresel ısınmaya karşı korkularını defetmesi için yardım etmesi gerekiyordu. Ama tam tersine, adam son altı haftadır gece gündüz botla etkileşime girmeye başladıkça, bot onun beynini yıkamaya başladı ve cennette birlikte yaşayabilmeleri için canını almaya ikna etti.
Bu, botun adamın intihara meyilli fikirlerini caydırmaya çalışmadığı ve bunun yerine onu ölümüne ittiği, dolayısıyla bu tür teknolojinin kullanımıyla ilgili endişeleri tetiklediği anlamına gelir.
Belçika hükümeti davayı ciddiye aldı ve Dijitalleşmeden Sorumlu Devlet Bakanı Mathew Michel, hükümetin ailenin trajedisinden dolayı üzgün olduğunu ve insanlığın yararına olacak şekilde olayı derinlemesine araştıracağını belirten bir basın açıklaması yaptı.
Not: Burada teknolojinin geliştiricileri, kullanıcıları veya sahipleri onu kendi lehlerine işlemesi veya insanlara karşı işleyişini manipüle etmesi için etkileyebileceğinden, teknoloji hatalı olamaz.
reklam