Bir chatbotun size gönderdiği yanıtlara güvenmemelisiniz. Ve muhtemelen kişisel bilgileriniz konusunda da ona güvenmemelisiniz. Yeni araştırmaya göre bu durum özellikle “AI kız arkadaşları” veya “AI erkek arkadaşları” için geçerli.
Mozilla Vakfı tarafından çarşamba günü yayınlanan 11 sözde aşk ve arkadaşlık sohbet robotu üzerinde yapılan bir analiz, botlarla ilgili bir dizi güvenlik ve gizlilik endişesi ortaya çıkardı. Toplu olarak, Android cihazlara 100 milyondan fazla kez indirilen uygulamalar, insanlardan büyük miktarda veri topluyor; Google’a, Facebook’a ve Rusya ve Çin’deki şirketlere bilgi gönderen izleyicileri kullanmak; kullanıcıların zayıf şifreler kullanmasına izin verin; Sahiplikleri ve onlara güç veren yapay zeka modelleri konusunda şeffaflıktan yoksunlar.
OpenAI, ChatGPT’yi Kasım 2022’de dünyaya sunduğundan beri geliştiriciler, büyük dil modellerini dağıtmak ve insanların etkileşimde bulunabileceği ve abone olmak için ödeme yapabileceği sohbet robotları oluşturmak için yarıştı. Mozilla araştırması, altına hücumun insanların mahremiyetini nasıl ihmal ettiğine ve gelişen teknolojiler ile bu teknolojilerin verileri nasıl toplayıp kullandıkları arasındaki gerilimlere bir bakış sunuyor. Ayrıca insanların sohbet mesajlarının bilgisayar korsanları tarafından nasıl kötüye kullanılabileceğini de gösterir.
Birçok “AI kız arkadaşı” veya romantik sohbet robotu hizmeti benzer görünüyor. Genellikle yapay zeka tarafından oluşturulan, cinselleştirilebilen veya kışkırtıcı mesajların yanında yer alabilen kadın görselleri yer alıyor. Mozilla’nın araştırmacıları, bazılarının “kız arkadaş” olduğu iddia edilen büyük ve küçük uygulamalar da dahil olmak üzere çeşitli sohbet robotlarını inceledi. Diğerleri insanlara arkadaşlık veya yakınlık yoluyla destek sunar veya rol yapma ve diğer fantezilere izin verir.
Analizi yürüten Mozilla’nın Gizlilik Dahil Değil ekibinin proje lideri Jen Caltrider, “Bu uygulamalar bir ton kişisel bilgi toplamak üzere tasarlandı” diyor. “Sizi rol oynamaya, çok fazla sekse, çok fazla yakınlığa, çok fazla paylaşmaya itiyorlar.” Örneğin, EVA AI sohbet robotunun ekran görüntülerinde “Bana fotoğraflarını ve sesini göndermeni seviyorum” yazan ve birisinin “tüm sırlarını ve arzularını paylaşmaya hazır” olup olmadığını soran bir metin gösteriliyor.
Caltrider, bu uygulamalar ve web siteleriyle ilgili birçok sorun olduğunu söylüyor. Caltrider, uygulamaların çoğunun üçüncü taraflarla hangi verileri paylaştığı, nerede bulundukları veya bunları kimin oluşturduğu konusunda net olmayabileceğini söylüyor ve bazılarının insanların zayıf şifreler oluşturmasına izin verdiğini, diğerlerinin ise kullandıkları yapay zeka hakkında çok az bilgi sağladığını ekliyor. kullanmak. Analiz edilen uygulamaların hepsinin farklı kullanım durumları ve zayıf yönleri vardı.
“Kendi yapay zeka kız arkadaşınızı yaratmanıza” olanak tanıyan bir hizmet olan Romantik Yapay Zeka’yı ele alalım. Ana sayfasındaki tanıtım görselleri, “Yeni iç çamaşırı aldım. Görmek ister misin?” Mozilla analizine göre uygulamanın gizlilik belgeleri, insanların verilerini satmayacağını söylüyor. Ancak araştırmacılar uygulamayı test ettiklerinde uygulamanın “bir dakikalık kullanımdan sonra 24.354 reklam izleyici gönderdiğini” buldular. Romantik AI, Mozilla’nın araştırmasında vurgulanan şirketlerin çoğu gibi, WIRED’in yorum talebine yanıt vermedi. İzlenen diğer uygulamalarda yüzlerce izleyici vardı.
Caltrider genel olarak uygulamaların hangi verileri paylaşabilecekleri veya satabilecekleri ya da bu bilgilerin bir kısmını tam olarak nasıl kullanacakları konusunda net olmadığını söylüyor. Caltrider, “Yasal belgeler belirsizdi, anlaşılması zordu ve çok spesifik değildi; standart şeylerdi” diyor ve bunun, insanların şirketlere olan güvenini azaltabileceğini ekliyor.