Oyuncak şirketi Mattel, AI-güçlü oyuncaklar oluşturmak için Openai ile bir anlaşma duyurdu, ancak dijital haklar savunucuları dikkat çekti.
Geçen hafta bir basın açıklamasında, Barbie markasının sahibi, ChatGpt’in sahibi olan AI şirketi ile “stratejik işbirliği” imzaladı. “Openai’nin teknolojisini kullanarak Mattel, AI’nin büyüsünü yenilik, gizlilik ve güvenliğe vurgu yaparak yaşa uygun oyun deneyimlerine getirecek” dedi.
Neyin ortaya çıkabileceğine dair ayrıntılar kıttı, ancak Mattel sadece yeni teknolojileri “güvenli, düşünceli ve sorumlu bir şekilde” ürünlerine entegre ettiğini söyledi.
Savunuculuk grupları hareketi kınamak için hızlıydı. Kamu Hakları Savunuculuğu Grubu Kamu Vatandaşının Başkanı Robert Weissman şunları söyledi:
“Mattel, AI teknolojisini çocuk oyuncaklarına dahil etmeyeceğini hemen duyurmalıdır. Çocuklar, gerçeklik ve oyun arasında tamamen ayrım yapma bilişsel kapasitesine sahip değildir.
İnsan benzeri konuşmalara girebilen insana görünen seslerle oyuncaklara sahip olmak, çocuklara gerçek hasar veren riskler. Sosyal gelişimi zayıflatabilir, çocukların akran ilişkileri kurma, çocukları akranlarla oyun zamanından uzaklaştırma ve muhtemelen uzun vadeli zarar verebilir. ”
Çocuklar iyi değil
Bazıları AI’nın genç gelişmekte olan zihinler üzerindeki etkisinden endişe duymaktadır. Harvard ve Carnegie Mellon da dahil olmak üzere üniversitelerden araştırmacılar, olumsuz sosyal etkiler konusunda uyardı ve çocukların insan benzeri özelliklerini AI’ya atfetme eğilimi.
Böyle bir çocuk, 14 yaşındaki Sewell Seltzer III, kullanıcıların kendi AI karakterlerini oluşturmalarına izin veren Charter.ai’den Chatbots ile tekrar tekrar konuştuktan sonra kendi hayatını aldı.
Şirkete yönelik bir davada, annesi Megan Garcia, hizmeti kullandıktan sonra uykuyu nasıl kaybetmeye ve daha depresif büyümeye nasıl başladığını, sınıfta uykuya daldığı noktaya kadar anlattı. Bir terapist ona anksiyete ve yıkıcı ruh hali bozukluğu tanısı koydu. Onunla gerçek bir romantik ilişki içinde olduğu iddia edilen Game of Thrones’dan yetişkin bir karakteri temsil eden bir AI ile takıntılı olduğu ortaya çıktı.
Geçmiş Hatalar
Mattel’in bu tür faaliyetleri göz ardı edeceğini öne sürmüyoruz. “Ebeveynlerden ve ailelerden 80 yıldan fazla kazanılan güven” belirtiyor, ancak bu ifade önceki yanlış adımlar üzerinde parlıyor.
Bunlar arasında Merhaba Barbie. Mattel, 2015 yılında bu Wi-Fi Connection Bebek’i başlattı ve çocukları onunla konuşmaya teşvik etti. Çocuklar ve aileleri hakkında kişisel sorular sordu, bu sesi yanıt vermek için AI kullanan üçüncü taraf bir şirkete gönderdi. Çocukları uygunsuz teknoloji ve marka pazarlamasından korumayı savunan kar amacı gütmeyen Grup Fairplay, çocuk gözetimini protesto eden bir kampanya başlattı. Daha sonra, müfettişler davetsiz misafirlerin bu sese kulak misafiri olmasına izin verecek güvenlik açıkları buldular. Mattel, 2017 yılında oyuncak raflardan çekti.
Fairplay yöneticisi Josh Golin, Openai Ortaklığı duyurusunu çarptı.
“Görünüşe göre Mattel, on yıl önce ürpertici gözetim bebek merhaba Barbie’nin başarısızlığından hiçbir şey öğrenmedi ve şimdi çocukların gizliliği, güvenlik ve refahına yönelik tehditlerini artırıyor.
Çocukların yaratıcılığı, oyuncakları ve oyunları AI değil, kendi hayal güçleriyle güçlendirildiğinde gelişir. Ve ne sıklıkta ‘halüsinasyon’ veya zararlı tavsiyeler verildiğinde, Mattel ve Openai’nin ‘korkuluklarının’ çocukları gerçekten güvende tutacağına inanmak için hiçbir neden yok. ”
Mattel’in kaybettiği bir başka olay, bir ambalaj hatası, bir ambalaj hatası ‘kötü’ bebeğinin sahiplerini, kötü film için bir tanıtım açılış sayfası yerine yetişkin bir film web sitesine (kötü resimler) gönderdiğinde geri döndü.
Bunun gibi olaylar, dünyanın en iyi niyetleriyle bile şirketlerin hata yapabileceğini göstermektedir.
Nihayetinde, çocuklarını AI destekli oyuncaklara maruz bırakıp açmayacakları konusunda kararlar vermek ebeveynlere bağlıdır. AI’nın hayatımızın her köşesine ulaşması belki de kaçınılmazdır, ancak çocuklarımızda kullanılacak kadar hazır ve cilalı mı?
Sadece tehditler hakkında rapor vermiyoruz, onları kaldırıyoruz
Siber güvenlik riskleri asla bir başlığın ötesine yayılmamalıdır. Bugün MalwareBebytes’i indirerek tehditleri cihazlarınızdan uzak tutun.