ABD Federal Ticaret Komisyonu, arkadaşlar gibi davranan – duyguları taklit etmek, güven inşa etmek ve arkadaşlar ya da sırdaşlar gibi etkileşime giren – bu sistemlerin çocukları ve gençleri nasıl etkilediğine dair endişeleri olan AI sohbet botlarına resmi bir soruşturma başlattı.
Perşembe günü açıklanan soruşturma, FTC’nin yasal otoritesini yedi büyük şirkete sipariş vermek için kullanıyor ve eşlik eden sohbet botlarının nasıl inşa edildiği, nasıl çalıştıkları ve genç kullanıcıları nasıl korudukları hakkında ayrıntılı açıklamalar arıyor.
FTC ne bilmek istiyor
Soruşturma, Alfabe, Meta, Openai, Snap, Instagram, X.Ai ve karakter teknolojileri gibi şirketlerden bilgi talep ediyor. FTC özellikle bu firmaların nasıl odaklanmasına odaklanıyor:
-
Sohbet botlarından, özellikle kullanıcı katılımının dolarlara dönüştürüldüğünü.
-
Kullanıcı girişlerini işleyin ve duygusal refahı etkileyebilecek yanıtlar oluşturun.
-
Chatbot “karakterleri” tasarlayın ve onaylayın, özellikle de yoldaş olarak sunulanlar.
-
Hem dağıtımdan önce hem de ürünün yaşam döngüsü boyunca çocuklar üzerindeki olumsuz etkileri ölçün ve izleyin.
-
Kullanıcılara ve ebeveynlere yönelik kitle, sınırlamalar, veri toplama, gizlilik riskleri ve özellikleri açıkça ifşa edin.
-
Kuralları ve politikaları (yaş sınırları, topluluk yönergeleri, Hizmet Şartları) ve kullanımı nasıl izlediklerini uygulamak.
-
Konuşmalar yoluyla toplanan kişisel bilgileri kullanın veya paylaşın.
Bu sorular neden önemli
AI “arkadaşlar” geleneksel sohbet botlarından farklıdır. Kişilerarası iletişimi taklit ettikleri için, genç kullanıcılar için sınırları bulanıklaştırabilecekleri endişe var. Çocuklar ve gençler duygusal bağlılık oluşturabilir, güven, tavsiye için sohbet botuna güvenebilir veya potansiyel riskleri gerçekleştirmeden hassas kişisel bilgileri paylaşabilirler.
FTC, bu araçların genellikle kullanıcıları – özellikle daha genç olanları – standart bir uygulama veya hizmetten daha fazla güvenmeye yönlendirebilecek arkadaşlar, sırdaşlar veya danışmanlar gibi iletişim kurmak için tasarlandığını belirtti.
Ayrıca mevcut yasalara uygunluk, özellikle de çocukların Çevrimiçi Gizlilik Koruma Yasası (COPPA). FTC, ilgili şirketlerin küçüklerin bu sohbet botlarına erişimini sınırlayıp sınırlamadığını veya kısıtlayıp kısıtlamadığını, ebeveyn onayı nasıl elde ettiklerini ve küçüklerden toplanan verilerin nasıl işlenmesini ve saklandığını nasıl sağladıklarını bilmek istiyor.
FTC, şirketleri henüz ihlal edilmemiş olsa bile, şirketleri ayrıntılı bilgi göndermeye zorlamak için Bölüm 6 (b) gücünü kullanıyor. Bu araç, ajansın sadece reaktif uygulama değil, geniş eğilimleri ve ürün tasarımını araştırmasına izin verir.
FTC tarafından uygulanan COPPA, şirketlerin 13 yaşın altındaki çocuklardan kişisel veri toplamadan önce doğrulanabilir ebeveyn onayı almasını gerektirir. Soruşturma, refakatçi sohbet botlarının genç kullanıcılarla etkileşime girerken COPPA’ya uyup uymadığını inceleyecektir.
Ayrıca Oku: Çocuklar AI chatbots kullanmalı mı? Google öyle düşünüyor, eleştirmenler kesinlikle katılmıyor
Şirketler ve Ürün Geliştiricileri için Müdür
Ürün ekipleri oluşturma arkadaşı AI sistemlerinin, modellerinin nasıl eğitildiğine dair net belgeler sağlaması gerekecektir – özellikle yanlış davranış (saldırgan veya yanıltıcı yanıtlar gibi), duygusal veya psikolojik içerik, konuşma günlüklerinin gizliliği ve hangi korkulukların bulunduğuna dair.
Şirketlerin yaş geçişlerini, kimlik doğrulamalarını veya ebeveyn açıklama uygulamalarını yeniden incelemeleri gerekebilir. Örneğin, reşit olmayanların yetişkinlere karşı kullanımı arasında ayrım yapmak, reşit olmayan kullanıcılar için belirli özellikleri sınırlamak veya devre dışı bırakma veya ebeveyn onay akışları sağlamak.
Şeffaflık, chatbotların nasıl pazarlandığı, insan duygularının nasıl taklit edildiği ve gizlilik risklerinin nasıl açıklandığı konusunda incelenecek.
Bu hareket, AI düzenlemesinin küresel olarak hızlandığı bir zamanda gelir. Birkaç yargı yetkisi, çevrimiçi bağlamlarda AI içeriği, veri gizliliği ve reşit olmayanların güvenliği için daha katı kuralları düşünmekte veya zaten uygulamaktadır. FTC soruşturması, ABD’nin sadece üretken modellerin değil, aynı zamanda bu modellerin savunmasız popülasyonlarla nasıl etkileşime girdiği daha agresif denetim ile davayı takip edebileceğini öne sürüyor.
Önceki FTC eylemlerinde, bot odaklı uygulamalar ve aldatıcı pazarlama iddiaları uygulanmayı tetiklemiştir. Burada yeni olan şey, refakatçi tarzı sohbet botlarının davranışsal ve psikolojik tasarım yönlerine odaklanmak-sadece veri toplama anlamında gizlilik değil, tasarımın kullanıcı güveni, bağımlılık ve duygusal refah üzerindeki etkisi.
Soruşturma ilerledikçe, tüketici güvenlik grupları, ebeveynler ve yasa koyucular, özellikle çocukların dahil olduğu yerlerde AI yoldaşlarına özgü daha açık yönergeler veya hatta düzenlemeler için zorlayacaktır. Sonuçlar, refakatçi sohbet botlarının nasıl inşa edildiğini, pazarlandığını ve düzenlendiğini ve potansiyel olarak AI’nın duygusal ve psikolojik boyutlarının nasıl yönetildiğine dair emsaller belirleyebilir.