Google’ın 13 yaşın altındaki çocuklara yapay zeka destekli İkizler Chatbot’un sessiz bir şekilde piyasaya sürülmesi yoğun bir tartışmaya yol açtı ya da gizlilik ve çocuk savunuculuk gruplarından geri tepme söylemeliyim. Eleştirmenler, hareketin sadece etik endişeleri arttırmakla kalmayıp aynı zamanda ABD yasalarını, özellikle de Çocukların Çevrimiçi Gizlilik Koruma Yasası’nı (COPPA) ihlal edebileceğini savunuyorlar.
Tartışmanın özünde, Google’ın aile bağlantı programı aracılığıyla yönetilen denetimli hesapları olan çocukların, hikayeler, şarkılar, şiir ve ödev konusunda yardım yaratabilen üretken bir AI chatbotu olan Gemini’ye erişmesine izin verme kararı var.
Google bunu çocuklar için eğitim ve yaratıcı bir araç olarak çerçevelerken, ebeveyn gruplarının artan bir ittifakı bunu potansiyel bir gizlilik sorunu ve çocukların zihinsel refahı için bir tehdit olarak görüyor.
Ebeveynler e -postalar alır – kaygıyı artırır
Google, Aile bağlantısını kullanarak ebeveynlere e -posta gönderdikten ve çocuklarının İkizler’e erişebileceğini bildirdikten sonra sorun ortaya çıktı. Chatbot, web ve mobil uygulamalar aracılığıyla kullanılabilir ve ebeveynler erişimi devre dışı bırakma seçeneğine sahipken, varsayılan ayar kullanıma izin verir. Eleştirmenler, bu devre dışı bırakma modelinin, COPPA’nın temel bir gereksinimini atladığını savunuyor: doğrulanabilir ebeveyn onayı.
Backlas anında ve yüksek sesle. Elektronik Gizlilik Bilgi Merkezi (EPIC) ve Fairplay liderliğindeki geniş bir koalisyon, hem Federal Ticaret Komisyonu’na (FTC) hem de Google CEO’su Sundar Pichai’ye mektupları başlattı ve sunumun hemen durmasını talep etti. FTC’yi Google’ın federal gizlilik yasasını ihlal edip etmediğini araştırmaya çağırdı.
Fairplay genel müdürü Josh Golin, “Google’da bu tehlikeli ve bağımlılık teknolojisini çocuklarımızda serbest bırakmaya çalıştığı için utanç” dedi. “İkizler ve diğer AI botları, çocukların ruh sağlığı ve sosyal gelişimi için ciddi bir tehdittir.”
Çocuklar için İkizler AI: Risk Nedir?
İkizler zararsız ve hatta faydalı görünebilir. Bir insan gibi konuşur, soruları cevaplar ve çocukları hikayeler veya şarkılarla eğlendirir. Ancak endişeler daha derine iniyor.
Ebeveyn grupları, çocukların AI sistemlerinden manipülasyon ve yanlış bilgilendirmeye karşı özellikle savunmasız oldukları konusunda uyarıyor. Üretken AI her zaman gerçek cevaplar vermez ve insan benzeri iletişim tarzı, genç kullanıcıları çocukların sohbet botuna arkadaş veya sırdaş olarak davrandığı parasosyal ilişkiler kurmaya yönlendirebilir. Bu duygusal bağımlılığı teşvik edebilir ve gerçeklik ve simülasyon arasındaki çizgiyi bulanıklaştırabilir.
Buna ek olarak, Gemini’nin yanlışlıklar ve hassas içerik hakkındaki uyarıları derinden rahatsız edicidir. Google’ın kendisi belgelerde İkizler’in “hata yapabileceğini” ve “istemediğiniz içerikle karşılaşabileceğini itiraf ediyor [your child] görmek için.” Yine de, bu sorunları düzeltmek veya sunumu durdurmak yerine, şirket sorumluluğu ebeveynlere kaydırıyor ve çocuklarına Gemini’nin yanıtları hakkında “eleştirel düşünmeyi” öğrettiklerini gösteriyor.
Bu zor bir soru, özellikle de söz konusu kullanıcılar 13 yaşın altındayken. Küçük çocukların insan konuşmasını taklit eden bir AI sisteminden önyargı, yanlış bilgi veya duygusal manipülasyonu tanımasını beklemek ne kadar gerçekçi?
Yasa ne diyor?
Çocuk Çevrimiçi Gizlilik Koruma Yasası (COPPA) uyarınca, 13 yaşın altındaki çocuklardan kişisel veri toplayan herhangi bir çevrimiçi hizmet, bunu yapmadan önce doğrulanabilir ebeveyn onayı almalıdır. Epic ve FairPlay’e göre, Google, varsayılan olarak erişimi etkinleştirdikten sonra ebeveynleri bilgilendirerek bu gereksinimi azaltmış gibi görünüyor.
E -postasında Google, ebeveynlere çocuklarının İkizler kullanıyorsa bildirileceklerini ve istedikleri takdirde erişimi devre dışı bırakabileceklerini söyler. Ancak devre dışı bırakma modeli COPPA altında yeterli değildir. Yasa, pasif onay değil, proaktif onay gerektirir.
Yeni atanan FTC Başkanı Andrew Ferguson bunu son kongre ifadesinde vurguladı. “Çocukları ve gençleri çevrimiçi olarak korumak çok önemlidir” diye yazdı COPPA, şirketlerin çocuklardan veri toplamadan önce net bir rıza almasını zorunlu kıldığını da sözlerine ekledi.
Ferguson’un yorumları, FTC’nin Google gibi şirketleri, özellikle bu kamu baskısı ışığında ilerlemek gibi araştırmaya daha istekli olabileceğini gösteriyor.
Google’ın Savunması: Yeterli değil mi?
Şimdiye kadar Google, çocuk verilerinin AI modellerini eğitmek için kullanılmayacağını vurgulayarak hareketini savunmaya çalıştı. Şirket ayrıca AI hakkında ebeveyn kontrollerine ve eğitim kaynaklarına işaret etmektedir.
Ancak eleştirmenler bu önlemlerin yetersiz kaldığını söylüyor. Şirket, çocukların duygusal refahını korumak, önyargıya karşı korumak veya gizlilik hukukuna uyumu sağlamak için başka ne korumaların mevcut olduğunu açıklamamıştır.
FTC’ye gönderilen mektubun özellikle lanet olası bir bölümünde Epic ve Fairplay, “Google’ın bu etkileşimlerle toplanan verileri kötüye kullanmamasını sağlamak için ek önlemler tanımlamadığını” savunuyor.
Epic danışmanı Suzanne Bernstein, “Google ürünlerini çocuklara pazarlamak istiyorsa, ürünün güvenli ve gelişimsel olarak uygun olmasını sağlamak Google’ın sorumluluğundadır” dedi. “Yapmadığı.”
Sorumluluğu ebeveynlere mi kaydırıyor?
Google’ın sunumunun en tartışmalı yönlerinden biri, güvenlik yükünü nasıl çerçevelediğidir. Google, AI çocuğunu güvence altına almak için tam sorumluluk almak yerine, ebeveynler için erişimi yönetme ve çocukların AI yanıtlarını yönlendirmelerine yardımcı olma konusunda nasıl yapılır kılavuzu sunar.
Ebeveyn katılımı inkar edilemez bir şekilde çok önemli olsa da, eleştirmenler bunun teknoloji şirketleri tarafından bir kalkan olarak kullanılmaması gerektiğini savunuyorlar. Riskleri en iyi anlayan ve kârları elde eden AI sistemlerinin geliştiricileri, teknolojinin çocukların eline geçmeden önce güvenli olmasını sağlamak için sorumlu tutulmalıdır.
Dövüşü kim yönetiyor?
Geniş bir kuruluş ittifakı, Google’ın kararına karşı geri dönmek için güçlerini birleştirdi. Bu, ABD Kamu Yararı Araştırma Grubu (PIRG), endişeli nesil kampanyasını, bizim için tasarlamayı, yeme bozuklukları koalisyonunu ve teknoloji şeffaflık projesini de dahildir.
Kampanya ayrıca ağır akademik desteğe sahip. Mektubun imzacıları arasında tanınmış bir sosyal psikolog olan Jonathan Haidt, MIT Profesör Sherry Turkle ve Fordham Hukuk Profesörü Zephyr Teachout yer alıyor.
Mesajları açıktır: AI chatbots küçük çocuklar için gelişimsel olarak uygun değildir ve bilim aksini söyleyene kadar Big Tech onları uzak tutmalıdır.
Sırada ne olacak?
FTC, Google’ın çocuklar için Gemini’nin piyasaya sürülmesiyle ilgili resmi bir soruşturma açıp açmayacağını henüz açıklamadı. Ancak sorun hem politika yapıcılar hem de halk arasında önemli bir çekiş kazandı.
Başkan Ferguson’un çocukların gizliliği ve Google’ın kararına karşı uzman görüşünün ağırlığı konusundaki öncelikleri göz önüne alındığında, teknoloji devi önümüzdeki haftalarda düzenleyici incelemeyle karşılaşabilir.
Bu arada, birçok ebeveyn merak ediyor olabilir: Çocuklarının gelişimi ile bir AI sohbet botuna güvenmeli mi?
Google’ın çocuklar için İkizler ile ilerleme kararı, çok sayıda cevaplanmamış soru ve uyarıya rağmen, AI pazarına hakim olma yarışında, risklerin en savunmasız kullanıcıların refahını içerdiğinde bile rüzgara dikkat çekildiğini göstermektedir.
İlgili
Medya Feragatnamesi: Bu rapor, çeşitli yollarla elde edilen iç ve dış araştırmalara dayanmaktadır. Sağlanan bilgiler yalnızca referans amaçlıdır ve kullanıcılar buna güvenmeleri için tam sorumluluk taşırlar. Cyber Express, bu bilgileri kullanmanın doğruluğu veya sonuçları konusunda hiçbir sorumluluk kabul etmez.