Google, Avustralya yetkililerine, yaklaşık bir yıl boyunca küresel olarak 250’den fazla şikayet aldığını bildirdi.
Teknoloji devi ayrıca, Avustralya Esasat Komisyonu’na göre, AI programı Gemini’nin çocuk istismarı materyali oluşturmak için kullanıldığını uyaran düzinelerce kullanıcı raporu aldığını söyledi.
Avustralya yasalarına göre, teknoloji firmaları esasat komisyonuna periyodik olarak zarar azaltma çabaları veya risk para cezaları hakkında bilgi vermelidir.
Raporlama dönemi 2023 Nisan – Şubat 2024 tarihli.
Openai’nin chatgpt 2022’nin sonlarında kamu bilincine patladığından, dünyanın dört bir yanındaki düzenleyiciler daha iyi korkuluklar çağrısında bulundular, bu nedenle AI terörizm, sahtekarlık, derin derin pornografi ve diğer istismar sağlamak için kullanılamaz.
Avustralya Esaset Komisyonu, Google’ın kullanıcıların zararlı ve yasadışı içerik üretmek için teknolojiyi nasıl kullanabileceğine dair “dünya ilk içgörü” açıklamasını çağırdı.
Esasetis Komiseri Julie Inman Grant yaptığı açıklamada, “Bu, AI ürünleri geliştiren şirketlerin bu tür materyallerin üretilmesini önlemek için korumaların etkinliğini inşa etmesinin ve test etmelerinin ne kadar kritik olduğunu vurguluyor.” Dedi.
Raporunda Google, İkizler kullanılarak yapılan şüpheli AI tarafından üretilen Deepfake teröristi veya şiddet içeren aşırılık yanlısı içerik ve AI tarafından üretilen çocuk sömürüsü veya istismar materyali iddiasıyla 86 kullanıcı raporu hakkında 258 kullanıcı raporu aldığını söyledi.
Regülatöre göre, şikayetlerin kaçının doğrulandığını söylemedi.
Google, Gemini ile yapılan çocuk istismarı materyallerini tanımlamak ve kaldırmak için yeni yüklenmiş görüntüleri zaten bilinen görüntülerle otomatik olarak eşleştiren bir sistem olanat eşleştirme kullandı.
Ancak regülatör, terörist veya İkizler ile üretilen şiddet içeren aşırılık yanlısı materyalleri ayıklamak için aynı sistemi kullanmadığını da sözlerine ekledi.
Regülatör, raporlarında eksiklikler olarak adlandırdığı için X olarak yeniden adlandırılan Telegram ve Twitter’a para cezasına çarptırıldı.
X, 610.500 $ ‘lık para cezası hakkında bir çekiciliği kaybetti, ancak tekrar itiraz etmeyi planlıyor. Telegram da para cezasına çarptırılmayı planlıyor.