İtalyan veri koruma gözlemcisi, Kişisel Verilerin Korunması için Garantör (Garantör olarak da bilinir), veri koruma endişelerini gerekçe göstererek OpenAI’nin ChatGPT hizmetini ülkede geçici olarak yasakladı.
Bu amaçla şirkete, AB Genel Veri Koruma Yönetmeliği (GDPR) yasalarını ihlal ederek bu tür verileri yasa dışı bir şekilde işleyip işlemediğini araştırmak istediğini belirterek, şirkete kullanıcıların verilerini işlemeyi derhal durdurması talimatını verdi.
Garante, “Verileri Open AI tarafından toplanan kullanıcılara ve veri sahiplerine hiçbir bilgi sağlanmıyor” dedi. “Daha da önemlisi, platformun dayandığı algoritmaları ‘eğitmek’ için kişisel verilerin büyük çapta toplanmasını ve işlenmesini destekleyen hiçbir yasal dayanak yok gibi görünüyor.”
Geçen yılın sonlarında kullanıma sunulduğundan bu yana aylık 100 milyondan fazla aktif kullanıcıya ulaştığı tahmin edilen ChatGPT, en son büyük dil modeli (LLM) GPT-4’ü eğitmek için ne kullandığını veya onu nasıl eğittiğini açıklamadı.
Bununla birlikte, selefi GPT-3, kitaplardan, Wikipedia’dan ve Common Crawl’dan alınan metinleri kullanır; ikincisi, “herkes tarafından erişilebilen ve analiz edilebilen açık bir web tarama verileri deposunu” korur.
Garante ayrıca, reşit olmayanların hizmete erişmesini engelleyecek ve potansiyel olarak onları “uygunsuz” yanıtlara maruz bırakacak herhangi bir yaş doğrulama sisteminin bulunmadığına da işaret etti. Google’ın Bard adlı kendi chatbot’u yalnızca 18 yaşından büyük kullanıcılara açıktır.
Buna ek olarak düzenleyici kurum, ChatGPT tarafından ortaya çıkarılan bilgilerin doğruluğu hakkında sorular yöneltirken, hizmetin bu ayın başlarında yaşadığı ve bazı kullanıcıların sohbet başlıklarını ve ödemeyle ilgili bilgileri ifşa eden bir veri ihlaline dikkat çekti.
Siparişe yanıt olarak OpenAI, engellendi Üretken yapay zeka sohbet robotunun bir İtalyan IP adresine sahip kullanıcılar tarafından erişilmesini engelliyor. Ayrıca, abonelik yenilemelerini duraklatmanın yanı sıra ChatGPT Plus abonelerine geri ödeme yapacağını da söyledi.
San Francisco merkezli şirket, ChatGPT’yi GDPR ve diğer gizlilik yasalarına uygun olarak sağladığını ayrıca vurguladı. ChatGPT zaten Çin, İran, Kuzey Kore ve Rusya’da engellenmiştir.
Reuters ile paylaşılan bir açıklamada OpenAI, “ChatGPT gibi yapay zeka sistemlerimizi eğitirken kişisel verileri azaltmak için aktif olarak çalıştığını çünkü yapay zekamızın özel kişiler hakkında değil, dünya hakkında öğrenmesini istiyoruz” dedi.
OpenAI’nin uyumlu hale getirmek için aldığı önlemleri Garante’ye bildirmek için 20 günü vardır veya hangisi daha yüksekse, 20 milyon Euro’ya veya dünya çapındaki toplam yıllık cironun %4’üne varan para cezalarıyla karşı karşıya kalma riskini alır.
Ancak yasağın, Microsoft’un Bing arama motoru ve Copilot teklifleri de dahil olmak üzere hizmetlerini artırmak için OpenAI teknolojisini kullanan diğer şirketlerin uygulamalarını etkilemesi beklenmiyor.
Bir Olay Müdahale Uzmanı Olun!
Kurşun geçirmez olay müdahalesinin sırlarını ortaya çıkarın – Cynet’in IR Lideri Asaf Perlman ile 6 Aşamalı süreçte ustalaşın!
Fırsatı Kaçırmayın – Koltuğunuzu Kaydedin!
Gelişme, Europol’ün ChatGPT gibi LLM’lerin muhtemelen kötü amaçlı kod üretmeye yardımcı olacağı, dolandırıcılığı kolaylaştıracağı ve “mesajlara bağlam içinde yanıt verme ve belirli bir yazıyı benimseme yetenekleri göz önüne alındığında, özellikle sosyal mühendisliği içeren suçlar için suçlulara yeni fırsatlar sunacağı” konusunda uyarmasıyla geldi. stil.”
Bu, yapay zeka odaklı şirketlerin ilk kez gözden kaçırıldığı bir durum değil. Geçen yıl, tartışmalı yüz tanıma firması Clearview AI, kimlik eşleştirme hizmetini eğitmek için kullanıcıların herkese açık fotoğraflarını izinsiz olarak çaldığı için çok sayıda Avrupalı düzenleyici tarafından para cezasına çarptırıldı.
Ayrıca Avustralya, Kanada ve ABD’deki gizlilik yasalarıyla da ters düştü ve birkaç ülke şirkete bu şekilde elde ettiği tüm verileri silmesini emretti.
Clearview AI geçen hafta BBC News’e, yüz izi veri tabanını ülke içinde satması kalıcı olarak yasaklanmış olmasına rağmen ABD kolluk kuvvetleri için yaklaşık bir milyon arama yaptığını söyledi.