Birleşik Krallık veri gözlemcisi, üretken yapay zekadaki veri koruma risklerinin göz ardı edilmemesi konusunda uyardı ve bu tür ürünlerin kamuya açıklanmasından önce bu sorunların çözülmesini önerdi.
Uyarı, Birleşik Krallık Bilgi Komiserliği Ofisi’nin (ICO) Snap, Inc.’in ‘Benim Yapay Zekam’ sohbet robotunu piyasaya sürmesine ilişkin soruşturmasının sonuçlanmasının ardından geldi. Soruşturma, şirketin veri koruma risklerini değerlendirme yaklaşımına odaklandı. ICO’nun ilk eylemleri, üretken yapay zeka alanında gizlilik haklarını korumanın öneminin altını çiziyor.
Haziran 2023’te ICO, şirketin en son chatbot entegrasyonuyla ilişkili veri koruma risklerini doğru değerlendirmeye ilişkin yasal yükümlülüklerini yerine getirmediği yönündeki endişelerin ardından Snapchat’in “Benim Yapay Zekam” sohbet robotunu araştırmaya başladı.
My AI, günlük ortalama 4,75 milyar Snap paylaşan 414 milyon aktif kullanıcısı olan Snapchat uygulamasına yerleştirilmiş deneysel bir sohbet robotuydu. My AI botu, soruları yanıtlamak, önerilerde bulunmak ve kullanıcılarla sohbet etmek için OpenAI’nin GPT teknolojisini kullanıyor. Yazılan veya konuşulan bilgilere yanıt verebilir ve ayrıntıları bulmak ve bir yanıt oluşturmak için veritabanlarında arama yapabilir.
Başlangıçta 27 Şubat 2023’ten bu yana Snapchat+ abonelerinin kullanımına sunulan “My AI”, daha sonra 19 Nisan’da tüm Snapchat kullanıcılarının kullanımına sunuldu.
ICO, 6 Ekim’de Snap’e, 13 ila 17 yaş arası çocuklar da dahil olmak üzere Birleşik Krallık’taki birkaç milyon “Benim Yapay Zekam” kullanıcısına yönelik gizlilik risklerini değerlendirmede “olası başarısızlık” nedeniyle bir Ön Uygulama Bildirimi yayınladı.
O dönemde Bilgiden Sorumlu Komisyon Üyesi John Edwards, “Araştırmamızın geçici bulguları, Snap’in My AI’yi başlatmadan önce çocuklara ve diğer kullanıcılara yönelik gizlilik risklerini yeterince tanımlayıp değerlendirmede endişe verici bir başarısızlığa işaret ettiğini gösteriyor” dedi.
“Kuruluşların yapay zekanın faydalarının yanı sıra risklerini de dikkate alması gerektiği konusunda açıktık. Bugünkü ön uygulama bildirimi, Birleşik Krallık’taki tüketicilerin gizlilik haklarını korumak için harekete geçeceğimizi gösteriyor.”
Bunu takip eden ICO soruşturmasına dayanarak Snap, ‘Benim Yapay Zekam’ için daha kapsamlı bir risk değerlendirmesi gerçekleştirmek üzere önemli önlemler aldı. Snap, ICO’ya uygun azaltım önlemleri uyguladığını gösterdi.
“ICO, Snap’in artık My AI ile ilgili olarak veri koruma yasasına uygun bir risk değerlendirmesi yapmış olmasından memnun. Veri gözlemcisi, ICO’nun My AI’nin kullanıma sunulmasını ve ortaya çıkan risklerin nasıl ele alındığını izlemeye devam edeceğini söyledi.
Snapchat şunu açıkça ifade etti: “Yapay zekam, sağladığı bilgilerin zararlı olmaması için belirli yönergelere uyacak şekilde programlanmış olsa da (şiddet içeren, nefret dolu, cinsel içerikli veya başka şekilde tehlikeli yanıtlardan kaçınmak ve zararlı önyargıları sürdürmekten kaçınmak dahil), her zaman başarılı olmayabilir.”
Sosyal medya platformu, orijinal Snapchat uygulamasında olduğu gibi, “uyuşturucu” gibi belirli anahtar kelimeler için sonuçların engellenmesi gibi entegre koruma önlemleri ve araçlara sahiptir. Şirket, “Ayrıca Aile Merkezimize, My AI etrafındaki, ebeveynlere gençlerin My AI kullanımı konusunda daha fazla görünürlük ve kontrol sağlayacak ek araçlar eklemek için çalışıyoruz” dedi.
‘Benim Yapay Zekam’ Soruşturması Uyarı Çanlarını Çalıyor
ICO Düzenleyici Risk İcra Direktörü Stephen Almond şunları söyledi: “’Benim Yapay Zekam’ hakkındaki araştırmamız sektör için bir uyarı atışı görevi görmelidir. Üretken yapay zekayı geliştiren veya kullanan kuruluşlar, ürünleri pazara sunmadan önce insanların haklarına ve özgürlüklerine yönelik risklerin titizlikle değerlendirilmesi ve azaltılması da dahil olmak üzere, veri korumayı en başından itibaren dikkate almalıdır.”
“Kuruluşların risk değerlendirmelerini izlemeye devam edeceğiz ve halkı zarardan korumak için para cezaları da dahil olmak üzere uygulama yetkilerimizin tamamını kullanacağız.”
Üretken yapay zeka, veri koruma yasalarının üretken yapay zeka modellerinin geliştirilmesi ve kullanımına nasıl uygulanacağını açıklığa kavuşturmak için çeşitli istişareler başlatan ICO için birinci öncelik olmaya devam ediyor. Bu çaba, ICO’nun veri koruma ve yapay zeka konusundaki kapsamlı rehberliğine dayanmaktadır.
ICO’nun Snap’in ‘Benim Yapay Zekam’ sohbet robotuna ilişkin araştırması, üretken yapay zeka teknolojilerinin geliştirilmesi ve devreye alınmasında kapsamlı veri koruma risk değerlendirmelerine yönelik kritik ihtiyacın altını çiziyor. Kuruluşlar, bireylerin veri gizliliğini ve koruma haklarını korumak için en başından itibaren veri korumayı dikkate almalıdır.
Komisyon Üyesinin Snap’in ‘Benim Yapay Zekam’ sohbet robotuna ilişkin nihai kararı önümüzdeki haftalarda yayınlanacak.
Medya Yasal Uyarısı: Bu rapor, çeşitli yollarla elde edilen iç ve dış araştırmalara dayanmaktadır. Sağlanan bilgiler yalnızca referans amaçlıdır ve bu bilgilere güvenme konusunda tüm sorumluluk kullanıcılara aittir. Cyber Express bu bilgilerin kullanılmasının doğruluğu veya sonuçları konusunda hiçbir sorumluluk kabul etmez.