Önemli bir veri maruziyeti, halka açık arama motoru sonuçlarında Elon Musk’un AI chatbotu GroK ile yüz binlerce özel kullanıcı konuşmasını ortaya koydu.
Platformun “Paylaş” özelliğinden kaynaklanan olay, görünüşte ilgili kullanıcıların bilgi veya açık rızası olmadan hassas kullanıcı verilerini özgürce çevrimiçi olarak erişilebilir hale getirdi.
Pozlama, GROK’ın Paylaş düğmesini kullanmanın belirli bir alıcı için bir bağlantı oluşturmaktan daha fazlasını yaptığı anlaşıldığında keşfedildi. Konuşma transkripti için herkese açık ve endekslenebilir bir URL oluşturdu.
Sonuç olarak, Google gibi arama motorları bu içeriği taradı ve dizine ekledi ve özel sohbetleri herkes tarafından aranabilir hale getirdi. Perşembe günü yapılan bir Google araması, sorunun ölçeğini doğruladı ve yaklaşık 300.000 endeksli GROK konuşmasını ortaya koydu ve teknoloji yayınlarının bazı raporları sayıyı 370.000’in üzerine çıkardı.
Maruz kalan sohbetlerin analizi, gizlilik ihlalinin ciddiyetini vurgular. BBC ve diğer çıkışlar tarafından görülen transkriptler arasında GROK’dan derin kişisel veya hassas bilgiler isteyen kullanıcılar vardı. Örnekler, güvenli şifreler ve ayrıntılı tıbbi sorular oluşturmaktan kilo kaybı yemeği planları geliştirmeye kadar değişmektedir.
CybersecurityNews ekibinin Google Dork sorgularını kullanarak analizi aracılığıyla, sorgu ile birden fazla sayfayı tanımlayabildik Site: https: //x.com/i/grok?.
Veriler ayrıca, kullanıcıların chatbot’un etik sınırlarını test ettiğini ve A Sınıfı bir ilacın nasıl üretileceğine dair ayrıntılı talimatlar içeren bir dizinli sohbet ile ortaya çıktı. Kullanıcı hesabı ayrıntıları anonimleştirilse de, istemlerin içeriği kişisel olarak tanımlanabilir veya son derece hassas bilgileri kolayca içerebilir.
Bu olay hızla gelişen AI manzarasında izole bir durum değildir. Chatgpt’in yaratıcısı Openai, son zamanlarda arama sonuçlarında paylaşılan konuşmalarla sonuçlanan bir deneyi tersine çevirdi.
Benzer şekilde, Meta, Meta AI Chatbot’un ortak konuşmalarının halka açık bir “Discover” beslemesinde toplandıktan sonra bu yılın başlarında eleştirilerle karşı karşıya kaldı. Bu tekrarlanan olaylar, kullanıcı gizliliğine göre özellik dağıtımına öncelik vermenin rahatsız edici bir modelinin altını çizmektedir.
Uzmanlar alarmı gösteriyor ve durumu veri korumasında kritik bir başarısızlık olarak tanımlıyor. Oxford İnternet Enstitüsü’nden Profesör Luc Rocher, BBC’ye, “AI Chatbots devam etmekte olan bir gizlilik felaketidir.” Dedi.
Sorunun özü şeffaflık eksikliğinde yatmaktadır. AI Oxford’un Etik Enstitüsü’nde doçent olan Dr. Carissa Véliz, kullanıcıların bir sohbet paylaşmanın bunu halka açık hale getireceği konusunda yeterince bilgilendirilmediklerini vurguladı. “Teknolojimiz bize verilerimizle ne yaptığını bile söylemiyor ve bu bir sorun” dedi.
Bu rapordan itibaren, GROK’ın ana şirketi X, konuyla ilgili kamuya açık bir yorum yayınlamamıştır.
Bu hikayeyi ilginç bul! Daha fazla güncelleme almak için bizi LinkedIn ve X’te takip edin.