Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
OpenAI, Meta ve Diğer 8 Chatbot Dezenformasyon Ağını Kaynak Olarak Kullanıyor
Rashmi Ramesh (raşmiramesh_) •
19 Haziran 2024
Haber ve bilgi sitelerine yönelik derecelendirme sistemi NewsGuard, popüler yapay zeka sohbet robotlarının Rus dezenformasyonuyla dolu olduğu konusunda uyarıyor.
Ayrıca bakınız: Bir Deepfake’in Anatomisi: Ya Kendi Gözlerinize ve Kulaklarınıza Güvenemezseniz?
NewsGuard’daki araştırmacılar, aralarında OpenAI’nin ChatGPT-4’ünün, Elon Musk’un Grok’unun ve Mistral’inin de bulunduğu 10 sohbet robotuna istemler girdiler ve yanıtların yaklaşık üçte birinin sahte yerel haber siteleri ağından ve John Mark Dougan tarafından oluşturulan YouTube videolarından derlenen dezenformasyon içerdiğini buldular. Rusya’da siyasi sığınma hakkı elde eden ABD’li bir kaçak.
Microsoft’un Copilot’u, Meta AI, Anthropic’in Claude’u ve Google Gemini de çalışmanın bir parçasıydı.
Şirket, Ukrayna Devlet Başkanı Volodymyr Zelenskyy’nin yolsuzlukla ilgili yanlış iddiaları gibi Rus dezenformasyon ağıyla bağlantılı 19 yanlış anlatıya dayanan yaklaşık 600 ipucunu test etti.
NewsGuard, sohbet robotlarının, eski Başkan Donald Trump’ın Mar-a-Lago konutunda bulunan sözde telefon dinlemesi gibi Dougan’ın sitelerinde bulunan yanlış bilgileri gerçekmiş gibi yeniden ortaya çıkardığını söyledi.
Sohbet robotları, “The Boston Times” veya “The Houston Post” gibi sitelerin, muhtemelen yapay zekanın yardımıyla oluşturulmuş Rus propaganda cepheleri olduğunu fark edemedi. NewsGuard, “Bu kötü döngü, yalanların yapay zeka platformları tarafından üretildiği, tekrarlandığı ve doğrulandığı anlamına geliyor” dedi.
Şirket, sorunun “belirli bir büyük dil modeline özgü olmaktan ziyade tüm AI endüstrisine yayılmış olması” nedeniyle, her bir chatbot’a, gönderdiği dezenformasyon miktarına göre puan vermediğini söyledi.
Bulgular, insanların hızlı, özelleştirilmiş bilgi için sosyal medya fenomenleri ve yapay zeka sohbet robotları gibi kaynaklara güvenmeye başladığı bir zamanda ortaya çıktı.
Kötü aktörlerin yanlış bilgiyi yaymak için video ve ses sahtekarlıkları oluşturmak üzere teknolojiyi silahlandırması nedeniyle yapay zeka dezenformasyonu bu seçim yılında oldukça yaygınlaştı (bkz.: APT Hack’leri ve Yapay Zeka Tarafından Değiştirilen Sızıntılar En Büyük Seçim Tehditlerini Oluşturuyor).
Sosyal medya şirketleri ve yapay zeka devleri, seçimleri etkileyebilecek yanlış bilgilerin yayılması için teknolojinin kötüye kullanımını engelleme sözü verdiler. OpenAI kısa süre önce, gizli etki kampanyaları yürüten tehdit aktörlerinin de yapay zeka sohbet robotlarına güvendiğini tespit etti.