Günümüzde kullanımda olan en büyük sosyal ağlardan bazılarına sahip olan şirket Meta, önümüzdeki AB Parlamentosu seçimleriyle ilgili dezenformasyonla nasıl mücadele edileceğini, yanıltmayı amaçlayan yapay zeka tarafından oluşturulan içeriği nasıl ele almayı planladığını özellikle vurgulayarak açıkladı. .
Dezenformasyonla ilişkili riskler
Bu yılın başlarında Dünya Ekonomik Forumu (WEF), önümüzdeki birkaç yıl içinde dünyanın karşı karşıya kalacağı en acil riskler listesinin başına yanlış bilgi ve dezenformasyonu koydu.
Bu değerlendirme, yapay zeka tarafından oluşturulan görseller, videolar ve metinlerle dezenformasyonu körüklemek için büyük dil modellerinin (LLM’ler) giderek daha fazla kullanılması gerçeğinden etkilenmiştir.
Diğer bir faktör ise, 2024 yılında dünya çapında 50’den fazla ülkede ulusal seçimler düzenlenecek olması ve yapay zeka destekli dezenformasyonun kamuoyunu değiştirmek ve seçim süreçlerini aksatmak için yaygın olarak kullanılmasının beklenmesiydi.
Bu sorun için tek veya kolay bir çözüm yok, özellikle de bazı çözümler uygunsuz bir şekilde silah haline getirilebildiği için. WEF, raporunda “Yetkililerin yanlış bilgilerin yayılmasına karşı önlem almaya çalışması nedeniyle baskı ve hakların erozyona uğraması riskinin yanı sıra eylemsizlikten kaynaklanan riskler de mevcut” ifadesine yer verdi. Küresel Riskler Raporu 2024.
Sosyal medyada dezenformasyon
Avrupa Komisyonu Başkan Yardımcısı Věra Jourová, Eylül 2023’te, büyük çevrimiçi platformlar tarafından çevrimiçi olarak dezenformasyon ve bilgi manipülasyonuna ilişkin raporların sonuçlarını paylaştıktan sonra şunları söyledi: “Yaklaşan ulusal seçimler ve AB seçimleri, AB için önemli bir sınav olacak. [Code of Practice on Disinformation] Platforma imza atanların başarısız olmaması gerekiyor.”
“Platformların, özellikle seçimler için oluşturdukları riskleri azaltmalarını gerektiren Dijital Hizmetler Yasası göz önüne alındığında, sorumluluklarını ciddiye almaları gerekecek” diye ekledi.
Birçok platform yıllardır nüfuz operasyonlarını, dezenformasyonu ve yanıltıcı içerikleri engellemeye yönelik çabaları hakkında raporlar yayınlıyor ancak çabalarını artırmaları gerektiği açıkça görülüyor.
Meta’nın dezenformasyonu engelleme ve yapay zeka tarafından oluşturulan içerik ve reklamları ele alma planları
Facebook, Instagram, WhatsApp ve yeni kurulan Threads’in sahibi Meta, AB Parlamentosu seçimlerine şu şekilde hazırlanıyor:
- Özel bir Seçim Operasyon Merkezi kurmak (potansiyel tehditleri gerçek zamanlı olarak tespit etmek ve azaltmak için istihbarat, araştırma, hukuk ve diğer uzmanlar tarafından yönetilen)
- AB çapında teyit kuruluşları ağını genişletiyor (26’dan fazla dilde içerik kapsıyor)
- Aldatmayı amaçlayan yapay zeka tarafından oluşturulan içeriğin belirlenmesi, etiketlenmesi, kaldırılması veya alt sıralarda yer alması
Meta’nın AB İşleri Başkanı Marco Pancini, “Yakın şiddete veya fiziksel zarara katkıda bulunabilecek veya oylamayı engellemeyi amaçlayan içerikler gibi en ciddi türdeki yanlış bilgileri Facebook, Instagram ve Threads’den kaldırıyoruz” dedi.
Bu belirli politikaları ihlal etmeyen, çürütülmüş içerik bir uyarı etiketi alır ve dağıtımı azaltılır. Pancini, “Bir gönderiye doğruluğu kontrol edilmiş bir etiket yerleştirildiğinde, insanların %95’i onu görüntülemek için tıklamıyor” diye ekledi ve aynı zamanda çürütülmüş içerik barındıran reklamlara da izin vermediklerini söyledi.
Devlet kontrolündeki medyadan gelen haberler bu şekilde etiketleniyor ve aldatıcı kampanyaların veya planlı etki operasyonlarının parçasıysa gönderilerinin sıralaması düşürülüyor.
Son olarak, yapay zeka tarafından oluşturulan içerik de teyitçiler tarafından incelenecek ve uygun şekilde etiketlenecek, kaldırılacak/izin verilmeyecek ve/veya sıralaması düşürülecek. (Afişler ayrıca ve gerekli olmak AI tarafından oluşturulan video veya sesi etiketlemek için.)
Pancini, “Meta AI kullanılarak oluşturulan fotogerçekçi görselleri zaten etiketliyoruz ve Google, OpenAI, Microsoft, Adobe, Midjourney ve Shutterstock’tan kullanıcıların Facebook, Instagram ve Threads’e gönderdiği AI tarafından oluşturulan görselleri etiketlemek için araçlar geliştiriyoruz” dedi.
“Yapay zeka tarafından oluşturulan içerik internette göründüğünden beri, sektörümüzdeki diğer şirketlerle de ortak standartlar ve yönergeler üzerinde çalışıyoruz. Bu iş herhangi bir şirketten daha büyük ve endüstrinin, hükümetin ve sivil toplumun çok büyük bir çaba harcamasını gerektirecek.”
Daha önce Meta, 2024’teki seçimlere hazırlanmak için benzer planlar paylaşmıştı; buna ABD seçim kampanyasının son haftasında yeni siyasi reklamların engellenmesi de dahil.
Diğer sosyal ağların dezenformasyonla mücadele planları
TikTok yakın zamanda 2024’teki Avrupa seçimlerine müdahale etmeyi amaçlayan dezenformasyonla mücadele planlarını da açıkladı.
“Gelecek ay, insanların gerçeği kurgudan kolayca ayırabilmesini sağlamak amacıyla 27 AB Üye Devletinin her biri için uygulama içi yerel dilde bir Seçim Merkezi başlatacağız. Yerel seçim komisyonları ve sivil toplum kuruluşlarıyla birlikte çalışan bu Seçim Merkezleri, topluluğumuzun güvenilir ve yetkili bilgileri bulabileceği bir yer olacak” dedi şirketin EMEA Güvenlik ve Dürüstlük Başkanı Kevin Morgan.
Meta gibi onlar da farklı Avrupa dillerindeki içerikleri kapsayan birçok doğrulama kuruluşuyla ortaklık kuruyor ve yanlış bilgilere karşı koymaya çalışıyorlar. Ayrıca platformlarında medya okuryazarlığı kampanyalarına yatırım yapmayı planlıyorlar ve seçimler sırasında faaliyet gösteren aldatıcı aktörleri tespit etmek ve engellemek için çalışacaklar.
Geçtiğimiz Eylül ayında Jourová, Elon Musk’a ait X’in (eski adıyla Twitter) “yanlış/dezenformasyon gönderilerinin en fazla olduğu platform” olduğunu belirtti.
X/Twitter artık Dezenformasyonla Mücadele Yasası’nın imzacıları arasında olmasa da AB Dijital Hizmetler Yasası’na uymak zorunda ve bunu yapmayı kabul etti.
Tony Anscombe, “Texonto Operasyonu ve diğer iyi kurgulanmış dezenformasyon kampanyaları ve oldukça ikna edici ses, video ve resim içeriği oluşturabilen yapay zeka modellerinin geniş çapta kullanılabilirliği sayesinde, bizi bekleyenin acı bir tadını şimdiden aldık” dedi. ESET’in Baş Güvenlik Evangelisti Meta’nın duyurusunu yorumladı.
“Her türden sosyal medya platformu, özellikle de Facebook, X ve TikTok, sahte içeriğin dağıtımında önemli bir rol oynayacak, dolayısıyla bu tür tehditleri tespit etmek ve bunlarla mücadele etmek için geç ama umarım çok geç değildir. Girişimi memnuniyetle karşılıyoruz ve zamanı gelince pratikte nasıl çalışacağına dair daha fazla bilgi almayı sabırsızlıkla bekliyoruz.”