Meta’nın Gözetim Kurulu, hatalı bir şekilde ABD Başkanı Joe Biden’ın sübyancı olduğunu öne süren bir Facebook videosunun şirketin mevcut kurallarını ihlal etmediğini, bu kuralları “tutarsız” olarak nitelendirdiğini ve yapay zeka tarafından oluşturulan içeriğe çok dar bir şekilde odaklandığını tespit etti.
Meta tarafından finanse edilen ancak bağımsız olarak yönetilen kurul, Ekim ayında Biden’ın video davasını, Meta’nın amiral gemisi sosyal ağında yayınlanan başkanın değiştirilmiş yedi saniyelik videosuyla ilgili kullanıcı şikayetine yanıt olarak ele aldı.
Karar, yeni yapay zeka teknolojilerinin bu yılki seçimleri etkileme potansiyeline ilişkin artan endişeler arasında, Meta’nın bazı türde oynanmış videoları yasaklayan “manipüle edilmiş medya” politikasını ele alan ilk karar oldu.
Kurul, politikanın “ikna edici gerekçelerden yoksun olduğunu, tutarsız ve kullanıcılar için kafa karıştırıcı olduğunu ve önlemeye çalıştığı zararları açıkça belirtmekte başarısız olduğunu” belirtti.
Kurul, Meta’nın yapay zekanın kullanılıp kullanılmadığına bakılmaksızın hem ses hem de video içeriğini kapsayacak şekilde kuralı güncellemesini ve bunun manipüle edilmiş olduğunu belirten etiketler uygulamasını önerdi.
Politikanın fotoğraflara uygulanması çağrısında bulunmaktan kaçındı ve bunun, politikanın Meta ölçeğinde uygulanmasını çok zor hale getirebileceği uyarısında bulundu.
Karara göre, Instagram ve WhatsApp’ın da sahibi olan Meta, inceleme sırasında yönetim kuruluna “yeni ve giderek daha gerçekçi hale gelen yapay zekanın evrimine yanıt vermek için” politikasını güncellemeyi planladığını bildirdi.
Şirket yaptığı açıklamada, kararı gözden geçirdiğini ve 60 gün içinde kamuoyuna yanıt vereceğini söyledi.
Facebook’ta yayınlanan klipte, Biden’ın 2022 ABD ara seçimleri sırasında torunuyla “Oy Verdim” çıkartmalarını değiş tokuş ettiği ve onu yanağından öptüğü gerçek görüntüler kullanıldı.
Kurul, aynı değiştirilmiş video klibin versiyonlarının Ocak 2023’ten beri internette yayılmaya başladığını söyledi.
Gözetim Kurulu kararında, Meta’nın, yanıltıcı şekilde değiştirilmiş videoları yalnızca yapay zeka tarafından üretilmiş olması veya insanlara aslında hiç söylemediği kelimeleri söylüyormuş gibi göstermesi durumunda yasaklayan mevcut politikası uyarınca videoyu açık bırakma konusunda haklı olduğunu söyledi.
Kurul, yapay zeka tarafından değiştirilmemiş içeriğin “yaygın olduğunu ve yapay zeka araçlarıyla oluşturulan içerikten daha az yanıltıcı olmadığını” söyledi.
Politikanın yalnızca sesli içeriklerin yanı sıra insanların aslında hiç yapmadıkları şeyleri yaptıklarını gösteren videolara da uygulanması gerektiği belirtildi.
Yaptırımların, Meta’nın mevcut gönderileri platformlarından kaldırma yaklaşımı yerine içeriğe etiket uygulanmasından oluşması gerektiğini ekledi.