Teknoloji Devleri Yapay Zeka Yapımı Seçim Yanlış Bilgilerini Durdurma Sözü Verdi

Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme

ABD Senatörü, Yapay Zekanın Hızı ve Aldatma Ölçeğinin ‘Eşi benzeri görülmemiş’ olduğunu söylüyor

Rashmi Ramesh (raşmiramesh_) •
19 Şubat 2024

Aralarında Google ve Meta’nın da bulunduğu yirmi teknoloji devi Cuma günü, 70’den fazla ülkede 4 milyardan fazla insan bu yıl seçimlere hazırlanırken seçmenleri aldatmayı amaçlayan yapay olarak oluşturulmuş deepfake içeriğin varlığıyla mücadele etme sözü verdi.

Ayrıca bakınız: Web Semineri I Kurumsal Müşteri Kararlarına Entegre Bir Yaklaşımla Kuruluşunuzu Geleceğe Hazırlayın

Şirketler, “bu tür AI içeriğinin çevrimiçi dağıtımını tespit etmek ve ele almak, eğitim kampanyalarını yönlendirmek ve şeffaflık sağlamak için araçlar üzerinde işbirliği içinde çalışacaklarını” söyledi. İmzacılar arasında Amazon, IBM ve Microsoft’un yanı sıra OpenAI, Anthropic ve Stability AI da yer alıyor.

Seçimle ilgili yanlış bilgilerin 70’ten fazla ülkede 4 milyardan fazla insanı etkileyebileceği hesaplaması The Economist’in bir araştırmasından geliyor. Yanlış bilgi yeni bir tehdit değil, ancak hükümet yetkilileri ve akademisyenler bu yılki yapay zeka kaynaklı tufanın seçim sonuçlarını etkileyecek kadar büyük olabileceği konusunda uyarıyorlar.

Dünya liderlerinin Almanya’da her yıl düzenlenen Münih Güvenlik Konferansı toplantısında şirketler tarafından açıklanan anlaşma, seçim katılımcılarını taklit edebilen veya yanlış oylama bilgileri sağlayabilen yapay zeka destekli ses, video ve görüntü sahtelerini hedef alıyor.

Senato İstihbarat Komitesi başkanı ABD’li Senatör Mark Warner, “2016, 2018 ve 2020’de kullanılan teknikleri düşünüyoruz; genel olarak karşılaştığımız tehditler ve zorluklarla karşılaştırıldığında bunlar tam anlamıyla çocuk oyuncağı” dedi. konferans. 2019 yılında yayınlanan iki partili bir komite raporu, Rus hükümetinin 2016 başkanlık yarışmasının sonucunu etkilemek için bir dezenformasyon kampanyasına izin verdiğini ve yönettiğini söylüyor.

Warner, “Yapay zeka araçlarının aldatmaya, yanlış beyana ve açıkça yalan söylemeye neden olabileceği ölçek ve hız da eşi benzeri görülmemiş bir durum” dedi.

Amerika Birleşik Devletleri’ndeki sosyal medya platformları, çevrimiçi aracıları kullanıcı tarafından oluşturulan içerikle ilgili davalardan koruyan, Bölüm 230 olarak bilinen 1996 tarihli bir yasa nedeniyle, sitelerinde görünen dezenformasyon da dahil olmak üzere üçüncü taraf içeriklerinden genellikle sorumlu değildir.

Bölüm 230, şu ana kadar bunu geri alma girişimlerine direndi ve ABD Kongresi, üretken yapay zeka modellerine kısıtlamalar getirecek kapsamlı bir düzenlemeyi onaylamaktan çok uzak. Sonuç olarak Biden yönetimi, çoğu Cuma günkü Münih Güvenlik Konferansı taahhüdüne katılan aynı şirketlerden alınan gönüllü önlemlere güvendi (bkz:7 Teknoloji Firması Yapay Zekayı Güvenli ve Emniyetli Hale Getirmek İçin Beyaz Saray’a Söz Verdi).

Düzenleyici kurumlar, kendi yetki alanlarında deepfake’lere yönelik kısıtlamalar getirmek için mevcut yetkilileri kullandı; ancak eleştirmenler, bu önlemlerin ancak deepfake’lerin yayılmasını durduracak kadar ileri gidebileceğini söylüyor. Eyalet düzeyinde 27 yasama organı, seçimlerdeki derin sahtekarlıkları düzenlemek için yasa tasarıları sundu.

Teknoloji şirketlerinin gönüllü taahhütlerinin büyük bir kısmı filigranlamadır; bu, çıktının yapay olarak tanımlanabilir olmasını sağlamak için üretken yapay zeka algoritmaları kullanılarak üretilen içeriğe ince “gürültü” yerleştirme uygulamasıdır. Uzmanlar, geçen yılın sonlarında Bilgi Güvenliği Medya Grubu’na, bazı tekniklerin kolayca kırılabileceği için yöntemin başarılı olma ihtimalinin yanı sıra başarısız olma ihtimalinin de yüksek olduğunu söyledi (bkz: Filigran Oluşturma Üretken Yapay Zeka: Heyecan mı, Her Şeyi Tedavi mi?).

Meta Küresel İlişkiler Başkanı Nick Clegg, “Bu iş herhangi bir şirketten daha büyük ve endüstri, hükümet ve sivil toplum genelinde büyük bir çaba gerektirecek” dedi. “Umarım bu anlaşma, endüstrinin bu zorluğun üstesinden gelmesinde anlamlı bir adım olarak hizmet edebilir.”