Yapay Zeka ve Makine Öğrenimi, Devlet, Sektöre Özel
ChatGPT Yapımcısı Çevrimiçi Seçim Yanlış Bilgilendirme Kampanyalarında Yapay Zeka Kullanımını Engellemek İstiyor
Chris Riotta (@chrisriotta) •
17 Ocak 2024
ChatGPT yapımcısı OpenAI, yasa koyucuların 2024 oylama döngüsü boyunca çevrimiçi etki kampanyalarından kaynaklanan artan tehditler konusunda uyardığı bir dönemde, seçimle ilgili yanlış bilgilerin yayılmasında yapay zeka modellerinin kullanımını caydırmak için yarışıyor.
Ayrıca bakınız: BT ve Güvenlikte Yapay Zekanın Geleceği Nedir?
Yapay zekanın güç merkezi Pazartesi günkü bir blog yazısında, kullanıcıların yetkili oylama bilgilerine erişimini iyileştirmek ve ChatGPT’nin insanları oy vermekten caydırmak için kullanılmasını önlemek için atacağı bir dizi adımı duyurdu.
Gönderide, “İnsanların araçlarımızı güvenli ve sorumlu bir şekilde kullanmasını bekliyor ve amaçlıyoruz; seçimler de farklı değil” dedi. Şirket, kullanıcıların siyasi kampanya ve lobi faaliyetlerine yönelik uygulamalar oluşturmasını veya gerçek hayattaki adayları, siyasi kurumları veya yerel yönetimleri taklit edebilecek sohbet robotları oluşturmasını nasıl kısıtladığını ayrıntılı olarak açıkladı.
Duyuru, siyasi derin sahtekarlıkların ve yapay zekanın oluşturduğu seçim yanlış bilgilerinin demokrasiyi önemli ölçüde bozabileceği yönündeki korkuların arttığı bir dönemde geldi. Ocak ayında 130’dan fazla eyalet ve yerel hükümet yetkilisinin katıldığı bir ankete göre, ABD’deki seçim liderlerinin çoğunluğu en çok, üretken yapay zeka araçlarının yardımıyla önemli ölçüde daha etkili olabilecek dezenformasyon kampanyalarından kaynaklanan seçim güvenliğine yönelik tehditlerden endişe duyuyor. Dijital Hükümet Merkezi tarafından yürütülmektedir.
Bu yıl aralarında ABD, Avrupa Birliği ve muhtemelen Birleşik Krallık’ın da bulunduğu 45’ten fazla ülke oy kullanacak. Dünya Ekonomik Forumu, bu yıl yapılacak seçimlerin, dünyanın gayri safi yurtiçi hasılasının yarısından fazlasını üreten ülkelerdeki liderliği belirleyeceğini hesaplıyor (bkz: Rekor Seçim Yılında Üretken Yapay Zeka Kaygıları Artıyor).
Çarşamba günü, Senato istihbarat komitesi başkanı D-Va ABD Senatörü Mark Warner, Siber Güvenlik ve Altyapı Güvenliği Ajansı direktörü Jen Easterly’ye bir mektup yazarak onu hem kritik seçim tehditlerini ele almaya hem de her ikisi de dahil olmak üzere kritik seçim tehditlerini yeniden ele almaya çağırdı. yabancı ve çevrimiçi etki operasyonları.
Mektupta, “daha geniş bir yabancı aktör yelpazesiyle” ve “nüfuz faaliyetlerine uygun daha fazla sayıda sosyal medya platformuyla” seçim tehditlerinin son yıllarda artmaya devam ettiği belirtildi.
OpenAI, “seçmenlerin bir görüntüyü nasıl yapıldığına güvenerek ve güvenle değerlendirmelerini sağlayacak” birkaç yeni araç denediğini söyledi. Şirket, bu yıl, İçerik Kanıtlanması ve Orijinallik Koalisyonu tarafından oluşturulan ve görüntü oluşturma aracı DALL-E 3 tarafından oluşturulan içeriğe dijital kimlik bilgilerini yerleştirmek için oluşturulan yeni bir yaklaşımı uygulamayı planlıyor.
Kullanıcılar ayrıca potansiyel ihlalleri OpenAI’ye de bildirebilirler; OpenAI, blog yazısında DALL-E tarafından oluşturulan görüntüleri tespit etmek için gazeteciler, araştırmacılar ve geri bildirim için diğer platformlar da dahil olmak üzere ilk test uzmanları alt kümesine yeni bir araç yayınlayacağını belirtti.
Şirket, partizan olmayan ABD Ulusal Dışişleri Bakanları Birliği ile birlikte çalıştığını ve oylama ve 2024 seçimleriyle ilgili belirli sorular sorulduğunda kullanıcıları CanIVote.org’a yönlendirmeyi planladığını söyledi.
Blogda, “Dünyanın en büyük demokrasilerinde 2024 yılındaki seçimlere hazırlanırken yaklaşımımız, doğru oylama bilgilerini yükselterek, ölçülü politikaları uygulayarak ve şeffaflığı artırarak platform güvenliği çalışmalarımızı sürdürmektir.”
Kâr amacı gütmeyen bir kuruluş olan Public Citizen’ın takip bilgilerine göre, beş Amerikan eyaleti seçimlerde deepfake kullanımını düzenleyen yasaları yürürlüğe koyarken, benzer yasa tasarıları en az 18 başka eyaletteki yasama meclislerinden de geçiyor.