Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Davos Forumu Yapay Zeka Destekli Yanlış Bilgilendirmeyle İlgili Endişeleri Vurguluyor
Akşaya Asokan (asokan_akshaya) •
15 Ocak 2024
Yapay zeka destekli seçmenleri yanlış bilgilendirme kampanyaları ve seçmen veri tabanının hacklenmesi, dünya nüfusunun yarısından fazlasının serbestten kusurluya kadar değişen seçimlerde sandık başına gideceği bir yılda seçim güvenliğine yönelik en büyük tehditlerden bazıları.
Ayrıca bakınız: BT ve Güvenlikte Yapay Zekanın Geleceği Nedir?
Bu yıl aralarında ABD, Avrupa Birliği ve muhtemelen Birleşik Krallık’ın da bulunduğu 45’ten fazla ülke oy kullanacak. The Economist, seçimlerin 4 milyardan fazla kişiyi etkileyeceğini hesaplarken, Dünya Ekonomik Forumu, seçimlerin dünya gayri safi yurtiçi hasılasının yarısından fazlasını üreten ülkelerdeki liderliği belirleyeceğini değerlendirdi.
Her Ocak ayında İsviçre’nin Davos kentinde düzenlenen yıllık talkathon’un arkasındaki kuruluş olan WEF tarafından Perşembe günü yayınlanan bir anket, ankete katılanların %72’sinin güncel olayları aktif olarak siber risk yönetimine entegre ettiklerini söylediğini ortaya çıkardı. Ayrı ayrı ankete katılan CISO’ların üçte biri, küresel olayların işletmeleri etkileyen makro etkilere neden olma potansiyeline sahip olması nedeniyle tehdit istihbaratı raporlarının kullanımını artırdıklarını söylüyor.
Rapor, tehdit aktörlerinin, tespit edilmesi zor olan büyük ölçekli, otomatikleştirilmiş dezenformasyon kampanyaları yürütmek için yapay zekadaki gelişmelerden yararlanabileceği konusunda uyarıyor.
Sosyal medya aracılığıyla dezenformasyon yayan organize kampanyalar, seçimlerin dürüstlüğü konusunda şüphe uyandırabilir ve oylama öncesinde yanlış bilgilerin yerleştirilmesine neden olabilir. Raporda tehdidin teorik olmadığı belirtiliyor. Slovakya’daki Eylül 2023 seçimleri, ülkenin ana sosyal liberal siyasi partisinin başkanı ile oy satın almayı tartıştığı varsayılan bir gazeteci arasındaki derin sahte sesli konuşmanın sosyal medyada yayılmasıyla gölgelendi. AFP’nin teyitçileri, oylamanın başlamasından sadece 48 saat önce yayınlanan kaydın, gerçek insanların sesleri üzerine eğitilmiş yapay bir ses gibi göründüğünü belirledi.
Tehdit aktörleri, derin sahte videolar oluşturmak ve siyasi reklam kampanyalarını mikro hedeflemek için teknolojideki gelişmeleri de kullanabilir.
Rapor aynı zamanda seçmen veritabanlarının hedefli olarak hacklenmesi konusunda da uyarıda bulunuyor. Raporda, üretken yapay zekanın siber savunmanın karmaşıklığını artırdığı, aynı zamanda kötü amaçlı yazılım aileleri ve çeşitlerindeki keskin artışın da arttığı belirtiliyor.
Sadece aylar önce ABD’nin başkentindeki seçimleri denetleyen bir devlet kurumu söz konusu Web sitesi barındırma sağlayıcısının “bazı DC seçmen bilgilerine bir ihlal yoluyla erişildi”.
Seçim güvenliğine ilişkin benzer endişeler, Kasım ayında Haziran 2024’te yapılması planlanan AB seçimlerinin Rus, İran ve Çin ulus devlet gruplarına bağlı derin sahtekarlıklar kullanan otomatik dezenformasyon kampanyaları riski altında olduğu konusunda uyarıda bulunan Avrupa Birliği Siber Güvenlik Ajansı tarafından da dile getirildi.
Potansiyel seçim kesintisi beklentisiyle AB kurumu, potansiyel siber güvenlik saldırılarına hazırlık durumunu değerlendirmek üzere Kasım ayında ortak bir tatbikat düzenledi (bkz.: Avrupa’da Seçim Bütünlüğüne İlişkin Korkular Ortak Tatbikatı Teşvik Ediyor).
120 yöneticinin yanıtlarına dayanan WEF raporu, ankete katılanların yaklaşık %60’ının yapay zekanın siber tehdit aktörlerine savunuculardan daha fazla avantaj sağlayacağına inandığını söylüyor.
Katılımcılar en çok yapay zeka tarafından oluşturulan kimlik avı ve kötü amaçlı yazılım kampanyalarındaki artıştan, yapay zeka veri sızıntılarından, teknolojiyi geliştirmek için kullanılan yazılım tedarik zincirinden kaynaklanan tehditlerden ve fikri mülkiyet ve telif hakkıyla ilgili yasal kaygılardan endişe duyduklarını söylüyor.