Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Yapay Zeka Tarafından Üretilen İçeriğin Sonuçları Etkileme Şansı Şimdilik Düşük Görünüyor
Mathew J. Schwartz (euroinfosec) •
5 Nisan 2024
Güvenlik araştırmacıları, Çin hükümetinin, karışıklık yaratmayı ve küresel seçimleri etkilemeyi amaçlayan bilgi operasyonlarını yürütmek için yapay zeka araçlarını kullanmayı geliştirmeye devam ettiği konusunda uyardı.
Ayrıca bakınız: Üretken Yapay Zeka Anketi Sonuç Analizi: Google Cloud
Microsoft Tehdit Analiz Merkezi'nin bir raporuna göre Pekin, ABD'deki seçimleri etkilemenin yanı sıra özellikle Tayvan, Japonya ve Güney Kore'de anlaşmazlıkları yaymaya niyetli görünüyor.
Aralarında ABD, İngiltere ve Hindistan'ın da bulunduğu 50'den fazla ülkede 1 milyardan fazla insan bu yıl seçime gitmeye hazırlanırken, güvenlik uzmanları müdahale çabaları konusunda uyarılarda bulunuyor. ABD istihbaratı, Amerikan ulusal güvenliğine yönelik en büyük siber riski oluşturan dört ulus devletin (Rusya, Çin, İran ve Kuzey Kore) aynı zamanda Amerikan seçimlerinin bütünlüğüne veya algılanan bütünlüğüne yönelik de en büyük tehdidi oluşturduğunu söylüyor (bkz: Seçimler Yaklaştıkça Rakiplerin Etki Operasyonları da Oluyor).
Microsoft, Çin destekli gelişmiş kalıcı tehdit gruplarının, şimdiye kadar düşük başarı seviyelerine sahip olsa da, yapay zeka tarafından oluşturulan deepfake'lerin kullanımı da dahil olmak üzere küresel seçimleri etkilemek için yeni taktikler test ettiğini ve geliştirdiğini söyledi.
Kötü niyetli deneyler yaygındır. Microsoft Tehdit Analiz Merkezi başkanı Clint Watts, bir blog yazısında, Ocak ayındaki Tayvan başkanlık seçimlerinde ilk kez “yabancı bir seçimi etkilemek amacıyla yapay zeka içeriğini kullanan bir ulus devlet aktörünün” yer aldığını söyledi.
Spamouflage ve Dragonbridge olarak da bilinen Storm-1376 olarak takip edilen Pekin'e bağlı bir grup, eski başkanlık yarışmacısı Terry Gou'nun Seçim Günü'nde başka bir adayı onayladığı sırada yapay zeka araçları kullanılarak oluşturulmuş sahte ses yayınladı. Watts, “Gou böyle bir açıklama yapmamıştı” dedi. “YouTube bu içeriği daha geniş bir kitleye ulaşmadan hızla kaldırdı.”
Seçim sırasında Pekin'e atfedilen diğer taktikler arasında memlerin kullanımı ve yapay zeka tarafından oluşturulan haber spikerleri de dahil olmak üzere daha fazla ses içeriği ve video yer alıyor. Bu, Microsoft'un, ABD'li siyasi liderleri hedef alan, bölünmeye ve kargaşaya yol açmaya çalışan kampanyalar yürüten Çin'e bağlı gruplarda bir artış gördüğünü bildirdiği, geçen yaz kuru bir süreç gibi görünen bir sürecin ardından geldi. Çin Komünist Partisiyle bağlantılı İngilizce hesaplar, ABD hükümetinin Ağustos 2023'te Hawaii'deki orman yangınlarını yeni bir askeri “hava durumu silahı” test ederken tetiklediği ve Kasım 2023'te Kentucky'de trenin raydan çıkmasına neden olduğu gibi çeşitli asılsız iddialar yayınladı. erimiş kükürtün alev alması için.
O zamandan bu yana, ÇKP'ye bağlı çok sayıda sosyal medya hesabı “neredeyse yalnızca küresel ısınma, ABD sınır politikaları, uyuşturucu kullanımı, göç ve ırksal gerilimler gibi ABD'nin bölücü iç meseleleri hakkında paylaşımlar yapmaya” devam ediyor ve “orijinal videolar, memler, memler ve benzeri içerikleri” ücretsiz olarak kullanıyor. ve infografiklerin yanı sıra diğer yüksek profilli siyasi hesaplardan geri dönüştürülmüş içerik de var” dedi Watts.
Microsoft, Çin'in en azından Şubat 2023'ten bu yana sahte AI çapalarının kullanımını test ediyor gibi görünse de, “bu çapaları içeren içeriğin hacminin son aylarda arttığını” söyledi. Araştırmacılar, Tayvan seçimleri için yapay zeka tarafından barındırılan bölümlerin genellikle ülke yetkililerinin görüntülerini içerdiğini ve kullanıcıların yapay zeka oluşturmasına olanak tanıyan ByteDance'in CapCut aracı gibi kullanıma hazır araçlar kullanılarak Storm-1376 tarafından oluşturulduğunu söyledi. -tek bir komut istemi kullanılarak oluşturulan videolar.
Microsoft, Çin'in seçim hedeflemesinin en azından kısmen askeri ve ekonomik çıkar hedeflerine odaklanan casusluk operasyonlarıyla örtüştüğünü söyledi. Genel olarak konuşursak, Pekin'in üç casusluk alanına odaklandığını düşünüyor: Amerika'nın sanayi üssü, Güney Çin Denizi bölgesi – özellikle Tayvan ve Malezya ve Papua Yeni Gine dahil “neredeyse tüm Güney Pasifik Adası ülkeleri”.
Microsoft'un uyarısı, ABD Siber Güvenlik ve Altyapı Güvenlik Ajansı'nın “ABD'nin küresel duruşunu baltalamaya, ABD içinde anlaşmazlık yaratmaya ve ABD seçmenlerini ve karar alma mekanizmalarını etkilemeye yönelik daha geniş çabaların bir parçası” olarak seçimlere müdahale çabalarında artışa ilişkin uyarısının hemen ardından geldi. “
Mümkün olduğu durumlarda Çin, etki operasyonlarının bir parçası olarak yapay zeka tarafından oluşturulan içeriğin etkisini test etme konusunda giderek daha istekli görünüyor.
Watts, “Bu yıl dünya çapında, özellikle de Hindistan, Güney Kore ve ABD'de büyük seçimlerin yapılmasıyla, Çin'in en azından yapay zeka tarafından üretilen içeriği kendi çıkarlarına fayda sağlayacak şekilde yaratıp güçlendireceğini değerlendiriyoruz.” dedi. “Bu tür içeriklerin seçim sonuçlarını etkileme ihtimali düşük kalsa da, Çin'in memleri, videoları ve sesleri artırmaya yönelik artan denemeleri muhtemelen devam edecek ve ileride daha etkili olabilir.”