Araştırmacılar, Çin bağlantılı bir dezenformasyon kampanyasında yapay zeka tarafından kontrol ediliyor gibi görünen en az 5.000 sahte X (eski adıyla Twitter) hesabından oluşan bir ağ ortaya çıkardılar ve ABD seçimleri yaklaştıkça bu faaliyetin daha da arttığı görülüyor.
Araştırmacılar tarafından “Yeşil Ağustos Böceği” olarak adlandırılan X dezenformasyon ağı, “öncelikle bölücü ABD siyasi konularıyla ilgileniyor ve yaklaşan başkanlık seçimlerine müdahale etmek için sahnelenmiş olabilir.”
Bu ağ, Avustralya, Batı Avrupa, Hindistan, Japonya ve diğer demokratik ülkeler de dahil olmak üzere diğer demokrasilerde de ayrıştırıcı siyasi sorunları büyüttü.
Bulgular, ABD başkanlık seçimlerine müdahale girişiminin son örneği. Bu ay İran’ın artan faaliyetlerine dair haberler, FBI ve CISA’dan olası DDoS saldırıları konusunda uyarı ve eski Başkan Donald Trump’ın kampanyasının hacklenmesi sonucunda ABD medyasının henüz yayınlamadığı belgelerin çalınması gibi gelişmeler yaşandı. Bu durum, Demokrat Ulusal Komitesi’nin Rusya bağlantılı kişiler tarafından hacklenmesinin ardından medyanın 2016 Hillary Clinton kampanyasına yönelik tutumundan keskin bir şekilde farklı bir tutum sergilemesine yol açtı.
X Dezenformasyon Ağı Çin’le Bağlantılı
CyberCX’ten araştırmacılar, ağın “neredeyse kesinlikle yapay zeka (AI) Büyük Dil Modeli (LLM) tabanlı bir sistem tarafından birlikte kontrol edildiğini” söyledi. … Ağı kontrol eden sistemin, çıkarılan sistem mimarisi ve kötü biçimlendirilmiş çıktılardaki kalıplara dayanarak, geliştirme veya deneysel aşamada bir bilgi işlem yeteneği olma olasılığını değerlendiriyoruz. Sistemin, en azından kısmen, organik içeriği yeni gönderiler ve yanıtlar olarak yeniden ifade ederek politik olarak bölücü anlatıları ‘aklamak’ ve etkileşim yoluyla X’teki organik bölücü içeriği güçlendirmek için tasarlandığını değerlendiriyoruz.”
Araştırmacılar, ağın şu anki haliyle çok etkili olmasının pek mümkün olmadığını, ancak “ağ operatörlerinin ABD başkanlık seçimleri öncesinde faaliyetlerini artırmaya hazırlanıyor olmalarının olası” olduğunu eklediler.
Ağdaki hesapların çoğu şu anda hareketsiz, ancak Temmuz ayında etkinlik keskin bir şekilde arttı. Ağ, zamanla operasyonel hataları düzeltiyor – kötü biçimlendirilmiş çıktıları azaltmak dahil – bu da faaliyetlerini zamanla daha etkili ve tespit edilmesi daha zor hale getirebilir.
Ağ, Çince bir LLM sistemi kullanıyor ve Tsinghua Üniversitesi ve önde gelen bir Çin AI şirketi olan Zhipu AI ile bağlantılı bir AI araştırmacısına bağlanıyor. Araştırmacılar, şimdiye kadar aktörlerin belirli siyasi eğilimleri olmadığını, bunun yerine “Çin’in bilgi operasyon oyun kitabıyla tutarlı” olarak bölücü içeriğin güçlendirilmesine odaklandıklarını söyledi.
X’in Dezenformasyon Kontrollerinin Yetersiz Olduğu Bulundu
Araştırmacılar, bulgularının “X’in bilgi operasyonları için daha izin verici bir platform haline geldiğini gösterdiğini” söyledi. … Bulgularımız ayrıca X’in sahte içerikleri tespit etme isteği ve yeteneğinde önemli boşluklar olduğunu gösteriyor. İzleme süremiz boyunca X’in Green Cicada Network hesaplarına karşı ara sıra eylemde bulunduğunu gözlemlesek de, açıkça bağlantılı hesaplara karşı sistematik bir eylemde bulunmada bir başarısızlık gözlemledik.
“X’in, Twitter’ın sahte hesapları tespit etme, etiketleme ve/veya yasaklama çabaları da dahil olmak üzere sahte faaliyetlerle mücadele için başlattığı girişimleri geri aldığını not ediyoruz.”
Araştırmacılar, ağın gelecekte olacakların bir işareti olduğunu, üretken yapay zekanın “sınırlı insan denetimiyle, düşük maliyetle ve düşük giriş engelleriyle önemli ölçekte kötü amaçlı çıktılar” üretebileceğini söyledi. Ağın temelini oluşturan sistemin üst düzey tüketici sınıfı donanımlar tarafından çalıştırılması ve yalnızca bir kişi tarafından geliştirilmesi mümkün.
“Yeşil Ağustos Böceği Ağı’nın temelinde yatan sistemin daha olgun ve gelecekteki bir versiyonunun X dışındaki taraflarca tespit edilmesinin son derece zor olacağını değerlendiriyoruz.”