Yapay Zeka ve Makine Öğrenmesi, Siber Savaş / Ulus Devlet Saldırıları, Dolandırıcılık Yönetimi ve Siber Suç
Meliorator Yazılımı Sosyal Medya Botları Üretiyor
David Perera (@daveperera) •
9 Temmuz 2024
ABD federal yetkilileri, Rusya iç istihbarat teşkilatı ve devlet tarafından işletilen bir propaganda yayın kuruluşunun iştirakleri tarafından yürütülen yapay zeka destekli bir dezenformasyon ağını desteklediğini söyledikleri iki web alan adına el koydu.
Ayrıca bakınız: Güvenlik Stratejinizdeki Boşlukları Kapatın
Adalet Bakanlığı, eskiden Twitter olan sosyal medya platformu X’te yaklaşık 1.000 hesap aradı. Kremlin, hesapları, Rusya’da bot sosyal medya hesapları oluşturmak ve bunlarda yayılan yanlış bilgileri oluşturmak için kodlanmış özel bir yapay zeka uygulaması olan Meliorator yazılımı tarafından üretilen Moskova yanlısı propagandayı yaymak için kullandı. FBI, Hollanda ve Kanada’dan hükümet kurumlarıyla birlikte yayınladığı bir danışma yazısında, aracın doğrudan mesajlara gerçek zamanlı olarak yanıt verebileceğini söyledi.
Haziran ayı itibarıyla Meliorator yalnızca X üzerinde çalışabiliyor, ancak duyuruda geliştiricilerinin muhtemelen erişimini diğer sosyal medya ağlarına da genişletmeyi planladıkları belirtiliyor.
Siber tehdit analistleri, Rus dezenformasyon üretiminin son on yılda istikrarlı bir şekilde arttığı ve ABD ile NATO gibi uluslararası ittifakların üyelerini hedef aldığı konusunda uyarıyor. Rand’ın Rus dezenformasyonu üzerine 2022’de yaptığı bir analiz, popüler tasvirlerin aksine, Rus dezenformasyon operasyonlarının ne iyi organize edildiğini ne de iyi kaynaklandırıldığını söylüyor. Ancak mütevazı bir yatırım bile dezenformasyonun “geniş ve çeşitli uluslararası kitlelere” ulaşmasıyla sonuçlanabilir, diyor. Haber ve bilgi web siteleri için derecelendirme sistemi olan NewsGuard, yakın zamanda popüler AI sohbet robotlarının Rus dezenformasyonunu sindirdiğini ve yanlış anlatıları tekrarlamaya meyilli olduğunu buldu (bkz: Popüler Sohbet Robotları Rus Yanlış Bilgilerini Yayıyor, Çalışma Buldu).
FBI Direktörü Christopher Wray, “Rusya, bu bot çiftliğini yapay zeka tarafından üretilen yabancı dezenformasyonu yaymak, yapay zekanın yardımıyla Ukrayna’daki ortaklarımızı zayıflatmak ve Rus hükümetinin lehine jeopolitik söylemleri etkilemek için kullanmayı amaçlıyordu” dedi.
Bir FBI ajanı tarafından dosyalanan bir yeminli ifade soruşturmayı özetliyor ve Meliorator’ın devlet kontrolündeki TV ağı RT’de (eski adıyla Russia Today) bir yöneticinin aklından geçtiğini söylüyor. Yazılımın geliştirilmesinden bir yıldan kısa bir süre sonra yönetici, Sovyetler Birliği’nin KGB’sinin Rusya’daki halefi olan Federal Güvenlik Servisi’ndeki bir memurla çalışmaya başladı. Dezenformasyon operasyonu, Haziran 2022 ile Mart 2024 arasında X’te en az 968 hesap kaydetti.
Yeminli ifadede Meliorator’ın baş geliştiricisi yalnızca başka bir RT çalışanı olarak tanımlanıyor. FBI, bot sosyal medya hesaplarını kaydetmek için kullanılan alan adlarını yasadışı olarak kaydetmek için kullanılan bir dizi Gmail adresi aracılığıyla o kişiye giden dijital bir izi takip etti. Hesap kurtarma yolları olarak Google’a verilen ikincil e-postalar aracılığıyla oluşturulan iz, sonunda 2015’te bir yandex.ru yedek olarak e-posta hesabı ve Rus uluslararası ülke kodunu içeren bir telefon numarası. Geliştirici Google’a Qiwi’den – Rusya’nın PayPal’a eşdeğeri – ve bir Rus vergi bölgesinden ödeme bilgileri sağladı.
FBI, geliştiricinin bir noktada Gmail adresine erişirken VPN kullanmayı unuttuğunu ve bunun Moskova merkezli bir telekomünikasyon sağlayıcısına çözümlenen gerçek bir IP adresini ortaya çıkardığını söyledi.
Meliorator operatörleri otomatik algılamadan kaçınmaya odaklandı. Araç, ayrıntı zenginliği bakımından farklılık gösteren üç farklı hesap türü oluşturabilir. Operatörler, başlangıçta yanlış bilgileri yaymak için AI tarafından oluşturulan profil fotoğrafları ve isim ve konum gibi biyografik veriler içeren hesapları kullanır. Başka bir hesap türü – çevrimiçi olarak toplanan verilerle oluşturulan ve görünüşte AI ile hiçbir bağı olmayan bir kişilik oluşturan – “bot ve bot olmayan hesaplar tarafından paylaşılan yanlış bilgileri yansıtmak ve güçlendirmek için kullanılır” diyor tavsiye. Üçüncü bir hesap arketipi, profilinde çok az bilgi içeriyorsa da hiç içermiyor ve rolü yanlış bilgi mesajlarını beğenmekle sınırlı.
Bot hesapları, daha geniş sosyal medya ortamına uyum sağlamak için genellikle 100.000’den fazla takipçisi olan hesaplarla etkileşimleri kısıtlar. Meliorator, botun sözde nerede bulunduğuna bağlı olarak her hesaba otomatik olarak bir proxy-IP adresi atar.