Perşembe günü OpenAI, Çin, İran, İsrail ve Rusya kaynaklı beş gizli nüfuz operasyonunu (IO) kesmek için adımlar attığını açıkladı. Bu operasyonlar, kamusal söylemi veya siyasi sonuçları çevrimiçi olarak manipüle ederken yapay zeka (AI) araçlarını kötüye kullanmaya çalışıyor gerçek kimlik.
Son üç ayda tespit edilen bu faaliyetler, çeşitli dillerde kısa yorumlar ve daha uzun makaleler oluşturmak, sosyal medya hesapları için ad ve biyografi hazırlamak, açık kaynak araştırması yürütmek, basit kodlarda hata ayıklamak ve metinleri tercüme edin ve düzeltin.
AI araştırma kuruluşu, ağlardan ikisinin Rusya’daki aktörlerle bağlantılı olduğunu söyledi; bunlar arasında, Ukrayna, Moldova, Baltık Devletleri ve Amerika Birleşik Devletleri’ndeki (ABD) hedef kitleleri hedef almak için öncelikli olarak en az bir düzine Telegram hesabı kullanan, Bad Grammar kod adlı daha önce belgelenmemiş bir operasyon da yer alıyor. ) Rusça ve İngilizce olarak özensiz içeriğe sahip.
OpenAI, “Ağ, yorum-spam gönderim hattı oluşturmak için Telegram’daki modellerimizi ve hesaplarımızı kullandı.” dedi. “Önce operatörler, Telegram’da paylaşımları otomatikleştirmek için tasarlanmış olduğu anlaşılan koddaki hataları ayıklamak için modellerimizi kullandılar. Daha sonra belirli Telegram gönderilerine yanıt olarak Rusça ve İngilizce yorumlar oluşturdular.”
Operatörler ayrıca ABD’deki siyasi yelpazenin her iki tarafındaki farklı demografik özelliklere ait çeşitli hayali kişilikler kisvesi altında yorumlar oluşturmak için de modellerini kullandılar.
Rusya bağlantılı diğer bilgi operasyonu, ABD Hazine Bakanlığı’nın Yabancı Varlıklar Kontrol Ofisi (OFAC) tarafından bu Mart ayı başlarında siber etki operasyonlarına giriştiği için onaylanan üretken Doppelganger ağına (diğer adıyla Son Güvenilir Haberler) karşılık geliyordu.
Ağın, X ve 9GAG’da paylaşılan İngilizce, Fransızca, Almanca, İtalyanca ve Lehçe dillerinde yorumlar oluşturmak için OpenAI modellerini kullandığı söyleniyor; daha sonra grup tarafından yönetilen sahte web sitelerinde yayınlanan makaleleri Rusça’dan İngilizce ve Fransızca’ya tercüme etmek ve düzenlemek; başlıklar oluşturun; ve sitelerinde yayınlanan haber makalelerini Facebook gönderilerine dönüştürün.
OpenAI, “Bu etkinlik Avrupa ve Kuzey Amerika’daki izleyicileri hedef aldı ve web siteleri ve sosyal medya için içerik oluşturmaya odaklandı” dedi. “Bu kampanyanın çevrimiçi olarak yayınladığı içeriğin çoğunluğu Ukrayna’daki savaşa odaklanıyordu. Ukrayna, ABD, NATO ve AB’yi olumsuz, Rusya’yı ise olumlu bir açıdan tasvir ediyordu.”
Diğer üç faaliyet kümesi aşağıda listelenmiştir:
- Spamouflage olarak bilinen ve yapay zeka modellerini kamusal sosyal medya faaliyetlerini araştırmak için kullanan Çin kökenli bir ağ; X, Medium ve Blogger’da yayınlamak için Çince, İngilizce, Japonca ve Korece metinler oluşturabilir; Çinli muhalifleri eleştiren içeriğin ve ABD’de Yerli Amerikalılara yönelik tacizlerin propagandasını yapmak; ve veritabanlarını ve web sitelerini yönetmek için kodda hata ayıklama
- Uluslararası Sanal Medya Birliği (IUVM) olarak bilinen ve daha sonra iuvmpress adlı bir web sitesinde yayınlanmak üzere uzun biçimli makaleler, başlıklar ve web sitesi etiketleri oluşturmak ve İngilizce ve Fransızca dillerine çevirmek için yapay zeka modellerini kullanan İranlı bir operasyon[.]ortak
- Sıfır Zeno olarak anılan bir ağ, kiralık bir İsrailli tehdit aktöründen, STOIC adlı bir ticari istihbarat firmasından çıkıyor ve yapay zeka modellerini Hamas karşıtı, Katar karşıtı, İsrail yanlısı, BJP karşıtı ve anti-BJP oluşturmak ve yaymak için kullanıyor. Instagram, Facebook, X ve bağlı web sitelerinde Kanada, ABD, Hindistan ve Gana’daki kullanıcıları hedefleyen Histadrut yanlısı içerik.
” [Zero Zeno] Operasyon ayrıca modellerimizi yaş, cinsiyet ve konum gibi belirli değişkenlere dayalı olarak sosyal medya için kurgusal karakterler ve biyografiler oluşturmak ve İsrail’deki Histadrut sendikası hakkında kamuya açık yorum yapan İsrail’deki kişiler üzerinde araştırma yapmak için de kullandı.” dedi. BT modelleri bu taleplere yanıt olarak kişisel verileri sağlamayı reddetti.
ChatGPT yapımcısı, IO ile ilgili ilk tehdit raporunda, bu kampanyalardan hiçbirinin hizmetlerinden yararlanarak “kitle etkileşimini veya erişimini anlamlı bir şekilde artırmadığını” vurguladı.
Bu gelişme, üretken yapay zeka (GenAI) araçlarının kötü niyetli aktörlerin gerçekçi metin, görseller ve hatta video içeriği oluşturmasını kolaylaştırabileceği, yanlış bilgilendirme ve dezenformasyon operasyonlarını tespit etmeyi ve bunlara yanıt vermeyi zorlaştırabileceği yönündeki endişelerin dile getirilmesiyle ortaya çıkıyor.
OpenAI’nin istihbarat ve soruşturmalardan sorumlu baş araştırmacısı Ben Nimmo, “Şu ana kadar durum devrim değil, evrimdir” dedi. “Bu değişebilir. İzlemeye ve paylaşmaya devam etmek önemlidir.”
Meta STOIC ve Doppelganger’ı Vurguluyor
Ayrı bir gelişmede Meta, üç aylık Çelişkili Tehdit Raporunda STOIC’in nüfuz operasyonlarının ayrıntılarını da paylaştı ve aktörün Kanada ve ABD’deki kullanıcıları hedeflemek için kullandığı Facebook ve Instagram hesaplarındaki yaklaşık 500 ele geçirilmiş ve sahte hesaptan oluşan bir karışımı kaldırdığını söyledi.
Sosyal medya devi, “Bu kampanya, OpSec’in faaliyetlerini anonimleştirmek için Kuzey Amerika proxy altyapısından yararlanmak da dahil olmak üzere, OpSec’in bakımında göreceli bir disiplini ortaya koydu” dedi.
Meta ayrıca, kamuoyunu etkilemek ve güncel olaylarla ilgili siyasi anlatıları öne çıkarmak amacıyla koordineli, özgün olmayan davranışlara (CIB) girişen Bangladeş, Çin, Hırvatistan, İran ve Rusya’dan aldatıcı ağlardan oluşan yüzlerce hesabı kaldırdığını söyledi.
Çin merkezli kötü niyetli ağ esas olarak küresel Sih topluluğunu hedef alıyordu ve var olmayan bir Sih yanlısı hareketle ilgili manipüle edilmiş görüntüleri ve İngilizce ve Hintçe dillerindeki gönderileri yaymak için kullanılan birkaç düzine Instagram ve Facebook hesabı, sayfası ve grubundan oluşuyordu. , Khalistan ayrılıkçı hareketi ve Hindistan hükümetine yönelik eleştiriler.
Şirket, daha önce Graphika ve GNET tarafından belgelenen yapay zeka tarafından oluşturulan video haber okuyucularının örneklerini vurgulayarak, şu ana kadar GenAI odaklı taktiklerin herhangi bir yeni ve karmaşık kullanımını tespit etmediğini belirtti. Bu kampanyalarda tehdit aktörleri teknolojiyle aktif olarak denemeler yapıyor.
Meta, Doppelganger’ın “parçala ve yakala” çabalarını sürdürdüğünü, ancak kamuya açık raporlamaya yanıt olarak, tespitten kaçınmak için metin gizlemenin kullanılması da dahil olmak üzere taktiklerde büyük bir değişiklik yaptığını söyledi (örneğin, “U. kr. ai. “Ukrayna” yerine n.e”) ve Nisan ayından bu yana haber medyası gibi görünen yazım hatası yapılmış alan adlarına bağlantı verme uygulamasını bırakıyor.
Sekoia, Rusya yanlısı muhalif ağ hakkında geçen hafta yayınlanan bir raporda, “Kampanya iki kategorideki haber sitelerinden oluşan bir ağ tarafından destekleniyor: yazım hatası yapılmış meşru medya kuruluşları ve kuruluşları ve bağımsız haber siteleri.”
“Bu web sitelerinde dezenformasyon makaleleri yayınlanıyor ve daha sonra çeşitli platformlardaki, özellikle de Instagram, TikTok, Cameo ve YouTube gibi video barındıran platformlardaki orijinal olmayan sosyal medya hesapları aracılığıyla yayılıyor ve güçlendiriliyor.”
Çok sayıda ve dalgalar halinde oluşturulan bu sosyal medya profilleri, Facebook ve Instagram’daki ücretli reklam kampanyalarından yararlanarak kullanıcıları propaganda sitelerine yönlendiriyor. Facebook hesapları yalnızca tek bir yazı paylaşmak için kullanıldığından ve daha sonra terk edildiğinden dolayı yakıcı hesaplar olarak da adlandırılmaktadır.
Fransız siber güvenlik firması, hem Ukrayna’nın müttefiklerine hem de Kremlin adına Rusça konuşan yerel kitlelere yönelik olan endüstriyel ölçekli kampanyaları, iki ara web sitesinden geçen bir yeniden yönlendirme zinciri başlatmak için sosyal botnet’ten yararlanan çok katmanlı olarak tanımladı. Kullanıcıları son sayfaya yönlendirmek için.
Recorded Future, bu ay yayınlanan bir raporda, Batı’nın iç ve dış politikasını baltalayan ve içerik yayan anlatıları teşvik etmek için ABD, İngiltere ve Fransa’daki orijinal olmayan medya kuruluşlarından yararlanan, muhtemelen Rusya’dan yönetilen CopyCop adlı yeni bir etki ağının ayrıntılarını verdi. Devam eden Rus-Ukrayna savaşı ve İsrail-Hamas çatışmasıyla ilgili.
Şirket, “CopyCop, siyasi mesajları belirli önyargılara göre uyarlamak amacıyla meşru medya kaynaklarından içerik çalmak ve değiştirmek için üretken yapay zekayı yaygın bir şekilde kullandı” dedi. “Bu, Batı politikalarını eleştiren ve Ukrayna çatışması ve İsrail-Hamas gerilimleri gibi uluslararası konularda Rusya’nın bakış açısını destekleyen içeriği içeriyordu.”
CopyCop tarafından oluşturulan içerik aynı zamanda Doppelganger ve Portal Kombat gibi tanınmış devlet destekli aktörler tarafından da güçlendiriliyor ve bu da Rusya’yı olumlu bir şekilde yansıtan içerik sunmak için ortak bir çaba gösteriyor.
TikTok Gizli Etki Operasyonlarını Engelliyor
ByteDance’in sahibi olduğu TikTok, mayıs ayının başlarında, Bangladeş, Çin, Ekvador, Almanya, Guatemala, Endonezya, İran ve Irak’a kadar takip edilenler de dahil olmak üzere, yılın başından bu yana platformunda bu tür birçok ağı ortaya çıkardığını ve ortadan kaldırdığını açıklamıştı. , Sırbistan, Ukrayna ve Venezuela.
Çinli şirketi şirketi satmaya zorlayacak veya ülkede yasakla karşı karşıya kalacak bir yasanın kabul edilmesinin ardından şu anda ABD’de incelemeyle karşı karşıya olan TikTok, 2024’te Rus devletine bağlı hesaplar için giderek daha fazla tercih edilen bir platform haline geldi. Brookings Enstitüsü’nün yeni bir raporuna göre.
Dahası, sosyal video barındırma hizmeti, Emerald Divide olarak bilinen ve 2021’den bu yana İran yanlısı aktörler tarafından İsrail toplumunu hedef alarak düzenlediğine inanılan karmaşık bir etki kampanyası olarak nitelendirilen şeyin üreme alanı haline geldi.
Recorded Future, “Emerald Divide, etki anlatımlarını İsrail’in gelişen siyasi ortamına hızla uyarlayan dinamik yaklaşımıyla dikkat çekiyor” dedi.
“Yapay zeka tarafından oluşturulan deepfake’ler ve stratejik olarak işletilen sosyal medya hesapları ağı gibi modern dijital araçlardan yararlanıyor; bu araçlar, çeşitli ve sıklıkla karşıt kitleleri hedef alıyor, toplumsal bölünmeleri etkili bir şekilde körüklüyor ve protestolar ve hükümet karşıtı mesajların yayılması gibi fiziksel eylemleri teşvik ediyor. “