Openai Cuma günü, şüpheli bir yapay zeka (AI) güçlü gözetim aracı geliştirmek için chatgpt aracını kullanan bir dizi hesabı yasakladığını açıkladı.
Sosyal medya dinleme aracının büyük olasılıkla Çin’den geldiği ve Meta’nın lama modellerinden biri tarafından desteklendiği söyleniyor, söz konusu hesaplar, AI şirketinin modellerini kullanan ve gerçek zamanlı veri toplayabilen bir cihaz için belgeleri analiz etmek ve belgeleri analiz etmek ve Batı’daki Çin karşıtı protestolar ve içgörüleri Çin yetkilileriyle paylaşma hakkında raporlar.
Araştırmacılar Ben Nimmo, Albert Zhang, Matthew Richard ve Nathaniel Hartley, “ağın gözetim araçlarını teşvik etme ve gözden geçirmedeki davranışı” nedeniyle kampanya, “ağın gözetim araçlarını teşvik etme ve gözden geçirme” nedeniyle kodlandı. X, Facebook, YouTube, Instagram, Telegram ve Reddit gibi.
Şirket tarafından işaretlenen bir örnekte, aktörler, “Qianyue Yurtdışı Kamuoyu AI asistanı” olarak adlandırılan izleme yazılımını çalıştırdığına inanılan kaynak kodunu hata ayıklamak ve değiştirmek için chatgpt kullandılar.
Modelini, Amerika Birleşik Devletleri’ndeki düşünce kuruluşları ve Avustralya, Kamboçya ve Amerika Birleşik Devletleri gibi ülkelerdeki hükümet yetkilileri ve politikacılar hakkında kamuya açık bilgileri ortaya çıkarmak için bir araştırma aracı olarak kullanmanın yanı sıra, kümenin de ChatGPT erişiminden yararlandığı bulunmuştur, İngilizce belgelerin ekran görüntülerini çevirin ve analiz edin.
Bazı görüntüler çeşitli batı şehirlerinde Uygur hakları protestolarının duyurularıydı ve muhtemelen sosyal medyadan kopyalandı. Şu anda bu görüntülerin otantik olup olmadığı bilinmemektedir.
Openai ayrıca ChatGPT’yi çeşitli kötü niyetli etkinlikler için kötüye kullanan diğer kümeleri de bozduğunu söyledi –
- Aldatıcı istihdam şeması – Kuzey Kore’den bir ağ, özgeçmişler, çevrimiçi iş profilleri ve kapak mektupları gibi hayali iş başvuruları için kişisel belgelerin oluşturulmasında yer alan hileli BT işçisi şemasına bağlı bir ağın yanı sıra, olağandışı davranışları açıklamak için ikna edici yanıtlar ortaya çıktı. Video görüşmelerinden kaçınmak, yetkisiz ülkelerden kurumsal sistemlere erişmek veya düzensiz saatler çalışmak. Daha sonra sahte iş uygulamaları LinkedIn’de paylaşıldı.
- Sponsorlu Hoşnutsuzluk – İspanyolca İngilizce ve uzun biçimli makalelerde ABD’yi eleştiren ve daha sonra Peru, Meksika ve Ekvador’daki Latin Amerika Haber Web Siteleri tarafından yayınlanan Çin kökenli Çin kökenli bir ağ. Etkinliğin bir kısmı, spamouflage olarak adlandırılan bilinen bir etkinlik kümesiyle örtüşmektedir.
- Romantizm-Baiting Scam – Şüpheli Kamboçya-Origin romantizm ve yatırım dolandırıcılığı ile bağlantılı olarak Facebook, X ve Instagram dahil sosyal medya platformlarında yayınlamak için Japonca, Çince ve İngilizce’de yorumların çeviri ve üretiminde yer alan bir hesap ağı.
- İran Etkisi Nexus -Pilistinli, Hamas yanlısı ve İran yanlısı ve İsrail karşıtı ve anti-ABD’dir ve İran etkisi ile ilişkili web sitelerinde paylaşılan X direklerinin ve makalelerin üretilmesinde yer alan beş hesaptan oluşan bir ağı Operasyonlar Uluslararası Sanal Medya Birliği (IUVM) ve Storm-201035 olarak izlendi. Yasaklı hesaplar arasında biri, “daha önce bildirilmemiş bir ilişkinin” göstergesi olan her iki işlem için de içerik oluşturmak için kullanıldı.
- Kimuky ve Bluenoroff -Siber saldırı araçları ve kripto para birimi ile ilgili konularla ilgili bilgilerin toplanmasına katılan Kuzey Koreli tehdit aktörleri tarafından işletilen bir hesap ağı ve uzak masaüstü protokolü (RDP) Brute-Force saldırıları için kodu hata ayıklama kodu
- Gençlik Girişimi Gizli Etki Operasyonu – “Gana Gana” adlı bir web sitesi için İngilizce makalelerin oluşturulmasına katılan bir hesap ağı ve Gana başkanlık seçimlerini hedefleyen sosyal medya yorumları
- Görev dolandırıcılığı – Kamboçya’dan gelen bir hesap ağı, şüphesiz insanları basit görevleri yerine getiren işlere (örneğin, videoları sevme veya inceleme yazma) bir aldatmaca olarak Urduca ve İngilizce arasındaki yorumların çevirisine katılan bir hesap ağı -Mağdurların kendi paralarıyla ayrılmasını gerektiren erişim.
Geliştirme, AI araçlarının kötü aktörler tarafından siber özellikli dezenformasyon kampanyalarını ve diğer kötü amaçlı operasyonları kolaylaştırmak için giderek daha fazla kullanıldığı için geliyor.
Geçen ay, Google Tehdit İstihbarat Grubu (GTIG), Çin, İran, Kuzey Kore ve Rusya ile bağları olan 57’den fazla farklı tehdit aktörünün, saldırı döngüsünün birden fazla aşamasını iyileştirmek ve topikal olaylara araştırma yapmak için kullandıklarını veya İçerik oluşturma, çeviri ve yerelleştirme yapın.
Openai, “AI şirketlerinin tehdit aktörlerinden çıkarabileceği benzersiz bilgiler, barındırma ve yazılım geliştiricileri, sosyal medya şirketleri gibi aşağı yönlü dağıtım platformları ve açık kaynaklı araştırmacılar gibi yukarı akış sağlayıcılarıyla paylaşılıyorsa özellikle değerlidir.” Dedi.
Diyerek şöyle devam etti: “Aynı şekilde, yukarı akış ve aşağı yönlü sağlayıcıların ve araştırmacıların tehdit aktörlerine yaptıkları yeni tespit ve uygulama yolları açtıkları anlayışları.”