Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Rapor ayrıca Kuzey Kore, İran ile bağlantılı tehditleri bayrak ediyor
Rashmi Ramesh (Rashmiramesh_) •
24 Şubat 2025
Openai, Çin etki operasyonlarının gözetim ve dezenformasyon kampanyalarını gerçekleştirmek için yapay zeka kullandığını söyledi.
Ayrıca bakınız: Bulut Güvenliği ve SOC yakınsama için Kapsamlı Kılavuz
Raporda, devlet destekli gündemleri ilerletmek için Openai’nin kendi modelleri de dahil olmak üzere AI araçlarını kötüye kullanan iki büyük Çin kampanyasını detaylandırıyor.
“Peer Review” olarak adlandırılan bir operasyon, Batı ülkelerinde Çin karşıtı duyguları izlemek için tasarlanmış AI destekli bir sosyal medya izleme aracı oluşturmayı içeriyordu. Openai araştırmacıları, bu kampanyayı, gözetim platformu için kod hata ayıklamak için şirketin AI teknolojisini kullanan bir kişiyi tespit ettiklerinde belirlediler. Openai baş araştırmacısı Ben Nimmo, bir basın brifingide bunun bu şekilde maruz kalan AI destekli bir gözetim aracının ilk örneği olduğunu söyledi. Araştırmacılar, aracın Meta’nın açık kaynaklı AI Model Lama kullanılarak oluşturulduğuna inanıyor.
Gözetim aracı, protestolar ve muhalif faaliyetler hakkında gerçek zamanlı raporlar üretiyor ve zekayı Çin güvenlik hizmetlerine geri besliyor gibi görünüyor. Openai proje ile ilişkili hesapları yasakladı, bu da bu kullanımın, bireylerin yapay zeka ile çalışan iletişim gözetimine ve bireylerin yetkisiz izlenmesine karşı politikalarını ihlal ettiğini belirtti.
Openai ayrıca, İspanyolca medyadaki ABD karşıtı anlatıları yaymak için yapay zekayı silahlandıran “sponsorlu hoşnutsuzluk” olarak etiketlediği bir kampanya belirledi. Kampanya, Amerikan toplumunu ve siyasetini eleştiren ve bunları sponsorlu içerik de dahil olmak üzere Latin Amerika haber platformlarına dağıtan makaleler oluşturdu ve tercüme etti. Ayrıca Çinli muhalif Cai Xia’ya saldıran otomatik İngilizce sosyal medya yorumlarını da içeriyordu.
Nimmo, bunun Latin Amerika izleyicileri için İspanyolca uzun biçimli makaleleri sistematik olarak çevirme ve yayınlayan bir Çin etkisi operasyonunun ilk bilinen vakası olduğunu söyledi. Openai’nin modellerinin kullanımına ilişkin görünürlüğü olmadan, kampanyanın sosyal medya etkinliğini haber medyasındaki daha geniş çabalarıyla birleştirmek zor olacağını söyledi.
Openai ayrıca, dolandırıcılık ve Kuzey Kore, İran ve Gana’daki seçim müdahaleleri ile bağlantılı operasyonlar da dahil olmak üzere AI yakıtlı diğer siber tehditleri de işaretledi.
Rapor, açık kaynaklı AI modellerinin daha gelişmiş büyüdükçe ve yerel olarak konuşlandırılabildikçe, bu tür kötüye kullanımı tespit etmenin ve karşı koymanın daha zor olacağını göstermektedir. “Akran İncelemesi” vakasında Openai, Chatgpt ve Deepseek ve Meta’s Llama 3.1’e referanslar buldu, bu da operatörlerin faaliyetlerini gizlemek için birden fazla modeli test ettiğini veya birleştirdiğini öne sürdü.