Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Kötü amaçlı yazılımlarla bağlantılı kötü amaçlı hesaplar, operasyonları etkiler
Rashmi Ramesh (Rashmiramesh_) •
10 Haziran 2025
Openai, yapay zeka modellerini kötüye kullanımı tespit etmek ve karşı koymak için kullanıyor ve kötü niyetli duruma bağlı operasyonlarla ilişkili hesapları yasakladı.
Ayrıca bakınız: Verileri Güçlendirecek Verileri Dönüştürmek AI: Değer, Güven ve Etkinin Kilidini Açma
Şirket, Rusya, Çin, Kuzey Kore ve İran ile uyumlu olarak, Openai’nin araçlarını kötü amaçlı yazılım geliştirme ve sosyal medya manipülasyonunu desteklemek için kullandığını söyledi. Ayrıca Kamboçya ve Filipinler’den bazı faaliyetler tespit etti.
Kesilen gruplar arasında, Scopecreep olarak adlandırılan kötü amaçlı yazılımları geliştirmek ve geliştirmek için ChatGPT’yi kullanan Rusça konuşan bir aktör var. Openai, aktörün hesap oluşturmak için geçici e -posta adresleri kullandığını, chatbot’u kodu hata ayıklamak, HTTPS istekleri oluşturmak ve Windows Defender’dan kaçmak için PowerShell komutlarını değiştirmek için kullandığını söyledi. Araştırmacılar, Crosshair X adlı bir oyun yardımcısı yazılımını taklit eden bir depoya dağıtılmış olan kötü amaçlı yazılımları gördü.
Kötü niyetli kod, ayrıcalıkları artıran, gizli kalıcılığı koruyan ve kimlik bilgilerini ve çerezleri söndüren çok aşamalı bir işlem başlattı. Ayrıca, yeni sistemler tehlikeye atıldığında bir telgraf kanalı aracılığıyla operatörü bilgilendirmek için mantık içeriyordu.
Openai, bu tehdit oyuncusunun telgraf API’sını entegre etmek, kötü amaçlı yazılım bileşenlerini hata ayıklamak ve komut ve kontrol altyapısını yapılandırma gibi görevlere yardımcı olmak için modellerini kullandığını söyledi. Kötü amaçlı yazılım herkese açıktı, ancak büyük ölçekli enfeksiyonların bir göstergesi yok ve Openai, gelişimin erken bir aşaması olarak nitelendirilebileceğini söyledi.
Yasaklı diğer hesaplar, Çin hükümetine genellikle atfedilen ve APT5 ve APT15 olarak izlenen iki hackleme grubuna bağlandı. Openai, bilgisayar korsanlarının açık kaynak araştırmaları için ChatGPT’yi kullandığını ve Linux sistem yapılandırmalarını, yazılım geliştirmeyi ve altyapı kurulumunu sorun giderdi. Bu, çevrimdışı yazılım paketleri oluşturmayı ve güvenlik duvarlarını ve ad sunucularını yapılandırmayı içeriyordu.
Aynı gruplar sosyal medya etkisini otomatikleştirmek için AI kullanımını araştırdı. Openai, ChatGPT örneklerinin Facebook, Instagram, Tiktok ve X, eski adıyla Twitter gibi platformlar için yayınlar ve etkileşimler oluşturmak için kullanıldığını buldu. Bazı durumlarda hesaplar, FTP kimlik bilgilerini Brute-Force için komut dosyaları geliştirmek veya sosyal medya içeriğini programlı olarak kontrol etmek için Android uygulamalarını dağıtmak için chatgpt’e görevlendirildi.
Raporda, çevrimiçi etki veya siber suçla uğraşan diğer devlet bağlantılı kümeleri açıklanmaktadır. Muhtemelen Kuzey Kore’ye bağlı bir operasyon, BT rolleri için ikna edici özgeçmişler ve görev belgeleri oluşturarak hileli istihdam dolandırıcılığını desteklemek için Openai modellerini kullandı. Başka bir kampanya, büyük platformlarda dağıtım için jeopolitik olarak hassas konularda çok dilli sosyal medya içeriği oluşturdu.
Openai, ABD’nin bölünen siyasi meseleleri hakkındaki söylemi kutuplaştırmayı amaçlayan İngilizce, İspanyolca ve Svahili içeriği oluşturduğu “Spam Amca Operasyonu” adlı bir kampanyaya atıfta bulundu. Bu yayınlar Bluesky ve X gibi platformlarda, bazen Amerikalılar olarak poz veren hesaplarla ortaya çıktı.
Şirket, tamamen yeni özelliklere ulaşmak için ChatGPT kullanan aktörleri gözlemlemediğini, ancak araçlarının iş akışı verimliliğini ve ölçekli mesaj çıktısını artırmak için kullanıldığını söyledi. Bazı durumlarda bu, aldatıcı mesajlaşma kampanyaları için çeviri, kod hata ayıklama veya komut dosyası oluşturma yardımını içermektedir.
Yeni rapor, Çin ve Kuzey Kore operasyonlarıyla bağlantılı hesapların bilgi operasyonlarını ve dolandırıcılığı desteklemek için nasıl kullandığını ayrıntılı olarak açıklayan Şubat güncellemesi de dahil olmak üzere Openai’nin önceki açıklamalarına dayanıyor. Şirket, yaklaşımının tespit yöntemlerini, insan gözetimini ve kötüye kullanımı sınırlamak için akranlarla işbirliğini birleştirdiğini söylüyor (bkz:: AI destekli gözetim araçlarını kullanarak Çin, Openai diyor).