Openai, diğer şeylerin yanı sıra, kötü amaçlı yazılım geliştirme, sosyal medya otomasyonu ve ABD uydu iletişim teknolojileri hakkındaki araştırmalara yardımcı olmak için Rusça konuşan tehdit aktörleri ve iki Çin ulus devlet hackleme grubu tarafından işletilen bir dizi ChatGPT hesabı yasakladığını açıkladı.
” [Russian-speaking] Oyuncu, modellerimizi Windows kötü amaçlı yazılım geliştirmeye ve geliştirmeye yardımcı olmak, birden çok dilde kodu hata ayıklamak ve komut ve kontrol altyapılarını oluşturmaya yardımcı olmak için kullandı, “dedi Openai, tehdit istihbarat raporunda.
GO tabanlı kötü amaçlı yazılım kampanyası, yapay zeka (AI) şirketi tarafından scopecreep olarak kodlanmıştır. Etkinliğin doğada yaygın olduğuna dair bir kanıt yoktur.
Tehdit oyuncusu, Openai’ye göre, ChatGPT’ye kaydolmak için geçici e -posta hesapları kullandı ve oluşturulan hesapların her birini kötü amaçlı yazılımlarında tek bir artımlı iyileştirme yapmak için bir konuşma yapmak için kullandı. Daha sonra hesabı terk ettiler ve bir sonrakine geçtiler.
Openai, kodlarına ince ayar yapmak için bir hesap ağı kullanma uygulamasının, rakiplerin operasyonel güvenliğe (OPSEC) odaklanmasını vurguladığını belirtti.
Saldırganlar daha sonra AI destekli kötü amaçlı yazılımları, Crosshair X adlı meşru bir video oyunu çapraz kaplama aracı taklit eden halka açık bir kod deposu aracılığıyla dağıttılar. Yazılımın truva atma sürümünü indiren kullanıcılar, sistemlerine bir dış sunucudan ek yükler almak ve yürütme için bir kötü amaçlı yükleyici tarafından enfekte olmuşlardı.
Openai, “Oradan, kötü amaçlı yazılım, ayrıcalıkları artırmak, gizli kalıcılık oluşturmak, tehdit oyuncusunu bilgilendirmek ve tespitten kaçınırken duyarlı verileri dışarı atmak için çok aşamalı bir süreç başlatmak için tasarlanmıştır.” Dedi.
“Kötü amaçlı yazılım, Shellexecutew ile yeniden başlatarak ayrıcalıkları artıracak şekilde tasarlanmıştır ve PowerShell’i Windows Defender’dan programlı olarak dışlamak, konsol pencerelerini bastırmak ve zamanlama gecikmelerini eklemek için PowerShell’i kullanarak algılamadan kaçınmaya çalışır.”
Scopecreep tarafından dahil edilen diğer taktikler arasında, kaynak IP adreslerini gizlemek için yükleri, DLL yan yükleme tekniklerini ve SOCKS5 proxy’lerini gizlemek için Base64 kodlama kullanımı bulunmaktadır.
Kötü amaçlı yazılımların nihai amacı, web tarayıcılarında depolanan kimlik bilgilerini, jetonları ve çerezleri toplamak ve bunları saldırgana eklemektir. Ayrıca, yeni kurbanlar tehlikeye girdiğinde tehdit aktörleri tarafından işletilen bir telgraf kanalına uyarılar gönderebilir.
Openai, tehdit aktörünün modellerinden bir HTTPS isteği ile ilgili bir Go kodu snippet’ini hata ayıklamasını ve Telegram API’sını entegre etmek ve PowerShell komutlarını Windows Defender ayarlarını değiştirmek için, özellikle antivirüs münhasırları ekleme söz konusu olduğunda kullanma konusunda yardım istediğini belirtti.
Openai tarafından devre dışı bırakılan ikinci chatgpt hesaplarının Çin’e atfedilen iki hackleme grubuyla ilişkili olduğu söyleniyor: ATP5 (aka bronz fleetwood, anahtar deliği panda, manganez ve unc2630) ve AKE flea, nylon typhoon, playful taurus, kraliyet apt ve vixen pand)
Bir alt küme, çeşitli ilgi ve teknik konularda açık kaynaklı araştırmalarla ilgili konularda AI chatbot ile ilgilenirken, komut dosyalarını veya sorun giderme sistemi yapılandırmalarını değiştirdi.
Openai, “Tehdit aktörlerinin bir başka alt kümesi, Linux sistem yönetimi, yazılım geliştirme ve altyapı kurulumu da dahil olmak üzere destek faaliyetlerinin geliştirilmesine çalışıyor gibi görünüyordu.” Dedi. “Bu faaliyetler için, tehdit aktörleri modellerimizi yapılandırmaları gidermek, yazılımı değiştirmek ve uygulama ayrıntıları hakkında araştırma yapmak için kullandılar.”
Bu, çevrimdışı dağıtım ve yapılandırılmış güvenlik duvarlarına ve ad sunucularına ilişkin tavsiyeler için yardım oluşturma yazılım paketleri istemekten oluşuyordu. Hem Web hem de Android uygulama geliştirme faaliyetleriyle uğraşan tehdit aktörleri.
Buna ek olarak, Çin bağlantılı kümeler, FTP sunucularına girebilen, penetrasyon testlerini otomatikleştirmek için büyük dil modelleri (LLMS) kullanma hakkında araştırma yapmak ve Facebook, tiktok ve X gibi sosyal medya platformları gibi içerikleri programlı olarak yayınlamak veya beğenmek için kod geliştirmek için araştırmalar yapmak için chatgpt’i silahlandırdı.
CHATGPT’yi hain yollarla kullanan diğer kötü niyetli etkinlik kümelerinden bazıları aşağıda listelenmiştir –
- Kuzey Kore BT işçi şemasıyla tutarlı olarak, Openai’nin modellerini, dünyadaki yazılım mühendisliği ve diğer uzak işlere başvurma konusundaki hileli girişimlerini ilerletebilecek materyaller geliştirerek aldatıcı istihdam kampanyalarını yönlendirmek için kullanan bir ağ
- Sneer ReviewFacebook, Reddit, Tiktok ve X’te paylaşmak için ülkeyle jeopolitik alaka düzeyinde İngilizce, Çince ve Urduca toplu olarak Openai’nin modellerini toplamak için kullanan olası bir Çin-orijin faaliyeti
- Operasyon Yüksek BeşFacebook ve Tiktok’ta Paylaşım için Filipinler’deki siyaset ve güncel olaylarla ilgili konularda İngilizce ve Taglish’de toplu olarak kısa yorumlar üretmek için Openai’nin modellerini kullanan Filipinler-Origin etkinliği
- Operasyon Belirsiz OdakGazeteciler ve Jeopolitik analistler olarak poz vererek, bilgisayar ağı saldırısı ve sömürü araçları hakkında sorular sorarak ve şüpheli sosyal mühendislik girişimlerinin bir parçası olarak e-postaları ve mesajları İngilizce’ye çevirerek X’te paylaşmak için sosyal medya yayınları oluşturmak için Openai’nin modellerini kullanan bir Çin-Origin etkinliği
- Helgoland Operasyonu ısırığıAlman 2025 seçimleri hakkında Rusça dil içeriği üretmek için Openai’nin modellerini kullanan ve ABD ve NATO’yu telgraf ve X’de paylaşmak için eleştiren olası bir Rusya-Origin faaliyeti
- Operasyon Amca AmcaBluesky ve X’te paylaşmak için ABD içindeki bölücü konuların her iki tarafını da destekleyen kutupsal sosyal medya içeriği üretmek için Openai’nin modellerini kullanan bir Çin-Origin etkinliği
- Storm-201035, Openai’nin modellerini İngilizce ve İspanyolca’da Latin hakları, İskoç bağımsızlığı, İrlanda yeniden birleşmesi ve Filistin haklarına destek veren kısa yorumlar üretmek için kullanan ve İran’ın askeri ve diplomatik yasaları, ABD, İrlanda ve Venezuela’nın askeri ve diplomatik yasalarını, ABD, İngiltere, İrlanda ve Venezuela’nın sakinleri olarak paylaşmak için paylaşmak için övdü.
- Operasyon yanlış numarasıÇin tarafından işletilen görev aldatmacası ile ilgili olası bir Kamboçya-Origin faaliyeti, Openai’nin modellerini İngilizce, İspanyolca, Svahili, Kinaretwanda, Almanca ve Haiti Creole’de kısa işe alım tarzı mesajlar üretmek için kullanan Sosyal Medya Postaları’nı sevme gibi yüksek maaşları reklam veren sendikasyonlar
Openai’den Ben Nimmo, Albert Zhang, Sophia Farquhar, Max Murphy ve Kimo Bumanglag, “Bu şirketlerin bazıları, yeni işe alım ücretleri alarak faaliyet göstererek faaliyet gösterdi, daha sonra bu fonların bir kısmını mevcut ‘çalışanlara’ katılımlarını sürdürecek kadar ödemek için kullanıyor.” Dedi. “Bu yapı görev dolandırıcılığının karakteristiğidir.”