OpenAI, Çinli Bilgisayar Korsanlarının Kötü Amaçlı Yazılım Geliştirmek İçin Kullandığı ChatGPT Hesaplarını Yasakladı

OpenAI, kötü amaçlı yazılımları iyileştirmek ve kimlik avı içeriği oluşturmak için AI modellerini kullanan Çin devletine bağlı bilgisayar korsanlığı gruplarıyla bağlantılı bir dizi ChatGPT hesabını yasakladığını duyurdu.

Ekim 2025 raporu, şirketin yapay zeka teknolojilerinin tehdit aktörleri ve otoriter rejimler tarafından kötüye kullanılmasını önleme konusundaki devam eden kararlılığının bir parçası olarak çeşitli kötü amaçlı ağların kesintiye uğramasını ayrıntılarıyla anlatıyor.

Şubat 2024’ten bu yana OpenAI, kullanım politikalarını ihlal eden 40’tan fazla ağı kesintiye uğrattı. Şirket, tehdit aktörlerinin, modellerle yeni saldırı yetenekleri geliştirmek yerine, hızı ve verimliliği artırmak için yapay zekayı mevcut stratejilere dahil ettiğini görmeye devam ettiğini belirtti.

Çin Bağlantılı Aktörler Siber Operasyonları Geliştiriyor

Rapordaki önemli bir vaka çalışması, “Siber Operasyon Kimlik Avı ve Komut Dosyaları” adlı OpenAI adlı bir gruba odaklanıyor. Çince konuşan kişiler tarafından işletilen bu hesap kümesi, kötü amaçlı yazılım geliştirme ve kimlik avı kampanyalarına yardımcı olmak için kullanıldı.

OpenAI’nin araştırması, grubun faaliyetlerinin Çin Halk Cumhuriyeti’nin (PRC) istihbarat gereksinimlerine hizmet eden siber operasyonlarla tutarlı olduğunu ortaya çıkardı. Faaliyet aynı zamanda UNKDROPPITCH ve UTA0388 olarak kamuya açık olarak takip edilen tehdit gruplarıyla da örtüşüyordu.

Bu bilgisayar korsanları ChatGPT’yi iki temel işlev için kullandı:

• Kötü Amaçlı Yazılım Geliştirme: GOVERSHELL ve HealthKick olarak bilinen kötü amaçlı yazılımlarla örtüşen uygulama ayrıntılarıyla birlikte araçların geliştirilmesine ve hata ayıklamasına yardımcı olmak için yapay zekayı kullandılar. Aktörler ayrıca DeepSeek gibi diğer yapay zeka modellerini kullanarak daha fazla otomasyon olanaklarını da araştırdı.
• Kimlik Avı İçeriği Oluşturma: Grup, Çince, İngilizce ve Japonca da dahil olmak üzere birçok dilde hedefli ve kültürel olarak uyarlanmış kimlik avı e-postaları oluşturdu. Hedefleri arasında Tayvan’ın yarı iletken sektörü, ABD akademisi ve Çin hükümetini eleştiren kuruluşlar yer alıyordu.

OpenAI, aktörlerin yeni tehdit türleri oluşturmak yerine, daha iyi kimlik avı e-postaları oluşturmak ve kodlama döngülerini kısaltmak gibi “artan verimlilik” elde etmek için modelleri kullandığını belirtti.

Raporda ayrıca Çin devlet kurumlarıyla bağlantılı diğer hesapların kesintiye uğraması da detaylandırıldı. Bu kullanıcılar gözetim ve profil oluşturma araçlarını geliştirmek için ChatGPT’yi kullanmaya çalıştı.

Yasaklanan bir kullanıcı, seyahat rezervasyonlarını ve polis kayıtlarını analiz etmek için tasarlanan “Yüksek Riskli Uygurlarla İlgili Giriş Uyarı Modeli” için bir teklif taslağı hazırlamak için yardım istedi.

Başka bir örnek, X (eski adıyla Twitter), Facebook ve Reddit gibi platformları “aşırılıkçı” olarak kabul edilen siyasi, etnik ve dini içerik için tarayabilecek bir “sosyal medya araştırması” tasarlama girişimini içeriyordu.

Diğer kullanıcıların, Çin hükümetini eleştirenleri araştırmak ve ÇHC’yi eleştiren hesapların finansman kaynaklarını belirlemek için yapay zekayı kullanmaları nedeniyle yasaklandı.

Azaltmalar

Bu bulgulara yanıt olarak OpenAI, daha geniş siber güvenlik çabalarına yardımcı olmak için kötü niyetli faaliyetlerle ilişkili tüm hesapları devre dışı bıraktı ve sektör ortaklarıyla paylaşılan uzlaşma göstergelerini devre dışı bıraktı.

Rapor, yapay zeka modellerinin genellikle bir güvenlik bariyeri görevi gördüğünü, kötü amaçlı kod oluşturmaya veya açıklardan yararlanmaya yönelik doğrudan talepleri reddettiğini vurguluyor. Aktörler, kendi başlarına kötü amaçlı olmayan “yapı taşı” kod parçacıkları oluşturmakla sınırlıydı.

OpenAI’nin bulguları, devlet destekli aktörlerin yapay zeka üzerinde aktif olarak deneyler yaparken, birincil kullanımının mevcut operasyonları artırmak olduğunu gösteriyor.

Şirket, araçlarının kötü niyetli siber faaliyetler, dolandırıcılıklar ve gizli etki operasyonları için kullanılmasını önlemek amacıyla bu tür suiistimalleri tespit etmeye ve engellemeye yatırım yapmaya devam ettiğini vurguladı.

Cyber Awareness Month Offer: Upskill With 100+ Premium Cybersecurity Courses From EHA's Diamond Membership: Join Today