Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Bilgisayar Korsanları Yapay Zeka Dışı Araçların Gerçekleştirebileceği Görevleri Gerçekleştirmek için Yüksek Lisans’ları Kullandı
Rashmi Ramesh (raşmiramesh_) •
15 Şubat 2024
Yapay zeka şirketi Salı günü, büyük mali destekçisi Microsoft ile birlikte yaptığı açıklamada, Rus askeri istihbaratı ve Çin tarafından desteklenen bilgisayar korsanlarının da aralarında bulunduğu ulus-devlet bilgisayar korsanlarının araştırma yapmak ve kimlik avı e-postaları oluşturmak için OpenAI geniş dil modellerini kullandığını açıkladı.
Ayrıca bakınız: Web Semineri I Kurumsal Müşteri Kararlarına Entegre Bir Yaklaşımla Kuruluşunuzu Geleceğe Hazırlayın
OpenAI, İran ve Kuzey Kore ile bağlantılı tehdit aktörlerinin de GPT-4’ü kullandığını söyledi. Ulus devlet korsanları, chatbot’u öncelikle uydu iletişim protokolleri gibi açık kaynaklı bilgileri sorgulamak, içeriği kurbanların yerel dillerine çevirmek, kodlama hatalarını bulmak ve temel kodlama görevlerini yürütmek için kullandı.
OpenAI, “Bu aktörlerle ilişkili olduğu belirlenen OpenAI hesapları sonlandırıldı” dedi. Operasyonu Microsoft ile işbirliği içinde yürüttü.
Washington merkezli teknoloji devi Redmond, “Microsoft ve OpenAI, tehdit aktörlerinin yapay zeka kullanımından kaynaklanan özellikle yeni veya benzersiz yapay zeka destekli saldırı veya kötüye kullanma tekniklerini henüz gözlemlemedi” dedi. Microsoft’un OpenAI ile ilişkisi birçok ulusal antitröst otoritesi tarafından inceleniyor.
İngiliz hükümetinin bu ayın başlarında yayınlanan bir araştırması, büyük dil modellerinin acemi bilgisayar korsanlarının yeteneklerini artırabileceği ancak şu ana kadar ileri düzey tehdit aktörleri için pek işe yaramadığı sonucuna vardı (bkz: Büyük Dil Modelleri Bilgisayar Korsanlarının Yerini Almayacak).
Çin’e bağlı Charcoal Typhoon, şirketleri ve siber güvenlik araçlarını araştırmak, kodlarda hata ayıklamak, komut dosyaları oluşturmak ve kimlik avı kampanyalarında kullanılması muhtemel içerik oluşturmak için ChatGPT’yi kullandı. Grup, hükümet, yüksek öğrenim, iletişim altyapısı, petrol ve gaz ve bilgi teknolojisi gibi sektörleri hedef alıyor. Öncelikle Asya ülkelerine ve Çin’in politikalarına karşı çıkanlara odaklanıyor. Aynı zamanda Aquatic Panda, ControlX, RedHotel ve Bronze University olarak da adlandırılmaktadır.
Çin ile de bağlantıları olan Salmon Typhoon, teknik belgeleri çevirmek, istihbarat teşkilatları ve bölgesel tehdit aktörleri hakkında kamuya açık bilgileri almak, teknik belgeleri kodlamak, özetlemek ve bir sistemdeki süreçleri gizlemenin yaygın yollarını araştırmak için ChatGPT’yi kullandı. Sodium, APT4 ve Maverick Panda olarak da adlandırılan tehdit aktörü daha önce ABD savunma yüklenicilerini, devlet kurumlarını ve kriptografik teknoloji sektöründeki kuruluşları hedef almıştı. On yıldan fazla bir süredir hareketsiz kaldıktan sonra yakın zamanda yeniden ortaya çıktı.
Microsoft, “LLM’lerle olan bu geçici etkileşim, hem istihbarat toplama araç setlerinin genişletilmesini hem de yeni ortaya çıkan teknolojilerin yeteneklerinin değerlendirilmesinde deneysel bir aşamayı yansıtabilir” dedi.
İran bağlantılı Crimson Sandstorm, uygulama ve web geliştirme ile ilgili komut dosyası desteği sağlamak, hedef odaklı kimlik avı kampanyaları için içerik oluşturmak ve kötü amaçlı yazılımların tespitten kaçmasının yaygın yollarını araştırmak için ChatGPT’yi kullandı. Potansiyel olarak İslam Devrim Muhafızları Birliği’ne bağlı olan ve en az 2017’den beri faaliyet gösteren Crimson Sandstorm, savunma, deniz taşımacılığı, ulaştırma, sağlık ve teknoloji sektörlerindeki mağdurları hedef alıyor. Aynı zamanda Kaplumbağa Kabuğu, Imperial Kitten ve Sarı Liderc olarak da adlandırılır.
Kuzey Koreli Emerald Sleet, Asya-Pasifik bölgesindeki savunma sorunlarına odaklanan uzmanları ve kuruluşları bulmak, güvenlik açıkları hakkında kamuya açık bilgiler aramak, temel komut dosyası yazma görevlerinde yardım almak ve kimlik avı kampanyalarında kullanılabilecek taslak içerik hazırlamak için ChatGPT’yi kullandı. 2023’te “son derece aktif” olan hacker grubu, mağdurları Kuzey Kore ile ilgili dış politikalar hakkında uzman görüşleri ve yorumlarıyla yanıt vermeye ikna etmek için akademik kurumları ve sivil toplum kuruluşlarını taklit etti. Grup aynı zamanda Kimsuky ve Velvet Chollima olarak da biliniyor.
Russian Forest Blizzard, teknik operasyonları potansiyel olarak otomatikleştirmek veya optimize etmek amacıyla uydu iletişim protokolleri ve radar görüntüleme teknolojisine yönelik açık kaynaklı araştırma ve dosya işleme, veri seçimi, düzenli ifadeler ve çoklu işleme gibi komut dosyası oluşturma görevlerini desteklemek için GPT-4’ü kullandı. APT28 ve Fancy Bear olarak da adlandırılan askeri istihbarat aktörü, savunma, ulaştırma, hükümet, enerji, sivil toplum kuruluşları ve bilgi teknolojileri alanındaki mağdurlara odaklanıyor. Tehdit grubu, Rusya-Ukrayna savaşıyla ilgili ve bununla bağlantılı örgütleri hedeflemede “son derece aktif”.
OpenAI, yasa dışı faaliyetlerin “her örneğini durduramayacağını” ancak tehditleri tespit edip etkisiz hale getirmek için bir ekip kurduğunu ve bilgi alışverişi için daha geniş yapay zeka endüstrisiyle birlikte çalıştığını söyledi. Microsoft, “Savunucular, siber güvenlik dengesini kendi lehlerine değiştirmek ve rakiplerin önünde kalmak için üretken yapay zekanın gücünü daha yeni fark etmeye ve uygulamaya başlıyor” dedi.