OpenAI, bilgisayar korsanlarının kötü amaçlı yazılım oluşturmak ve siber saldırılar gerçekleştirmek için ChatGPT yapay zeka modelinden yararlandığını doğruladı.
Yapay zeka araştırma şirketi, 2024’ün başından bu yana tehdit aktörlerinin ChatGPT’yi kötü amaçlarla kullanmaya çalıştığı 20’den fazla örneği ayrıntılarıyla anlatan bir rapor yayınladı.
“Etki ve Siber Operasyonlar: Bir Güncelleme” başlıklı rapor, Çin ve İran gibi ülkelerdeki devlet destekli bilgisayar korsanlığı gruplarının, saldırgan siber operasyonlarını geliştirmek için ChatGPT’nin yeteneklerinden yararlandığını ortaya koyuyor. Bu faaliyetler, kötü amaçlı yazılım kodunda hata ayıklamaktan kimlik avı kampanyaları ve sosyal medya dezenformasyonu için içerik oluşturmaya kadar uzanır.
Dikkate değer vakalardan biri, ChatGPT’yi keşif, güvenlik açığı araştırması ve kötü amaçlı yazılım geliştirme için kullanmaya çalışan “SweetSpecter” adlı Çinli bir tehdit aktörüyle ilgiliydi. Hatta grup, şirket çalışanlarına yönelik başarısız hedef odaklı kimlik avı saldırılarıyla OpenAI’yi doğrudan hedef aldı.
Analyse Any Suspicious Links Using ANY.RUN’s New Safe Browsing Tool: Try for Free
Tehdit Aktörleri OpenAI’yi Kötüye Kullanıyor
Bir diğer önemli tehdit ise İslam Devrim Muhafızları Birliği ile bağlantılı İranlı bir grup olan “CyberAv3ngers”tan geldi. Bu aktör, endüstriyel kontrol sistemlerindeki güvenlik açıklarını araştırmak ve kritik altyapıya yönelik olası saldırılara yönelik komut dosyaları oluşturmak için ChatGPT’yi kullandı.
OpenAI ayrıca kişiler, çağrı kayıtları ve konum bilgileri de dahil olmak üzere hassas kullanıcı verilerini çalabilen Android kötü amaçlı yazılım geliştirmek için yapay zeka modelini kullanan üçüncü bir İranlı grup olan “STORM-0817″yi de belirledi.
Bu bulgular endişe verici olsa da OpenAI, ChatGPT kullanımının kötü amaçlı yazılım oluşturmada veya etki operasyonları için viral hedef kitleler oluşturma becerisinde önemli bir ilerlemeye yol açmadığını vurguladı.
Şirket, gözlemlenen faaliyetlerin GPT-4’ün yeteneklerine ilişkin değerlendirmeleriyle tutarlı olduğunu ve bunun gerçek dünyadaki güvenlik açığından yararlanma konusunda maddi olarak ileri düzeyde olduğuna inanmadıklarını belirtti.
Bununla birlikte rapor, yapay zeka araçlarının siber suçlar için kötüye kullanıldığına ilişkin artan endişeye dikkat çekiyor. Üretken yapay zeka daha karmaşık ve erişilebilir hale geldikçe, daha az vasıflı bilgisayar korsanlarının giriş engelini azaltma ve düşük seviyeli siber saldırılarda potansiyel olarak artışa yol açma riski ortaya çıkıyor.
Bu tehditlere yanıt olarak OpenAI, belirlenen operasyonlarla ilişkili hesapların yasaklanması da dahil olmak üzere kötü niyetli faaliyetleri engellemek için önlemler uygulamaya koydu. Şirket ayrıca tehdit istihbaratını paylaşmak ve kolektif siber güvenlik savunmalarını geliştirmek için sektör ortakları ve ilgili paydaşlarla işbirliği yapıyor.
Siber güvenlik uzmanları, yapay zeka teknolojisi geliştikçe bu eğilimin devam edeceği konusunda uyarıyor. Yapay zeka şirketlerinin, modellerinin kötü amaçlarla kötüye kullanılmasını önlemek için sağlam korumalar ve tespit mekanizmaları geliştirmeleri gerektiğini vurguluyorlar.
OpenAI’den gelen açıklamalar, teknoloji endüstrisi ve politika yapıcılar için gelişmiş AI sistemleriyle ilişkili potansiyel riskleri ele almaları için bir uyandırma çağrısı görevi görüyor.
Yapay zeka, dijital hayatımızın çeşitli yönlerine giderek daha fazla entegre hale geldikçe, inovasyon ve güvenlik arasında bir denge kurmak, bu güçlü araçları kullanan kötü niyetli aktörlerin oluşturduğu tehditleri azaltmak açısından hayati önem taşıyacak.
OpenAI, modellerini zararlı amaçlar doğrultusunda kötüye kullanma girişimlerini belirlemek, önlemek ve engellemek için sürekli çaba göstermeye kararlıdır. Şirket, bulgularını daha geniş araştırma topluluğuyla paylaşmaya devam etmeyi ve devletle bağlantılı siber aktörlere ve gizli nüfuz operasyonlarına karşı çok katmanlı savunmasını güçlendirmek için çalışmayı planlıyor.
Yapay zeka ortamı gelişmeye devam ettikçe, yapay zeka geliştiricileri, siber güvenlik uzmanları ve devlet kurumları arasındaki dikkatlilik ve işbirliği, ortaya çıkan tehditlerin önünde kalmak ve yapay zeka teknolojisinin faydalarının küresel güvenlikten ödün vermeden gerçekleştirilebilmesini sağlamak için hayati önem taşıyacak.
Strategies to Protect Websites & APIs from Malware Attack => Free Webinar