ChatGPT’nin karanlık varyantları gibi LLM’lerin kötü amaçlı versiyonlarının yükselişi, daha karmaşık ve otomatik saldırılara olanak sağlayarak siber savaşı artırıyor.
Bu modeller ikna edici kimlik avı e-postaları oluşturabilir, dezenformasyon yayabilir ve hedefe yönelik sosyal mühendislik mesajları üretebilir.
Tüm bu yasa dışı yetenekler, çevrimiçi güvenliğe yönelik önemli bir tehdit oluşturuyor ve orijinal ile kötü amaçlı içerik arasında ayrım yapma zorluğunu daha da artırıyor.
Zvelo’daki siber güvenlik araştırmacıları yakın zamanda ChatGPT’nin ve siber savaşın doğasını değiştiren diğer karanlık LLM’lerin kötü amaçlı versiyonlarının kullanımında önemli bir artış keşfetti.
Canlı saldırı simülasyonu Web Semineri, hesap ele geçirmenin çeşitli yollarını gösterir ve web sitelerinizi ve API’lerinizi ATO saldırılarına karşı korumaya yönelik uygulamaları gösterir.
Yerinizi Ayırın
Karanlık Yüksek Lisans Dereceleri
Yapay zekanın kötüye kullanımı artık sadece bir tehdit değil, giderek büyüyen bir gerçeklik. Yapay zeka jailbreak’leri, başlangıç seviyesindeki saldırganları siber tehditlere karşı güçlendiriyor ve karanlık LLM’lerin yükselişi, gelişmiş güvenlik çerçevelerine meydan okuyor.
Karanlık LLM’ler, ChatGPT’nin etik olmayan sürümlerini kısıtlama olmaksızın oluşturmak için OpenAI’nin API’sini kullandı.
Bu modeller, tehdit aktörlerinin kötü amaçlı kod oluşturmasına, zayıf noktalardan yararlanmasına ve hedef odaklı kimlik avı e-postaları oluşturmasına yardımcı olduğundan öncelikle siber suçlar için tasarlanmıştır.
Aşağıda bilinen karanlık Yüksek Lisans’lardan bahsettik: –
- XXXGPT: Siber suçlar için tasarlanmış kötü amaçlı bir ChatGPT sürümüdür ve botnet’ler, RAT’ler, Şifreleyiciler gibi çeşitli saldırılara ve tespit edilmesi zor kötü amaçlı yazılım oluşturulmasına olanak tanır ve bu da onu ciddi bir siber güvenlik tehdidi haline getirir.
- Kurt GPT’si: Bu, geniş kötü amaçlı veri kümelerinden şifreli kötü amaçlı yazılım oluşturmak için Python’u kullanır. Gelişmiş kimlik avına olanak tanıyan saldırganın anonimliğini artırma konusunda başarılıdır ve XXXGPT gibi, güçlü bir gizleme yöntemiyle siber güvenlik ekiplerini başka yöne yönlendirir.
- WormGPT: WormGPT tamamen kötü amaçlı yazılım oluşturmayla siber suçlarda öne çıkan 2021 GPT-J modelini temel alıyor. Bu modelin benzersiz özellikleri arasında sınırsız karakter, sohbet belleği ve kod biçimlendirme yer alır. Birden fazla yapay zeka modeli aracılığıyla gizliliğe, hızlı yanıtlara ve dinamik kullanıma öncelik verir.
- – DarkBARD: DarkBARD AI, Google’ın siber suçlarda öne çıkan BARD AI’sinin kötü amaçlı versiyonudur. Yanlış bilgi ve derin sahtekarlıklar oluşturarak ve çok dilli iletişimleri yöneterek şeffaf webden gerçek zamanlı verileri işler. Çeşitli içerikler oluşturabilir ve Google Lens ile entegre olabilir, ayrıca fidye yazılımı ve DDoS saldırılarında da ustadır.
Yukarıda bahsedilenler gibi Karanlık LLM’ler çeşitli yasa dışı faaliyetlerde tespit edilmiştir. Hedefli araştırmaları sentezliyorlar, kimlik avı planlarını geliştiriyorlar ve dolandırıcılık ve erken aşama saldırıları için ses tabanlı yapay zeka kullanıyorlar.
Güvenlik açığı keşfini ve kötü amaçlı yazılımların yayılmasını otomatik hale getirdikçe yapay zeka odaklı saldırılar artıyor. Yapay zeka, ikna edici sahte profiller ve kaçan kötü amaçlı yazılımlarla kimlik avını geliştirir.
Tehdit aktörleri ayrıca karmaşık taktikler için derin sahtekarlıklar, dezenformasyon, yapay zeka botnet’leri, tedarik zinciri saldırıları, veri zehirlenmesi ve gelişmiş şifre tahmin etme yöntemlerini kullanıyor.
Karanlık yüksek lisans eğitimlerinden kaynaklanan gelişmiş siber tehditlerdeki artış, siber güvenliğin kritik bir şekilde yeniden değerlendirilmesini gerektiriyor. Geleneksel savunmalar ve kullanıcının kimlik avı tanımaya güvenmesi artık yeterli değil.
Yapay zekanın ikna edici e-postaları simüle etme kapasitesi, kimlik avı tespiti ve farkındalık eğitiminin yeniden düşünülmesinin gerekliliğini ortaya koyan büyük bir değişimi gösteriyor.
Siber Güvenlik haberleri, Teknik İncelemeler ve İnfografiklerden haberdar olun. Bizi LinkedIn’de takip edin & heyecan.