2023’te bildirilen kapatılmasına rağmen, Wormgpt yasadışı eylemler için bir tür sansürsüz yapay zeka (AI) aracı bir geri dönüş yapıyor. Cato Networks’teki tehdit istihbarat ekibi Cato CTRL’den yeni araştırmalar, Wormgpt’in Xai’s GroK ve Mistral AI’s Mixtrral dahil olmak üzere tanınmış AI şirketlerinden güçlü büyük dil modellerinden (LLMS) sömürdüğünü ortaya koyuyor.
Bu, siber suçluların bu gelişmiş LLM’lerin (Openai’nin chatgpt gibi insan benzeri metin üreten AI sistemleri) yerleşik güvenlik özelliklerini atlamak için jailbreak teknikleri kullandığı anlamına gelir. Suçlular, yapay zekayı “etik dışı veya yasadışı olsa bile,“ çok çeşitli konulara sansürsüz yanıtlar ”üretmeye zorladılar.
Kötü niyetli bir aletin evrimi
Wormgpt ilk olarak Mart 2023’te hack forumları adlı bir yeraltı çevrimiçi forumunda ortaya çıktı ve halka açık yayınlanması daha sonra Hackread.com tarafından bildirildiği gibi, 20123’ün ortalarında izledi. Son Alias tarafından bilinen yaratıcı, Şubat 2023’te aracı geliştirmeye başladığı bildirildi. Wormgpt başlangıçta 2021’de geliştirilen açık kaynaklı bir LLM olan GPT-J’ye dayanıyordu. Tipik olarak aylık 60 € veya 550 € arasında bir abonelik ücreti için teklif edildi.
Bununla birlikte, orijinal Wormgpt, soruşturma muhabiri Brian Krebs’in son arkasındaki kişiyi Rafael Morais olarak tanımlayan bir hikaye yayınladıktan sonra 8 Ağustos 2023’te kapatıldı.
Buna rağmen, Wormgpt artık bu tür araçların yeni bir grubu için tanınmış bir marka haline geldi. Cato Networks’ten Güvenlik Araştırmacısı Vitaly Simonovich, “Wormgpt şimdi yeni bir sansürsüz LLM sınıfı için tanınabilir bir marka olarak hizmet ediyor.” Dedi.
Bu yeni versiyonların tamamen yeni kreasyonlar olmadığını, ancak mevcut LLM’leri akıllıca değiştiren suçlular tarafından inşa edildiğini de sözlerine ekledi. Bunu sistem istemleri adı verilen gizli talimatları değiştirerek ve muhtemelen AI’yı yasadışı verilerle eğiterek yaparlar.
Yeni varyantlar ve güçleri
Cato CTRL’nin araştırması, daha önce bildirilmemiş WORMGPT varyantları, Breachforums gibi diğer siber suç forumlarında reklamı buldu. Örneğin, “xzin0vich-WormGPT”26 Ekim 2024’te yayınlandı ve”keanu-WormGPT”25 Şubat 2025’te ortaya çıktı. Bu yeni sürümlere erişim, ayrıca abonelik bazında Telegram Chatbots üzerinden.
Testleri sayesinde Cato CTRL, Keanu-Wormgpt’in Xai’nin GROK’sı tarafından desteklendiğini, Xzin0vich-Wormgpt’in Mistral Ai’nin karışımına dayandığını doğruladı. Bu, suçluların, kimlik avı e-postaları ve bilgileri çalmak için komut dosyaları gibi kötü niyetli içerikler oluşturmak için üst düzey ticari LLM’leri başarıyla kullandıkları anlamına gelir.
Bu araçların ortaya çıkması, Fraudgpt ve Darkbert gibi diğer sansürsüz LLM’lerin yanı sıra, AI destekli suç araçları için büyüyen bir pazar gösteriyor ve AI sistemlerini güvence altına almanın sürekli zorluğunu vurgulamaktadır.
J Stephen Kowski, Slashnext e -posta güvenliğinde Field CTO+ en son geliştirme belirtisi hakkında yorum yaptı, “Wormgpt evrimi, suçluların AI araçlarını kullanma konusunda nasıl daha akıllı olduklarını gösteriyor-ama dürüst olalım, bunlar genel amaçlı araçlar ve uzun vadede kötü niyetli kullanım beklemeden bu araçları inşa eden herkes oldukça saftı.“
“Gerçekten ilgili olan, bunların sıfırdan inşa edilmiş yeni AI modelleri olmamasıdır – güvenilir sistemler alıyorlar ve siber suç için silah oluşturmak için güvenlik kurallarını çiğniyorlar.“ Uyardı. “Bu, kuruluşların sadece bilinen kötü araçları engellemenin ötesinde düşünmeleri ve hangi platformun yarattığına bakılmaksızın yapay zeka tarafından üretilen içeriğin nasıl davrandığına bakmaya başlaması gerektiği anlamına gelir.“