Büyük dil modellerinin (LLMS) hızlı evrimi sadece meşru endüstrileri dönüştürmekle kalmadı, aynı zamanda siber suçluların eline geçti.
Kötü şöhretli bir Blackhat AI aracı olan Wormgpt, son zamanlarda Xai’nin GroK ve Mistral AI’s Mixtrral gibi gelişmiş modellerle güçlendirilmiş gelişmiş formlarda yeniden ortaya çıktı ve siber güvenlik topluluğunda yeni endişeler yarattı.
Wormgpt’in yükselişi ve düşüşü
Wormgpt ilk olarak Haziran 2023’te hack forumlarında ortaya çıktı ve siyah şapka faaliyetlerini kolaylaştırmak için tasarlanmış sansürsüz bir üretken AI aracı olarak hızla kötü şöhret kazandı.
.png
)
“Son” olarak bilinen bir kişi tarafından geliştirilen Wormgpt, insan benzeri metin üretebilen 6 milyar parametreli açık kaynaklı bir model olan Eleutherai’nin GPT-J’sine dayanıyordu.
Abonelik tabanlı fiyatlandırması, ayda 60 € ila 100 € veya yılda 550 € arasında değişen, yaklaşık 5.000 € için özel bir kurulum seçeneği ile siber suçlu ekosistem içindeki değerini yansıttı.
Ancak aracın popülaritesi çöküşüne yol açtı. Ağustos 2023’te, yaratıcıyı tanımlayan araştırmacı gazeteci Brian Krebs’in bir maruziyetini takiben Wormgpt aniden kapatıldı.
Geliştiriciler, aşırı medyaya maruz kalmayı ve sonuçta olumsuz tanıtımı, anonimlik ve yasal sonuçlardan korkma arzusunun altını çizerek kapanmanın nedenleri olarak belirtti.
Wormgpt’in kapanmasına rağmen, markası kötü niyetli kullanım için sansürsüz LLM’lerin sembolü olarak gelişmeye devam etti.
Varyantlar hızla bir başka önde gelen yeraltı forumu olan Breachforums’ta ortaya çıktı. Ekim 2024’te, “Xzin0vich” adlı bir kullanıcı, bir telgraf chatbotu aracılığıyla erişim sunan ve bir abonelik ve bir kerelik ödeme modelinde çalışan yeni bir WORMGPT varyantı duyurdu.
“XZIN0VICH” WORMGPT duyuruyor
Şubat 2025’e kadar, Wormgpt’in siber suçlu araç setindeki yerini daha da sağlamlaştıran “Keanu” tarafından başka bir varyant tanıtıldı.
Teknik Geliştirmeler: GroK ve Mixtrral
Cato CTRL’nin analizi, en son WORMGPT varyantlarının en son LLM’lerle güçlendirildiğini ortaya koydu-özellikle Xai’nin GROK ve Mistral AI’s Mixtrral’ı. Bu geliştirmeler, yetenek ve sofistike önemli bir sıçrama işaret ediyor:
- Keanu-Wormgpt: Bu varyant, GROK’ın yerleşik korkuluklarını atlatmak ve kötü niyetli içerik üretmek için özel bir sistem istemini kullanan GROK API’sını kullanır. Müfettişler, altta yatan modeli ortaya çıkarmak için Jailbreak tekniklerini kullandılar ve Grook’u Keanu-Wormgpt’in arkasındaki motor olarak doğruladılar.
- xzin0vich-wormgpt: Sızan sistem istemlerinin ve chatbot yanıtlarının analizi, bu varyantın Mixtrral üzerine inşa edildiğini gösterdi. Sistem, Mixtrral’a açıkça referans verir ve jeton başına iki aktif uzman kullanımı ve gruplandırılmış sorgu dikkati için sekiz anahtar değeri başlığı temelini doğrular. Modelin kötü niyetli davranışı sistem istemi ile tanımlanır ve yasadışı veri kümelerinde ince ayar yaparak daha da geliştirilebilir.
Wormgpt’in yeniden canlanması ve evrimi rahatsız edici bir eğilimi vurgulamaktadır: siber suçlar içinde sansürsüz, kötü niyetli LLM’ler için büyüyen pazar.
Her biri kimlik avı e -posta üretiminden hack öğreticilerine kadar çeşitli yetenekler sunan Fraudgpt, Darkbert, EvilGpt ve Poisongpt gibi diğer araçlar da ortaya çıktı.
Buna ek olarak, tehdit aktörleri, güvenlik önlemlerini atlamak için ChatGPT ve Google Bard gibi ana akım LLM’leri giderek daha fazla jailbreak yapmaya çalışıyor ve bazıları bile belirli saldırı vektörlerine göre özel sansürsüz modeller geliştirmek için AI uzmanlarını işe alıyor.
WORMGPT’nin GroK ve Mixtrral ile geliştirilmesi, tehdit aktörlerinin Hakkâr amaçlar için AI’daki en son gelişmelerden nasıl yararlandığını göstermektedir.
Bu araçlar daha sofistike ve erişilebilir hale geldikçe, siber güvenlik manzarası benzeri görülmemiş zorluklarla karşı karşıya. Güvenlik profesyonelleri arasında uyanıklık, yenilik ve işbirliği, Wormgpt gibi Blackhat AI araçlarının yarattığı gelişen tehdide karşı koymak için gereklidir.
Bu haberi ilginç bul! Anında güncellemeler almak için bizi Google News, LinkedIn ve X’te takip edin