Check Point Research (CPR), siber suçluların kötü niyetli içerik oluşturmak için yeni başlatılan AI modellerinden Deepseek ve Qwen’den giderek daha fazla yararlandığını ortaya koydu.
Sağlam istismar karşıtı hükümlere sahip olmayan bu modeller, ChatGPT gibi daha düzenlenmiş platformlarda tehdit aktörleri için hızla tercih edilen bir seçim haline gelmiştir.
Bu araçların sömürülmesi, düşük vasıflı saldırganların bile gelişmiş AI yeteneklerini sofistike saldırılar yürütmek için kullanabileceği siber tehdit manzarasındaki bir kaymayı vurgulamaktadır.
Yıllar boyunca sıkı istismar karşıtı mekanizmalar uygulayan ChatGPT’nin aksine, Deepseek ve Qwen, kötüye kullanıma karşı minimum direnç sunuyor gibi görünüyor.
Tehdit aktörleri, “jailbreak” olarak bilinen teknikler aracılığıyla bu modelleri değiştirmek için aktif olarak yöntemleri paylaşıyor ve kısıtlamaları atlamalarını ve sansürsüz veya zararlı içerik üretmelerini sağlıyor.
“Şimdi her şeyi yap” ve “uçak kazası hayatta kalanlar” yöntemleri gibi jailbreaking teknikleri, siber suçlu topluluklar arasında yaygın olarak dolaşıyor ve bu AI sistemlerinin kötüye kullanılmasını daha da kolaylaştırıyor.
Gerçek dünya istismarları
Deepseek ve Qwen’in kötüye kullanılması zaten gerçek dünya sonuçlarına yol açtı.
Örneğin, CPR, bu modellerin, şüphesiz kullanıcılardan hassas bilgileri çıkarmak için tasarlanmış Infostealers kötü amaçlı yazılım geliştirmek için kullanıldığı durumları belirlemiştir.
Buna ek olarak, siber suçlular, bankacılık karşıtı korumaları atlamak için Deepseek’i kullandılar ve potansiyel olarak büyük ölçekli mali hırsızlığı sağladılar.
Bir başka rahatsız edici eğilim, bu AI araçlarının kitle spam dağıtım kampanyalarında kullanılmasını içerir.
CHATGPT’yi Deepseek ve Qwen ile birleştirerek, saldırganlar spam operasyonları için komut dosyalarını optimize ediyor, verimliliklerini ve erişimini artırıyor.
Bu çok platform yaklaşımı, üretken AI teknolojileri tarafından yönlendirilen siber saldırıların artan karmaşıklığını vurgulamaktadır.
Düzenlenmemiş yapay zeka modellerinin artan tehdidi
Deepseek ve Qwen’in kötü niyetli aktörler tarafından hızlı bir şekilde benimsenmesi, ortaya çıkan AI teknolojilerinde daha güçlü önlemlere acil ihtiyacın altını çizmektedir.
Bu modellerin sansürsüz versiyonları, ChatGPT ile gözlemlenenlere benzer çevrimiçi depolarda ortaya çıkmaya başladığından, kötüye kullanımlarıyla ilişkili risklerin daha da artması beklenmektedir.
Bu araçlar sadece deneyimli bilgisayar korsanlarını güçlendirmekle kalmaz, aynı zamanda düşük vasıflı bireylerin kapsamlı teknik uzmanlık olmadan karmaşık saldırılar yapmalarını sağlar.
Check Point Research, bu düzensiz AI modellerinin ortaya çıkmasının siber güvenlik profesyonelleri için önemli bir zorluğu temsil ettiği konusunda uyarıyor.
Güvenlik açıklarını ele almak ve kötüye kullanımı önlemek için proaktif önlemler olmadan, kuruluşlar kötü amaçlı yazılım gelişimine, finansal sahtekarlığa ve üretken AI gelişmeleri tarafından desteklenen diğer siber tehditlere maruz kalma riskiyle karşı karşıyadır.
Yeni nesil AI araçlarını geliştirme yarışına devam ettikçe, güvenliğe öncelik vermek, sömürüleriyle ilişkili riskleri azaltmada kritik olacaktır.
Investigate Real-World Malicious Links & Phishing Attacks With Threat Intelligence Lookup - Try for Free