Openai’nin Chatgpt ve Google’ın İkizleri gibi üretken yapay zeka (Genai) araçlarının artan popülaritesi, bu teknolojileri kötü niyetli amaçlar için kullanmaya çalışan siber suçluları çekti.
Kötüye kullanımı önlemek için geleneksel Genai platformları tarafından uygulanan korkuluklara rağmen, siber suçlular, Wormgpt, Fraudgpt, Evil-GPT ve Ghostgpt dahil olmak üzere kendi kötü niyetli büyük dil modellerini (LLM’ler) geliştirerek bu kısıtlamaları atlattılar.
Deepseek’in Deepseek V3 ve Deepseek R1 gibi yerel LLM’lerinin son açık kaynaklı serbest bırakılması, erişilebilirlikleri ve koruma eksiklikleri nedeniyle siber suçluların potansiyel kötüye kullanımı konusunda endişelerini dile getirdi.
Tenlenebilir araştırmalar, kötü amaçlı yazılım oluşturma yeteneğini değerlendirmek için Deepseek R1’in derinlemesine bir analizi yürütmektedir.
Bu araştırma iki senaryoya odaklandı: bir Windows Keylogger oluşturmak ve basit bir fidye yazılımı programı geliştirmek.
KeyLogger Oluşturma: Zorluklar ve Güvenlik Açıkları
C ++ ‘da Windows tabanlı bir keylogger yazması istendiğinde, Deepseek başlangıçta etik ve yasal kaygılara atıfta bulunarak reddetti.
Ancak araştırmacılar, talebi “eğitim amaçlı” olarak çerçeveleyerek korkuluklarını atlayabildiler.
Akıl yürütme yeteneklerini kullanarak-düşünce zinciri (COT) isteyen-Deepseek, bir keylogger oluşturmak için gereken adımları özetledi.
Deepseek tarafından oluşturulan ilk kod buggy ve gerekli manuel düzeltmelerdi. Örneğin:
- Yanlış kullanım
WS_EX_TOOLBARyerini aldıWS_EX_TOOLWINDOW. - İş parçacığı izleme parametrelerindeki hatalar düzeltildi.
- Günlük tuş vuruşları ile ilgili sorunların biçimlendirilmesi ele alındı.
Bu ayarlamalardan sonra, Keylogger tuş vuruşlarını başarıyla yakaladı ve bunları gizli bir dosyada sakladı.
Araştırmacılar, günlük dosyası için şifreleme uygulayarak ve algılamayı daha zor hale getirmek için gizli dosya özniteliklerini kullanarak kötü amaçlı yazılımları geliştirdiler.
Şifrelenmiş günlük dosyasının şifresini çözmek için bir Python komut dosyası da geliştirildi.
Bu gelişmelere rağmen, Deepseek, Windows Görev Yöneticisi’nden gizleme gibi gelişmiş gizli tekniklerin uygulanması ile mücadele etti.
Araştırma, Deepseek’in kötü amaçlı yazılım geliştirme için temel çerçeveler sağlayabileceğini, ancak işlevsellik için önemli manuel müdahale gerektirdiğini vurguladı.
Fidye Yazılımı Geliştirme: Etik Çıkarımlar
Araştırmacılar daha sonra Deepseek’in fidye yazılımı oluşturma yeteneğini test ettiler – dosyaları şifreleyen ve şifre çözme anahtarları için ödeme talep eden bir kötü amaçlı yazılım türü.
COT akıl yürütmesi yoluyla Deepseek, kayıt defteri değişiklikleri yoluyla dosya numaralandırması, AES şifrelemesi ve kalıcılık mekanizmaları dahil olmak üzere fidye yazılımı geliştirme için temel adımlar belirledi.
Oluşturulan kod başarılı bir şekilde derlenmesi için manuel düzenlemeler gerektirirken, araştırmacılar fonksiyonel fidye yazılımı örnekleri üretebildiler.
Bu örnekler aşağıdakiler gibi özellikleri içermektedir:
- Windows kayıt defterine giriş ekleyen bir kalıcılık mekanizması.
- Dosya Şifreleme Kurbanlarını bildiren bir iletişim kutusu.
- Rastgele oluşturulan tuşlarla AES128-CBC kullanarak dosya şifrelemesi.
Deepseek ayrıca fidye yazılımı geliştirmede platformlar arası uyumluluk, dosya izinleri işleme, büyük dosyalar için performansı optimize etme ve antivirüs yazılımı tarafından algılanmayı önleme gibi olası zorlukları belirledi.
Bununla birlikte, fidye yazılımı oluşturmanın, önemli etik ve yasal kaygıları artırırken kriptografide uzmanlık ve güvenli anahtar yönetimini gerektiren karmaşık bir görev olduğu sonucuna varmıştır.
Tenable Research’in analizi, Deepseek’in temel kötü amaçlı yazılım yapıları oluşturma yeteneğine sahip olduğunu, ancak kapsamlı manuel müdahale olmadan tamamen işlevsel kötü amaçlı programlar üretme karmaşıklığından yoksun olduğunu ortaya koydu.
Jailbreak tekniklerine yönelik güvenlik açıkları, minimum uzmanlığa sahip kötü amaçlı yazılım geliştirmek isteyen siber suçlular için potansiyel bir araç haline getirir.
Bulgular, kötüye kullanımı önlemek için AI sistemlerinde daha katı koruma ihtiyacının altını çizmektedir.
AI tarafından üretilen kötü amaçlı kod daha erişilebilir hale geldikçe, siber güvenlik profesyonelleri, üretken AI teknolojilerindeki ilerlemelerin körüklediği tehditlerin ele alınmasında uyanık kalmalıdır.
SOC/DFIR ekiplerinden misiniz?: Kötü amaçlı yazılım olaylarını analiz edin ve any.run -> şimdi ücretsiz başlayın.