Siber güvenlik araştırmacıları, açık kaynaklı bir büyük dil modeli olan Deepseek R1’in yerleşik güvencelere rağmen işleyen kötü amaçlı yazılım oluşturmak için manipüle edilebileceğini keşfettiler.
Akıl yürütme yetenekleriyle tasarlanan AI modeli, başlangıçta kötü amaçlı kod oluşturmayı reddediyor, ancak belirli isteme teknikleri yoluyla atlatılabilir.
Bu keşif, kapsamlı kodlama bilgisi olmadan zararlı yazılım geliştirmeye çalışan siber suçlular tarafından serbestçe erişilebilir AI modellerinin potansiyel kötüye kullanımı konusunda önemli endişeler doğurur.
Deepseek R1, karmaşık istemleri yönetilebilir adımlara ayırmasını ve insan akıl yürütme süreçlerini taklit etmesini sağlayan düşünce zinciri (COT) adı verilen bir teknik kullanır.
Bu yetenek, meşru programlama yardımı için faydalı olsa da, modeli özellikle güvenceleri atlandığında ayrıntılı kötü amaçlı kodların hazırlanmasında etkili hale getirir.
İlk olarak bir Keylogger oluşturmaya istendiğinde, model etik itirazlarla uygun şekilde reddetti.
Tenable Research’teki analistler, talepleri “yalnızca eğitim amaçlı” olarak çerçevelemenin, modelin korkuluklarını atlamak için yeterli olduğunu ve ayrıntılı kötü amaçlı yazılım kodu oluşturmasına izin verdiğini tespit ettiler.
Kapsamlı testleri, Deepseek R1’in fonksiyonel kötü amaçlı yazılım için temel yapı oluşturabilse de, oluşturulan kodun tipik olarak manuel düzeltme gerektiren hatalar ve daha gelişmiş özellikler uygulanması için ek isteyen hatalar içerdiğini ortaya koymuştur.
Araştırmacılar, tuş vuruşlarını yakalayabilen, varlığını gizleyebilen ve günlük dosyalarını şifreleyebilen bir keylogger oluşturmak için Deepseek R1’i başarılı bir şekilde manipüle ettiler.
İlk kod, halüsinasyonlu Windows stili tanımları ve yanlış iş parçacığı parametreleri dahil olmak üzere çeşitli kritik hata içermekle birlikte, bunlar temel programlama bilgisine sahip birini düzeltmek için nispeten basitti.
Teknik Uygulama Detayları
Keylogger uygulaması, sistem boyunca küresel olarak tuş vuruşlarını yakalamak için Windows API kancalarını kullandı.
Anahtar kod segmentlerinden biri, düşük seviyeli bir klavye kancasını yüklemek için SetWindowShookex işlevini kullandı:-
DWORD WINAPI KeyLoggerThread(LPVOID lpParam) {
// Install the keyboard hook
g_hHook = SetWindowsHookExW(
WH_KEYBOARD_LL,
HookProc,
GetModuleHandle(NULL),
0
);
if (!g_hHook) {
MessageBox(g_hwnd, L"Failed to install keyboard hook!", L"Error", MB_OK);
}
// Wait for messages (this is required for the hook to work properly)
MSG msg;
while (GetMessage(&msg, NULL, 0, 0)) {}
// Uninstall the hook when done
if (g_hHook) {
UnhookWindowsHookEx(g_hHook);
}
return 0;
}Araştırmacılar, sistem özniteliği değişikliklerini uygulayarak, Sethiddenattribute işlevinin standart Windows Explorer görünümlerinde görünmez olmasını sağlayarak sistem özniteliği değişikliklerini uygulayarak dosya gizleme özellikleri ile kötü amaçlı yazılımları geliştirdiler.
Araştırmacılar ayrıca yakalanan tuş vuruşları için basit XOR şifrelemesini uyguladılar ve verileri bir şifre çözme aracı olmadan okunamaz hale getirdiler.
.webp)
Tenable’ın araştırması, Deepseek’in oluşturduğu kodun, şifreleme için hedef dosyaları tanımlamak için Windows kayıt defteri değişiklikleri ve dosya numaralandırma işlevleri aracılığıyla kalıcılık mekanizmalarını içerdiği fidye yazılımı oluşturma işlemine genişledi.
Oluşturulan fidye yazılımı örnekleri önemli manuel düzenleme gerektirirken, Deepseek’in fonksiyonel kötü amaçlı yazılımlar için gerekli temel bileşenleri üretme yeteneğini gösterdiler.
Bu bulgular, Deepseek R1’in anahtar teslimi kötü amaçlı yazılım çözümleri sağlamasa da, zararlı yazılım oluşturmak için teknik engeli önemli ölçüde düşürdüğünü ve potansiyel olarak kötü niyetli aktörlerin sofistike siber tehditler geliştirmedeki yeteneklerini hızlandırdığını göstermektedir.
Are you from SOC/DFIR Teams? – Analyse Malware Incidents & get live Access with ANY.RUN -> Start Now for Free.