Tenable araştırması, AI Chatbot Deepseek R1’in anahtarloger ve fidye yazılımı kodu oluşturmak için manipüle edilebileceğini ortaya koyuyor. Tamamen özerk olmasa da, siber suçluların kötü niyetli amaçlar için yeteneklerini geliştirmesi ve kullanması için bir oyun alanı sağlar.
Siber güvenlik firması Tenable Research’ten yeni bir analiz, açık kaynaklı AI Chatbot’un Deepseek R1 Keylogger ve fidye yazılımı dahil olmak üzere kötü amaçlı yazılımlar oluşturmak için manipüle edilebilir.
Tenable’ın araştırma ekibi, Deepseek’in zararlı kod oluşturma yeteneğini değerlendirmek için yola çıktı. İki yaygın kötü amaçlı yazılım türüne odaklandılar: gizlice tuş vuruşlarını kaydeden Keyloggers ve dosyaları şifreleyen ve yayınlanmaları için ödeme talep eden fidye yazılımı.
AI chatbot tamamen işlevsel kötü amaçlı yazılım “kutudan çıktı” üretmese de ve tamamen çalışan bir keylogger üretmek için uygun rehberlik ve manuel kod düzeltmeleri gerektirir; Araştırma, siber suçlulara girişin engelini düşürebileceğini göstermektedir.
Başlangıçta, diğer büyük dil modelleri gibi (Llms), Deepseek yerleşik etik yönergelerine ayak uydurdu ve kötü amaçlı yazılım yazma taleplerini reddetti. Bununla birlikte, kireçli araştırmacılar, bu kısıtlamaları atlamak için “eğitim amaçlı” talebini çerçeveleyerek AI’yı kandıran bir “jailbreak” tekniği kullandılar.
Araştırmacılar, Deepseek’in işlevselliğinin önemli bir bölümünü kullandı: “düşünce zinciri” (COT) yeteneği. Bu özellik, AI’nın akıl yürütme sürecini adım adım açıklamasına izin verir, tıpkı bir sorunu çözerken yüksek sesle düşünen biri gibi. Deepseek’in karyolasını gözlemleyerek, araştırmacılar AI’nın kötü amaçlı yazılım gelişimine nasıl yaklaştıklarına dair fikir edindiler ve hatta tespit edilmesini önlemek için gizli tekniklere duyulan ihtiyacı bile fark ettiler.
Deepseek Binası Keylogger
Bir Keylogger oluşturmakla görevlendirildiğinde, Deepseek önce bir planı özetledi ve ardından C ++ kodu oluşturdu. Bu ilk kod kusurluydu ve AI’nın kendisinin düzeltemediği birkaç hata içeriyordu. Bununla birlikte, araştırmacılar tarafından birkaç manuel kod ayarlamasıyla, Keylogger işlevsel hale geldi ve tuş vuruşlarını bir dosyaya başarıyla kaydediyordu.
Bir adım daha ileri götüren araştırmacılar, Deepseek’i günlük dosyasını gizleyerek ve kod sağlamayı başardığı içeriğini şifreleyerek, yine küçük insan düzeltmesi gerektiren kötü amaçlı yazılımın geliştirilmesine yardımcı olmaya itti.
Deepseek bina fidye yazılımı
Fidye yazılımı ile yapılan deney benzer bir desen izledi. DeepSeek, dosya çekişen kötü amaçlı yazılım oluşturma stratejisini ortaya koydu. Bu işlevi gerçekleştirmek için tasarlanmış birkaç kod örneği üretti, ancak bu ilk sürümlerin hiçbiri manuel düzenleme yapmadan derlenmeyecek.
Bununla birlikte, Tenable ekip tarafından biraz ince ayar yaptıktan sonra, fidye yazılımı örnekleri operasyonel hale getirildi. Bu işlevsel örnekler, dosyaları bulmak ve şifrelemek için özellikler, sistem başladığında kötü amaçlı yazılımın otomatik olarak çalışmasını sağlamak için bir yöntem ve hatta kurbanı şifreleme hakkında bilgilendiren bir açılır mesajı içeriyordu.
Deepseek karmaşık kötü niyetli görevlerle mücadele etti
Deepseek, kötü amaçlı yazılımların temel yapı taşlarını oluşturma yeteneği gösterirken, Tenable’ın bulguları siber suçlular için bir itme düğmesi çözümünden uzak olduğunu vurgulamaktadır. Etkili kötü amaçlı yazılım oluşturmak, AI’ya rehberlik etmek ve ortaya çıkan kodu hata ayıklamak için hala teknik bilgi gerektirir. Örneğin, Deepseek, kötü amaçlı yazılım sürecini sistemin görev yöneticisi için görünmez hale getirmek gibi daha karmaşık görevlerle mücadele etti.
Bununla birlikte, bu sınırlamalara rağmen, Tenable araştırmacılar Deepseek gibi araçlara erişimin kötü amaçlı yazılım geliştirme faaliyetlerini hızlandırabileceğine inanmaktadır. Yapay zeka, siber suçlara girmek isteyen sınırlı kodlama deneyimi olan bireyler için özellikle yararlı olabilecek kod snippet’leri sunan ve gerekli adımları özetleyerek önemli bir başlangıç sağlayabilir.
“Deepseek, kötü amaçlı yazılım için temel yapıyı yaratabilir” diye açıklıyor Tenable’ın teknik rapor Perşembe günü yayınlanmasından önce hackread.com ile paylaşıldı. “Ancak, daha gelişmiş özellikler için ek hızlı mühendislik ve manuel kod düzenleme olmadan bunu yapamaz.” Yapay zeka, kötü amaçlı yazılımların varlığını sistem izleme araçlarından tamamen gizlemek gibi daha karmaşık görevlerle mücadele etti.
San Francisco, Kaliforniya merkezli siber güvenlik alanında Kaliforniya merkezli bir lider olan Bugcrowd’un baş bilgi güvenlik görevlisi Trey Ford, AI’nın hem iyi hem de kötü aktörlere yardımcı olabileceğini, ancak güvenlik çabalarının tüm tehditleri önlemek için EDR çözümlerini beklemek yerine siber saldırıları daha maliyetli hale getirmesi gerektiğini vurguladı.
“Suçlular suçlu olacak – ve onlar için mevcut olan her araç ve tekniği kullanacaklar. Genai destekli gelişme, fedakar ve kötü niyetli çabalar için yeni nesil geliştiricileri sağlayacaktır.“ dedi Trey,
“Bir hatırlatma olarak, EDR pazarı açıkça uç nokta tespiti ve yanıttır – tüm saldırıları bozmayı amaçlamamaktadır. Nihayetinde, uç noktaları sömürmek için daha zor hale getirerek bu kampanyaların maliyetini artırmak için elimizden geleni yapmalıyız – cis 1 veya 2 kriterlere sertleştirilmeleri gerekiyor,“ Açıkladı.