Cisco Talos’un yeni araştırması, büyük dil modellerini (LLMS) kötüye kullanan siber suçlularda yasadışı faaliyetlerini geliştirmek için bir artış olduğunu ortaya koyuyor. Metin oluşturmak, problemleri çözmek ve kod yazmakla bilinen bu güçlü AI araçlarının, daha sofistike ve yaygın saldırılar başlatmak için manipüle edildiği bildiriliyor.
Bilgileriniz için LLM’ler, hizalama (önyargıyı en aza indirmek için eğitim) ve korkuluklar (zararlı çıktıları önlemek için gerçek zamanlı mekanizmalar) dahil olmak üzere yerleşik güvenlik özellikleri ile tasarlanmıştır. Örneğin, ChatGPT gibi meşru bir LLM, kimlik avı e -postası oluşturmayı reddedecektir. Bununla birlikte, siber suçlular aktif olarak bu korumaların yollarını arıyorlar.
Hackread.com ile paylaşılan Talos’un soruşturması, rakipler tarafından kullanılan üç temel yöntemi vurgular:
Sansürsüz LLMS: Güvenlik kısıtlamaları olmayan bu modeller kolayca hassas veya zararlı içerik üretir. Örnekler arasında saldırgan güvenlik araçları veya kimlik avı e -postaları oluşturabilen Oniongpt ve Whiterabbitneo bulunur. Ollama gibi çerçeveler, kullanıcıların Lama 2 sansürsüz gibi sansürsüz modelleri kendi makinelerinde çalıştırmasına izin verir.
Özel yapım suçlu LLM’ler: Bazı girişimci siber suçlular, özellikle kötü niyetli amaçlar için tasarlanmış kendi LLM’lerini geliştirmektedir. Ghostgpt, Wormgpt, Darkgpt, DarkGpt ve Fraudgpt gibi isimler Dark Web’de ilan edilir, kötü amaçlı yazılım, kimlik avı sayfaları ve hack araçları oluşturma gibi özelliklere sahiptir.
Jailbreaking Meşru LLMS: Bu, mevcut LLM’lerin akıllı hızlı enjeksiyon teknikleri aracılığıyla güvenlik protokollerini görmezden gelmeleri için kandırmayı içerir. Gözlemlenen yöntemler arasında kodlanmış dil (Base64 gibi), rastgele metin ekleme (çekişmeli sonekler), rol yapma senaryoları (örn. Dan veya büyükanne jailbreak) ve hatta modelin öz farkındalığının (meta itme) istismar edilmesini içerir.
Karanlık ağ bu kötü niyetli LLM’ler için bir pazar haline geldi. Örneğin, dolandırıcılık, kötü amaçlı kod yazmaktan ve tespit edilemez kötü amaçlı yazılımlar oluşturmaktan savunmasız web siteleri bulmaya ve kimlik avı içeriği oluşturmaya kadar reklamı yapılan özellikler.
Ancak, piyasa suçluların kendileri için riskleri yoktur; Talos araştırmacıları, Fraudgpt’in iddia edilen geliştiricisi CanadiangingPin12’nin potansiyel alıcıları varolmayan bir ürün vaat ederek kripto para biriminden dolandırdığını buldular.
Doğrudan yasadışı içerik üretiminin ötesinde, siber suçlular, meşru kullanıcılara benzer görevler için LLM’lerden yararlanıyor, ancak kötü niyetli bir bükülme ile. Aralık 2024’te, Claude LLM’nin antropik, geliştiricileri, programlama, içerik oluşturma ve araştırmaların modelleri için en çok kullanıldığını kaydetti. Benzer şekilde, Criminal LLM’ler aşağıdakiler için kullanılır:
- Programlama: Fidye yazılımı, uzaktan erişim truva atları, silecekler ve kod gizlemesi.
- İçerik Oluşturma: İkna edici kimlik avı e -postaları, açılış sayfaları ve yapılandırma dosyaları oluşturma.
- Araştırma: Çalınan kredi kartı numaralarının doğrulanması, güvenlik açıklarının taranması ve hatta yeni suç programlarının beyin fırtınası.
LLM’ler de kendileri hedef haline geliyor. Saldırganlar, Hugging Fact gibi platformlara geri yüklenmiş modelleri dağıtıyor, indirildiğinde çalıştırılan kötü amaçlı kodları yerleştiriyor. Ayrıca, harici veri kaynakları (geri alma artırılmış üretim veya RAG) kullanan LLM’ler, saldırganların LLM’nin yanıtlarını etkilemek için verileri manipüle ettiği veri zehirlenmesine karşı savunmasız olabilir.
Cisco Talos, AI teknolojisi ilerlemeye devam ettikçe, siber suçluların, tamamen yeni “siber silahlar” oluşturmak yerine mevcut saldırı yöntemleri için etkili bir şekilde “kuvvet çarpanı” olarak hareket eden operasyonlarını kolaylaştırmak için giderek daha fazla benimseyeceklerini öngörüyor.