Bilgisayar korsanları yapay zekaya geçiyor ancak benimsenme oranlarında savunucuların gerisinde kalıyor

Bilgisayar korsanları siber saldırılar için üretken yapay zekadan aktif olarak yararlanıyordu; Sadece bu da değil, tehdit aktörleri bile ChatGPT gibi diğer gelişmiş LLM’lerden yararlanmanın yeni yollarını araştırıyor.

Kimlik avı, sosyal mühendislik, kötü amaçlı yazılım oluşturma, kimlik bilgisi doldurma saldırıları, sahte haberler, dezenformasyon, otomatik bilgisayar korsanlığı ve daha pek çok kötü amaçlı amaç için Büyük Dil Modellerinden (LLM’ler) ve üretken yapay zekadan yararlanabilirler.

Tren Micro’daki siber güvenlik araştırmacıları yakın zamanda bilgisayar korsanlarının aktif olarak yapay zekaya yöneldiğini ancak benimseme oranlarında savunucuların gerisinde kaldıklarını tespit etti.

Bilgisayar korsanları yapay zekaya geçiyor

Yeraltı suç dünyasında, ChatGPT gibi meşru dil modellerine anonim erişim sağlayan ve etik kısıtlamaları aşmak için sürekli güncellenen istemlere sahip “hizmet olarak jailbreak” tekliflerinde artış yaşandı.

Ücretsiz Web Semineri Canlı API Saldırı Simülasyonu: Yerinizi Ayırın | API’lerinizi bilgisayar korsanlarından korumaya başlayın

EscapeGPT ve LoopGPT gibi bazı hizmetler jailbreak’lerin reklamını açıkça yaparken, BlackhatGPT gibi diğerleri, jailbreak istemleriyle OpenAI’nin API’sinin üzerinde yer aldıklarını açıklamadan önce özel suç yüksek lisans sağlayıcıları gibi davranıyorlar.

Yapay zeka sansürünü yenmek isteyen kanunları çiğneyenlerle, ürünlerinin kırılmasını engellemeye çalışan sağlayıcılar arasındaki sürekli değişen bu rekabet, sınırsız konuşma yapay zeka yetenekleri için yeni bir yasadışı pazara neden oldu.

Flowgpt.com, LoopGPT’nin potansiyel olarak “yasadışı” veya açık AI asistanlarına yer sağlayabilecek bireysel sistem istemlerine özel dil modelleri oluşturmak için kullanabileceği platformlardan biridir.

Dahası, yalnızca çok güçlü olduklarını iddia eden ancak herhangi bir kanıtı olmayan sahte, doğrulanmamış tekliflerde bir artış oldu ve bunlar dolandırıcılık veya FraudGPT gibi yoğun şekilde reklamı yapılan ancak hiçbir zaman onaylanmayan terk edilmiş projeler olabilir.

Tehdit aktörleri üretken yapay zekadan iki ana amaç için yararlanıyor:

• Yazılım geliştiricilerinin yaygın olarak LLM’yi benimsemesine benzer şekilde kötü amaçlı yazılım ve kötü amaçlı araçlar geliştirmek.
• Dolandırıcılık komut dosyaları hazırlayarak ve yüksek lisans eğitimlerinin sağladığı aciliyet/çoklu dil yetenekleriyle kimlik avı kampanyalarını ölçeklendirerek sosyal mühendislik taktiklerini geliştirmek.

GoMailPro ve Predator gibi spam araç kitleri, e-posta içeriği çevirisi/oluşturulması için entegre ChatGPT özelliklerine sahiptir.

Ek olarak, suçluların, sentetik kimlikler kullanan finansal kurumlarda KYC doğrulamasını aşmaya yönelik hedefli teklifler de dahil olmak üzere, ünlülerin resim ve videolarını 10 ila 500 $’ın üzerinde manipülasyon teklif ettiği deepfake hizmetleri ortaya çıkıyor.

Genel olarak üretken yapay zeka, tehdit aktörlerinin yeteneklerini kodlama ve sosyal mühendislik alanlarında genişletiyor.

Is Your Network Under Attack? - Read CISO’s Guide to Avoiding the Next Breach - Download Free Guide