NYU Tandon’daki araştırmacılar tarafından geliştirilen ve başlangıçta ESET tarafından aktif bir tehdit olarak algılanan yapay zeka destekli kavram kanıtı fidye yazılımı PromptLock, artık izole bir örnek değil: Google’ın en son raporu, saldırganların artık güvenlik sistemlerini çalıştırmak ve atlatmak için LLM’lerden yararlanan başka kötü amaçlı yazılımlar oluşturup dağıttıklarını gösteriyor.
Daha otonom ve uyarlanabilir kötü amaçlı yazılımlara doğru bir adım
Google’ın tehdit istihbaratı analistleri, yapay zeka destekli kötü amaçlı yazılımların yaygın olarak kullanıldığını gözlemledi:
- Sessiz Kasa GitHub ve NPM belirteçlerini hedef alan bir kimlik bilgisi hırsızıdır, ancak aynı zamanda virüs bulaşmış sistemdeki sızdırılacak diğer potansiyel sırları aramak için bir AI isteminden ve ana makinede kurulu AI CLI araçlarından yararlanır.
- İstemi Çalma (Rus APT28, diğer adıyla Fancy Bear tarafından kullanılır), tek satırlık Windows komutları oluşturmak için Qwen2.5-Coder-32B-Instruct’u sorgulamak için Hugging Face API’sini kullanan ve daha sonra verileri toplamak ve sızdırmak için çalıştıran bir veri madencisidir.
- Meyve Kabuğu LLM destekli güvenlik sistemleri tarafından tespit/analizin atlanmasını amaçlayan sabit kodlu istemler içeren bir ters kabuktur.
Yukarıda bahsedilen İstem Kilidi Ve PromptFlux (bir damlalık) her ikisi de deneysel olarak kabul edilir. İlki, çalışma zamanında kötü amaçlı Lua komut dosyalarını dinamik olarak oluşturmak ve yürütmek için bir LLM kullanıyor ve ikincisi, tespitten kaçınmak için kendi kaynak kodunu saatlik olarak yeniden yazmak için Google Gemini API’sini kullanıyor.
Google’ın analistleri, “Düşmanlar artık yapay zekadan (AI) yalnızca üretkenlik kazanımları için yararlanmıyor, aktif operasyonlarda yeni AI destekli kötü amaçlı yazılımlar kullanıyorlar. Bu, yürütmenin ortasında davranışı dinamik olarak değiştiren araçları içeren, AI’nın kötüye kullanılmasında yeni bir operasyonel aşamaya işaret ediyor” dedi.
Ayrıca siber suçlulara hizmet veren yer altı pazaryerlerinin, çeşitli iddia edilen yeteneklere sahip, sağlıklı bir yasa dışı yapay zeka teklifi yelpazesine sahip olduğunu da buldular:
Yeraltı forumlarında tanıtılan yapay zeka teklifleri ve yetenekleri (Kaynak: Google Tehdit İstihbarat Grubu)
Beceri geliştirici olarak yapay zeka
Daha önce Anthropic gibi Google da çeşitli tehdit aktörlerinin tüm saldırı aşamalarında verimliliği artırmak için LLM’yi nasıl kötüye kullandığını açıkladı.
Çin bağlantılı bir tehdit aktörü, Gemini’yi yem içeriği oluşturmak, teknik altyapı oluşturmak ve veri sızdırma araçları geliştirmek amacıyla kötüye kullandı. İran devleti destekli bir tehdit aktörü, bunu özel kötü amaçlı yazılımların nasıl geliştirileceğini araştırmak için kullandı.
Google, her ikisinin de Gemini’nin yanıt verme konusundaki isteksizliğini atlatmayı başardığını itiraf etti: Çin bağlantı noktası aktörü, bayrağı ele geçirme (CTF) tatbikatına katıldığını iddia ederek ve İranlı tehdit aktörü, bir üniversite projesi, makalesi veya makalesi üzerinde çalışan bir öğrenci gibi davranarak. (Google, o zamandan beri bu tekniklere karşı korumaları güçlendirdiğini söylüyor.)
Çin bağlantılı bir tehdit aktörü Gemini’yi saldırı yaşam döngüsü boyunca nasıl kötüye kullandı (Kaynak: Google Tehdit İstihbarat Grubu)
Analistler, “Tehdit aktörleri, daha hızlı ve daha yüksek hacimde hareket etmek için taktiklerini, tekniklerini ve prosedürlerini (TTP’ler) geliştirmeye çalışarak, devam eden faaliyetlerini artırmak için üretken yapay zeka araçlarını uyarlamaya devam ediyor” dedi.
“Yetenekli aktörler için üretken yapay zeka araçları, siber tehdit faaliyetlerinde Metasploit veya Cobalt Strike kullanımına benzer şekilde yararlı bir çerçeve sağlıyor. Bu araçlar aynı zamanda daha düşük seviyeli tehdit aktörlerine karmaşık araçlar geliştirme, mevcut teknikleri hızlı bir şekilde entegre etme ve teknik zeka veya dil yeterliliğine bakılmaksızın kampanyalarının etkinliğini artırma fırsatı sunuyor.”
En son ihlalleri, güvenlik açıklarını ve siber güvenlik tehditlerini asla kaçırmamak için son dakika haber e-posta uyarımıza abone olun. Buradan abone olun!