Symantec’in Tehdit Avcıları, AI ajanlarının Openai’nin yakın zamanda nasıl başlatıldığını gösterdi “Operatör“ Siber saldırılar için istismar edilebilir. AI ajanları rutin görevleri otomatikleştirerek üretkenliği artırmak için tasarlanmış olsa da, Symantec’in araştırması, minimum insan girdisi ile karmaşık saldırı dizileri de uygulayabileceklerini gösteriyor.
Bu, eski AI modellerinden büyük bir değişikliktir, bu da zararlı içerik oluşturmada sadece sınırlı yardım sağlayabilir. Symantec’in araştırması, AI Chatbot Deepseek R1’in keyloggers ve fidye yazılımları için kod oluşturmak için yanlış kullanılabileceğini ortaya çıkardıktan sadece bir gün sonra geldi.
Symantec’in deneyinde, araştırmacılar operatörün yeteneklerini şunları talep ederek test ettiler:
- E -posta adreslerini alın
- Kötü niyetli bir PowerShell betiği oluşturun
- Senaryoyu içeren bir kimlik avı e -postası gönderin
- Kuruluşlarında belirli bir çalışan bulun
Symantec’in blog gönderisine göre, ancak “Operatör“ Başlangıçta bu görevleri gizlilik kaygılarına atıfta bulunarak reddetti. AI ajanı daha sonra başarılı bir şekilde:
- İkna edici bir kimlik avı e -postası oluşturdu ve gönderdi
- Desen analizi yoluyla e -posta adresini belirledi
- Çevrimiçi aramalar aracılığıyla hedefin bilgilerini buldu
- Çevrimiçi kaynakları araştırdıktan sonra bir PowerShell betiği oluşturdu
Yapıldığı gibi izleyin:
J Stephen Kowski, SlashNext E-posta Güvenliği+’da Field CTO, bu gelişmenin kuruluşların güvenlik önlemlerini güçlendirmesini gerektirdiğini belirtiyor: “Kuruluşların, AI tarafından tasarlanan içeriği, sıfır güven erişim politikalarını ve sürekli güvenlik eğitimi algılayan gelişmiş e-posta filtrelemesi de dahil olmak üzere AI’nın kendilerine karşı kullanılacağını varsayan güçlü güvenlik kontrolleri uygulamaları gerekiyor.”
Mevcut AI ajanlarının yetenekleri yetenekli insan saldırganlara kıyasla temel görünse de, hızlı evrimleri daha sofistike saldırı senaryolarının yakında gerçeğe dönüşebileceğini gösteriyor. Bu, otomatik ağ ihlalleri, altyapı kurulumu ve uzun süreli sistem uzlaşmalarını içerebilir – hepsi minimum insan müdahalesi ile.
Bu araştırma, şirketlerin güvenlik stratejilerini güncellemeleri gerektiğini göstermektedir, çünkü üretkenliği artırmak için tasarlanmış AI araçları zararlı amaçlar için kötüye kullanılabilir.