Forescout’un Vedere Labs, siber saldırılarda üretken AI’nın ortaya koyduğu gerçek dünya tehdidini inceleyen yeni araştırmalar yayınladı. AI güdümlü, otonom hacklemeyi tanımlayan bir terim olan “vibe hackleme” etrafında kamuoyu endişesi artarken, araştırma bulguları tehdidin ilk aşamalarında kaldığını göstermektedir. Üretken AI modellerini içeren 50’den fazla simülasyona dayanarak, araştırmacılar teknoloji kötüye kullanım potansiyeli gösterirken, henüz yakın bir tehlike olmadığı sonucuna varmışlardır.
Araştırma, Güvenlik Açığı Araştırmaları (VR) ve sömürü gelişimi (ED) ile ilgili görevlerin gerçekleştirilmesinde önde gelen büyük dil modellerinin (LLMS) etkinliğini değerlendirir. Çalışma ticari, açık kaynaklı ve yeraltı AI modellerini kapsamaktadır.
Temel bulgular şunları içerir:
- Yüksek Arıza Oranları: Modellerin% 48’i ilk VR görevinde başarısız oldu,% 55’i ikincisinde başarısız oldu; % 66’sı ilk ED görevinde başarısız oldu ve şaşırtıcı bir% 93 ikincisinde başarısız oldu.
- İstikrarsızlık ve tutarsızlık: Çoğu model güvenilmezdi, genellikle aynı bilgi istemleri arasında farklı çıktılar üretiyor, zaman aşımları yaşıyor veya kullanılamaz sonuçlar üretiyor.
- Uçtan uca tehdit yok: Bir istismar boru hattının gerekli tüm aşamalarını tamamlayamadı ve bugün gerçek dünyadaki tehdit yaşayabilirliğini sınırlayamadı.
- Ticari ve Yeraltı Araçları: Ticari modeller en iyisini gerçekleştirdi, ancak sadece üçü çalışma istismarı üretti. Açık kaynaklı araçlar en çok mücadele ederken, ücretsiz yeraltı modelleri daha iyi performans gösterdi, ancak kullanılabilirlik ve çıktı sorunlarından muzdaripti.
Forescout’un EMEA Kıdemli Güvenlik Araştırmacısı Michele Campobasso, “Bu şimdiki AI popülerleştirme dalgası, AI-destekli olsun ya da olmasın, tehdit aktörlerinin tanıdık taktiklere, tekniklere ve prosedürlere (TTP’lere (TTP’lere (TTP’lere) dayanması muhtemeldir. AI tarafından üretilen bir istismar hala bir istismardır, tespit edilebilir, bloke edilebilir veya düzeltilebilir.
“Bu, siber güvenliğin temellerinin değişmeden kaldığı anlamına gelir. Siber hijyen, derinlik, en az ayrıcalık, ağ segmentasyonu ve sıfır güven gibi temel ilkeler hala kritiktir. Risk ve maruz kalma yönetimi, ağ güvenliği ve tehdit tespiti ve tepkisine yapılan yatırımlar sadece geçerli olmakla kalmaz, aynı zamanda her zamankinden daha acil kalır.
“AI, saldırı başlatma engelini düşürürse, daha sık görülebildiklerini, ancak daha sofistike olmayacaklarını görebiliriz. Savunma stratejilerini yeniden keşfetmek yerine, kuruluşlar onları tüm ortamlarda daha dinamik ve etkili bir şekilde uygulamaya odaklanmalıdır.”
Blogun tamamı şu: https://www.forescout.com/blog/arfial-exploits-real-lamitations-how-ai-cyber-attacks-fall-short/
Vedere Labs Forescout Post, “Vibe Hacking” i gösteriyor.