Güvenlik ekipleri, saldırganların savunmacıların hazır olmasını nadiren beklediklerini biliyor. En son Siber Güvenlikte Yapay Zeka Olgunluğu Raporu Arkose Labs’ın raporu, tehdit ortamının ne kadar hızlı değiştiğini ve buna kıyasla kuruluşların ne kadar yavaş yanıt verebildiğini gösteriyor. Saldırganlar yeni otomasyonu test ediyor, savunmacılar yeni araçlara yatırım yapıyor ve ikisi arasındaki zaman çizelgesi daralmaya devam ediyor.
Savunmalar sabit kalırken tehditler genişliyor
Otomatik araçlar, insan odaklı dolandırıcılık faaliyetleri ve aracılı yapay zekanın ilk biçimlerinin tümü benzer oranlarda ortaya çıkıyor. Dağılım, saldırganların bir kontrol etkili hale gelir gelmez aralarında geçiş yapabilecekleri geniş bir seçenek yelpazesine sahip olduğunu gösteriyor. Hiçbir savunma katmanı, takımlara nefes alma alanı sağlayacak yeterli aktiviteyi engellemez.
Kuruluşların çoğunluğu savunma yatırımlarını artırdıktan sonra bile ağır kayıplar bildiriyor. Rapor, güvenlik liderlerini nominal kayıplar yerine gelir etkisi açısından düşünmeye ve finansal, operasyonel ve itibarla ilgili konular etkileşime girdiğinde ortaya çıkan bileşik etkileri azaltmaya odaklanmaya çağırıyor.
Teknoloji, çekişmeli bağlamlarda henüz olgunlaşmamış olsa da hızla gelişiyor ve saldırganlara, bir zamanlar insan çabası gerektiren planlama adımlarını otomatikleştirmenin bir yolunu sunuyor. Uzun proje döngülerine güvenen güvenlik ekipleri, uyum sağlamak için erken pencereyi kaçırma riskiyle karşı karşıyadır.
Harcama etkiden daha hızlı artıyor
İşletmeler yapay zeka merkezli güvenlik bütçelerini beklenenden daha hızlı bir şekilde genişletiyor. Pek çok ekip, genel güvenlik yatırımlarının büyük bir kısmını yapay zeka destekli izleme, tespit ve müdahaleye ayırıyor. Bu hem aciliyeti hem de makine hızında çalışan tehditlere karşı tek geçerli yanıtın otomasyon olduğu inancını yansıtıyor.
Kuruluşlar, ekiplerinin, dağıttıkları araçları çalıştırabilecek ve ayarlayabilecek kadar yapay zeka tabanlı teknikleri yeterince anlamasını istiyor. İşletmeler halihazırda personeli için yapılandırılmış eğitim programlarına başlamıştır. Bu baskıya rağmen ölçülebilir iyileşmeler dengesiz kalıyor. Kuruluşların yaklaşık yarısı yapay zeka destekli bot savunmasından, tehdit tespitinden veya kimlik avına karşı korumadan kazanç elde ediyor. Diğer yarısı entegrasyon, ayarlama veya operasyonel uyum konusunda mücadele etmeye devam ediyor.
Bu gecikme, sonuçlar sabit kalsa bile yapay zeka yeteneklerine olan güven düzeylerinin neden artabileceğini gösteriyor. Ekipler yeni araçlara ve yeni eğitimlere sahip oldukları için kendilerini daha donanımlı hissediyorlar ancak tam değer yalnızca dağıtımlar olgunlaştığında ortaya çıkıyor.
Satıcı stratejisi özelliklerden ziyade adaptasyona doğru kayıyor
İşletmelerin satıcıları değerlendirme biçiminde dikkate değer bir değişim var. Özellik kontrol listelerine odaklanmak yerine, yeni tehditlere uyum sağlama, zamanında istihbarat üretme ve uzun yükseltme döngüleri olmadan savunmaları ayarlama becerisine öncelik veriyorlar. Kuruluşlar satıcıları dış tedarikçilerden ziyade operasyonel ortaklar olarak görüyor. Bu değişiklik, dahili ekiplerin yeni yetenekler oluşturması veya özelleştirmesinden daha hızlı uyum sağlayan saldırganların baskısını yansıtıyor.
Dağıtım anlaşmazlıkları azalmaya devam ediyor, bu da edinilen araçların değerini artırıyor ve işletmeleri inşa etmek yerine satın almaya daha istekli hale getiriyor. Bu eğilim, rakiplerin geleneksel araçların gözlemleyemeyeceği veya durduramayacağı otomasyonu zaten denediği alanlarda en güçlü olanıdır.
Ajan AI, bir sonraki hazırlık açığını açıyor
Ekipler bunu daha hızlı yanıt vermek, model analizi ve iş akışı yürütmek için kullandığından savunma tarafında benimsenme yüksektir. Ancak kötü niyetli ajan yapay zekaya yönelik savunma olgunluğu hala çok geride. Kuruluşlar, henüz düşmanca otonom faaliyetleri algılayan veya kısıtlayan kontroller oluşturmamış olsalar bile, kendi güvenlik operasyonlarını geliştirmek için ajan yapay zekayı kullanıyor.
Güvenlik liderleri, ajansal yapay zeka saldırılarının kısa sürede kritik etkiye ulaşacağına inanıyor. Bu beklenti, aceleci dağıtımlara neden oluyor ve stratejik bir ikilem yaratıyor. Ekipler ya kusurlu çözümleri dağıtabilir ya da değerlendirmelerin tamamlanmasını bekleyebilir ve bu arada saldırganlara avantaj sağlama riskiyle karşı karşıya kalabilir. Rapor, kuruluşların erken dağıtımı seçtiğini ve stratejilerini zaman içinde iyileştirmeyi planladığını gösteriyor.
Aynı zamanda, düşmanca kullanıma ilişkin endişeler de yaygındır. Bu ayrım önemlidir. Sağlayıcılar kendi araçlarını güvence altına alabilir ancak saldırganların genel modelleri veya özel eğitim verilerini kullanarak kendi aracılarını oluşturmasını engelleyemezler.
Temsilcinizin gerekli kontrole ihtiyacı olduğunu bilin
Tüketici kontrollü otomasyon büyüyor ve bu da işletmeleri meşru aracı faaliyetlerini kötü niyetli kimliğe bürünmelerden ayırmaya zorluyor. Katılımcıların neredeyse tamamı bu ayrımın önemli olduğunu söylüyor. Ayrıntılar kuruluşlar arasında değişiklik gösterir ancak çoğu, müşteriler tarafından başlatılan aracı faaliyetleri için bir tür yetkilendirme veya gözetim gerektirir.
Otomasyonun meşru olduğu durumlarda, robotları insanlardan ayıran sinyaller geçerli değildir. Güvenlik ekipleri bunun yerine izin, kimlik, kaynak ve ölçekle ilgili sorularla karşı karşıya kalıyor. Bu sorular genellikle Temsilcinizi Tanıyın olarak tanımlanan yeni bir kontrol kategorisinin temelini oluşturur.
Arkose Labs CEO’su Kevin Gosschalk, “Çoğu kuruluş meşru ve kötü amaçlı otomasyonu ayırt edecek araçlardan yoksundur” dedi. “Bu çalışma, güçlü tanımlama çerçeveleri oluşturmanın aciliyetinin altını çiziyor; çünkü bu zorlukların üstesinden gelme yeteneği yarının siber güvenlik manzarasının liderlerini tanımlayacak.”
Ekipler, temsilci trafiği için özel iş akışları oluşturuyor ve bu temsilcilerin zaman içinde nasıl davrandığını izlemek için izlemeyi genişletiyor. Başlıca zorluklar arasında yetkilendirmenin doğrulanması, kimliğe bürünme girişimlerinin belirlenmesi ve benimsenme arttıkça aracı faaliyet hacminin yönetilmesi yer alıyor. Tüketici otomasyonu yaygınlaştıkça bu alanlar kurumsal güvenlik tasarımını şekillendirecek.