AI ajanları, güvenlik operasyonlarındaki görevleri yerine getirmek için bugün işletmelerin içine yerleştiriliyor. Bu değişim güvenlik ekipleri için yeni fırsatlar yaratıyor, ancak yeni riskler de sunuyor.
Google Cloud’un yeni raporu, AI 2025’in yatırım getirisiüretken yapay zeka kullanan kuruluşların% 52’sinin Ajan AI’ya taşındığını göstermektedir. Bu ajanlar sohbet botlarından daha fazlasıdır. İnsan gözetimi altındaki kararlar verebilir, görevler yürütebilir ve diğer sistemlerle etkileşime girebilirler. CISO’lar için bu, güvenlik, iş süreçlerini doğrudan etkileyen otonom sistemlerin davranışlarını ve çıktılarını yönetmeyi içermektedir.
Güvenlik avantajları var, ancak YG’yi kanıtlamak daha zor
Raporda, yöneticilerin% 49’unun üretken AI’nın güvenlik duruşlarını geliştirdiğini söylediğini buldu. Katılımcılar, tehdit tanımlamasında% 77’lik bir iyileşme ve olayları çözmek için% 61 daha hızlı zaman gibi faydalar bildirmiştir. Bazı kuruluşlar ayrıca AI odaklı süreçler uyguladıktan sonra güvenlik biletlerinde% 53 düşüş gördüler.
Google Cloud of the CISO ofisinde kıdemli personel danışmanı Anton Chuvakin, yardım net güvenliğine AI’nın en acil etkisinin hızda olduğunu söyledi. Tekrarlayan görevleri otomatikleştirerek AI, bir uyarı ve çözünürlük arasındaki süreyi kaliteden ödün vermeden küçülür. CISOS’un bu gelişmeyi ortalama tespit süresi (MTTD), araştırmak için ortalama süre (MTTI) ve yanıt verme süresi (MTTR) gibi metriklerle izleyebileceğini açıkladı.
“Yapay zeka ile çalışan sistemler, uyarıları otomatik olarak bağlamsal verilerle zenginleştirebilir, zaman çizelgeleri oluşturabilir ve farklı kaynaklardan gelen olayları ilişkilendirebilir ve analistler için saatler yerine saniyeler içinde eksiksiz bir resim sağlayabilir” dedi.
Chuvakin ayrıca yükseltme oranı, uyarı-analist oranı ve daha önce göz ardı edilen uyarıların kapsamı gibi diğer metriklere de işaret etti. Bu önlemler, CISO’ların AI’nın ekiplerini proaktif tehdit avı ve tespit kuralı iyileştirmesi gibi daha yüksek değerli faaliyetler için serbest bırakıp bırakmadığını anlamasına yardımcı olur.
Bu metrikler getirileri gösterebilir, ancak tutarlı bir izleme ve kaliteye odaklanmayı gerektirirler. Daha hızlı yanıt süreleri ve azaltılmış ihlal riski yararlı kriterlerdir, ancak AI’nın esnekliği, uyumluluğu veya uzun vadeli risk azaltmayı nasıl etkilediğini yakalamamaktadır.
Yönetişim zorlukları yavaşlatma
Yöneticilerin üçte birinden fazlası, büyük dil modeli sağlayıcılarını seçerken veri gizliliğini ve güvenliğini en büyük önceliği olarak sıraladı. Bu, yapay zekaya olan ilginin yüksek olsa da, kuruluşların onu nasıl kullandıkları konusunda dikkatli olduklarına işaret ediyor.
Google Cloud of the CISO ofisinde yönetici güven lideri Marina Kaganovich, yönetişimin güvenli AI dağıtımının temeli olduğunu söyledi. “İş bağlamını, düzenleyici manzarayı, teknik uygulama ve operasyonel iş akışlarını derinlemesine anlamayı gerektiren sürekli, katmanlı bir süreçtir. Temsilcinin otonom eylemde bulunma, potansiyel başarısızlık noktalarını öngörme ve hafifçe tasarlama kapasitesi ışığında tartışmalı olarak en zor kısımdır.”
Bunun, iş bağlamını, düzenleyici ortam ve teknik iş akışlarını dikkate alması gereken sürekli, katmanlı bir süreç olduğunu belirtti. “Temsilcinin otonom eylem yapma kapasitesi ışığında, potansiyel başarısızlık noktalarını öngörmek ve hafifçüler tasarlamak tartışmasız en zor kısım” diye ekledi.
Kaganovich ayrıca şifreleme, sıfır güven mimarisi, IAM kontrolleri ve veri kaybı önleme önlemleri dahil olmak üzere güçlü siber hijyenin önemini vurguladı. Tarama ve filtreleme modeli istemleri ve yanıtları, hızlı enjeksiyon saldırılarını, hassas veri sızıntılarını ve zararlı içeriği önlemeye yardımcı olabilir. Günlük, sürekli izleme ve hesap verebilirlik için AI ajan faaliyetlerinin ayrıntılı bir kaydını sunan başka bir kritik adımdır.
“En sağlam teknik ve operasyonel kontroller bile güvenliğe duyarlı bir kültür olmadan yetersiz” dedi. AI ajanları ile uygulamalı deneyim kazanmak ve gerçek dünyadaki senaryolarla ekipleri eğitmek, personelin bu sistemlerin getirdiği benzersiz riskleri anlamasına yardımcı olabilir.
Yönetici sponsorluğu tek başına teknolojiden daha önemlidir
Araştırma, C-Suite sponsorluğu olan kuruluşların% 78’inin zaten üretken AI’dan olumlu YG’yi gördüğünü buldu. Karşılaştırıldığında, güçlü yönetici desteği olmayan şirketler sonuçları geride bırakıyor.
CISOS için bu, üst düzey liderleri güvenlik tartışmalarına erken getirme ihtiyacını vurgulamaktadır. Yapay zeka odaklı girişimler işletmenin her bölümünü etkiler. Hizalama olmadan, güvenlik ekipleri stratejiyi şekillendirmek yerine risklere tepki verebilir. İş, BT ve hukuk ekipleri ile ortak bir yol haritası oluşturmak, güvenliğin konuşmanın bir parçası olmasını sağlamaya yardımcı olur.
Güvenlik liderleri için sonraki adımlar
AI ajanları günlük operasyonlarda daha büyük bir rol üstlendikçe, CISOS’un yönetişim ve riske adım atması gerekecektir. İşte şimdi dikkate alınması gereken bazı eylemler:
- Tehdit algılama veya otomatik olay yanıtı gibi AI için yüksek değerli güvenlik kullanım durumlarını belirleyin.
- AI sistemlerinin nasıl kullanıldığı ve izlendiği konusunda politikalar ve sürekli iletişim konusunda güven oluşturun.
- Veri, fikri mülkiyet ve uyumluluğu korumak için resmi bir AI kural kitabı oluşturun.
- Ekipler AI ile çalışma fırsatlarını ve risklerini anlarlar.