Net güvenlik görüşmesinin bu yardımcı olmasında, Twine Security CEO’su Benny Porat, AI ajanlarının güvenlik kararlarına uygulanmasını tartışıyor. Kimlik ve Erişim Yönetimi’nin (IAM) neden hem büyütme hem de otomasyon için ideal bir başlangıç noktası olduğunu açıklıyor ve AI ajanlarına güven oluşturma ve bunları mevcut iş akışlarına entegre etme konusunda tavsiyeler paylaşıyor.
Hangi siber güvenlik işlevleri veya alan adları AI büyütme ve tam otomasyon için en uygun olanıdır? Cisos bu emek bölünmesini nasıl düşünmeli?
Kimlik en kritik saldırı yüzeylerinden biri olduğundan, Kimlik ve Erişim Yönetimi’nin (IAM) hem AI büyütme hem de tam otomasyon için şirketlerin başlaması gereken siber güvenlik alanı olduğuna inanıyorum. Bir ya da diğeri değil.
Kuruluşlar için sağlıklı bir süreç, AI ajanı ile büyütme konusunda çalışmaya başlamak ve daha sonra güven kazanıldıktan sonra tam otomasyona geçmek ve ajan belirli kuruluş ihtiyaçlarınızı ve kenar vakalarınızı öğrenmiştir. Yüksek hacimli, kimlik hijyeni gibi düşük karmaşıklık görevleri, hesap sahipliği doğrulaması ve rutin IAM iş akışları, nereden başlayacağına dair iyi örneklerdir, daha sonra AI, hacizde durma işlemlerini (UAR’lar), hacizde tutulacağı durumlarda (UAR’lar), kullanıcı erişimine yardımcı olacak daha karmaşık senaryolara geçer.
Cisos, AI ajanlarını entegre etmek için güvenlik ekiplerini nasıl yeniden yapılandırmalı? Mevcut rollerin artırılmasından mı yoksa tamamen yenilerinin ortaya çıkmasından mı bahsediyoruz?
Siber güvenlikte yeni bir alan ortaya çıktığında, çoğu zaman aynı şeyi görüyoruz: birincisi, kuruluşlar ve güvenlik ekipleri uzmanlık kazanmaya odaklanan yeni bir ekip oluşturur, bu nedenle yeni roller oluşturulur. Bu, bulut güvenliği tüm segment haline geldiğinde birçok kuruluşta oldu.
Bir süre sonra konsolidasyon görürsünüz ve mevcut siber takımlar ve yeni ekip birleşir, o zaman herkesin artırılmış yetenekleri vardır (örneğin, AI ajanları üzerindeki güvenlik yönleri ve denetim). Güvenlik profesyonellerinin işleyişini temelden dönüştürecekleri için bunun da Ajan AI ile olacağını öngörüyorum.
Siber güvenlikteki yapay zeka odaklı kararlar, insan kararlarının olduğu gibi denetlenebilir olmalı mı? Eğer öyleyse, bunun gerçekleşmesi için teknik gereksinimler nelerdir?
Siber güvenlik alanında yapay zeka odaklı kararlar insan kararlarından daha da denetlenebilir olmalı ve zaten tasarım gereğidir.
Farklı bir sektöre bakalım: otonom otomobiller için teknoloji bir süre vardı, ancak insanları başlangıçta benimsemekten daha fazla zaman aldı. Sebebin bir kısmı, otonom bir otomobilin her kazasının kapsama alanı olması ve tüm endüstrinin durması, insan kazalarının da aynı ilgiyi çekmemesiydi.
Şimdi AI ajanlarına geri dönelim-hafıza ve öznel hatırlamaya dayanan insan karar vermesinin aksine, AI ajanları tüm süreç boyunca her karar noktasını, veri girişini, mantıksal adım ve eylemi yakalayan eksiksiz, değişmez denetim izleri oluşturur. Düşünce süreçlerinin sıklıkla belgesizleştiği insan kararlarıyla imkansız olan bir AI ajanının her karar noktasının ve eyleminin tam geçmişine sahibiz.
Teknik gereksinimler, tüm veri kaynakları ve ağırlıkları ile tüm karar ağaçlarını yakalayan kapsamlı günlüğe kaydetme sistemleri, her eylem için akıl yürütme sağlayan açıklanabilir AI çerçeveleri, değişmez denetim günlükleri ve her eylemi kök nedeniyle eşleştiren karar provenans takibi içerir. Bu, reaktif belgelerden uyumluluğu, her AI odaklı güvenlik kararının otomatik olarak belgelendiği, haklı çıkarıldığı ve derhal inceleme için kullanılabilir olduğu proaktif özelliğe dönüştürür.
Siber güvenlik alanında bir insan-ai ekip modelinin performansını ve yatırım getirisini değerlendirirken hangi metrikler veya KPI’lar en yararlıdır?
Sık sık ekiplerin o kadar önemli bir proje ile başlamasını öneririm, mevcut AI ajanları teknolojisi olmasa bile, yine de yapacaklardı. Bu, ne olursa olsun yapacağınız bir proje ise, alacağı zamanı ve projenin her alanında aradığınız kaliteyi bilerek bir puan kartına sahip olmalısınız.
Daha sonra, buna sahip olduğunuzda, aynı projeyi yapmak için bir AI temsilcisi getirin ve ROI’yi tasarruf edilen önemli zaman, kaynak ve enerji tasarrufu ve elbette tasarruf sağlayın. Kalitenin ölçülmesi biraz zor olabilir ve piyasadaki bazı AI teknoloji tedarikçileri tarafından kullanıldığını görüyoruz, bu nedenle çıtayı projenin başlangıcında en başından beri ayarlamak önemlidir. AI temsilcisine güven önemlidir ve AI ajanları organizasyonu ve benzersiz ihtiyaçlarını öğrendikçe çok daha iyi performans gösterirler.
Daha fazla uyanık yorgunluk veya operasyonel sürtünme oluşturmadan AI’yi mevcut SIEM, Soar ve EDR iş akışlarına entegre etmek için en iyi uygulamalar nelerdir?
SOC dünyasında en büyük zorluklardan biri hacimdir. AI’nın sadece ‘hacimle uğraşmasına’ izin verirseniz – risklidir, çünkü böyle bir senaryoda çalışmalarının kalitesini değerlendirmek genellikle çok zordur. Şahsen, bu nedenle, SOC’yi organizasyonda ilk kullanım durumu olarak kullanmam ve bu IAM ile başlamamızın nedenlerinin bir parçası. Bir AI ajanı ile tamamen özerk gitmek istediğiniz kaliteyi doğrulamak çok önemli.
Bu nedenle, bu tür iş akışları için CISOS’a bir ipucu vermeliyim – ilk adım olarak, kuruluşlar bu tür iş akışlarında aracı AI uygulamasına odaklanmalı ve mevcut uyarılarının bağlamını zenginleştirecek ve iğneyi kendileri için hareket ettirebilecek öneriler alacaklar.