İnsanlar siber güvenlik konusunda gerekli kalacak mı, yoksa AI devralmaya hazır mı? Wipro’ya göre, birçok CISO, tehdit algılama ve yanıt sürelerini iyileştirmek ve gelişmiş olay müdahale yetenekleri oluşturmak için AI’dan yararlanıyor.
Neler Değişiyor
AI sistemleri artık bir zamanlar rapor hazırlama, uyarılar oluşturmak ve yönetim için sunumlar oluşturma gibi giriş seviyesi analistleri tarafından ele alınan çeşitli görevleri yerine getirebilir.
Bu tekrarlayan işleri devralarak, AI insan profesyonellerine karmaşık sorunlara ve büyük resim stratejisine odaklanmak için daha fazla zaman tanır.
Ancak bu değişim sadece görev otomasyonundan daha derine iniyor. Güvenlik ekiplerinin işleyişini değiştiriyor. Güvenlik Bilgileri ve Etkinlik Yönetimi (SIEM), Bitiş Noktası Tespit ve Yanıt (EDR) ve Ağ Trafik Analizi (NTA) dahil olmak üzere güvenlik platformları, gerçek zamanlı olarak büyük miktarda veri analiz etmek için makine öğrenimi kullanın. Şüpheli davranışı tespit eder, yeni saldırı türlerini belirler ve çoğu durumda otomatik yanıtları tetiklerler. Bu, kuruluşların ek personel işe almadan savunmalarını ölçeklendirmelerine yardımcı olur.
Bu yüzden analist rolü de değişiyor. Her uyarıyı manuel olarak gözden geçirmek yerine, analistler artık AI sistemlerinin nasıl çalıştığını denetliyor. Yapay zeka kararlarının kalitesini, ince ayar kurallarını ve önde gelen koordineli yanıtları kontrol etmekten sorumludurlar. Bu tür bir çalışma teknik beceriler, ayrıca iyi yargı ve eleştirel düşünme yeteneği gerektirir.
AI ayrıca ekiplerin sürekli izleme ve öngörücü analitik yoluyla reaktif savunmadan proaktif tehdit beklentisine geçişine yardımcı olur. Ancak, AI’nın özerk yeteneklerine güven sınırlı kalır. Exabeam, siber güvenlik ekiplerinin sadece% 29’unun AI’nın bağımsız davranmasına güvendiğini ve analistlerin sadece% 10’unun bu güveni paylaştığını bildiriyor. Yöneticiler arasında bile, sadece% 38’i AI’nın siber savunmada özerk bir şekilde çalışmasına izin vermek rahat hissediyor.
Tehdit algılama, olay müdahale otomasyonu ve veri analizi için AI’nın nasıl geliştirileceğini, ayarlanacağını ve kullanacağını anlayan siber güvenlik uzmanları yüksek talep görecektir. Yapay zeka ile çalışmayı öğrenmiyorsanız, geride kalma riskiyle karşı karşıya kalırsınız.
AI’nın kör noktaları
Yapay zekaya çok fazla güvenmek ciddi dezavantajlara sahip olabilir. AI, geniş veri kümelerindeki lekelerde mükemmel olsa da, bağlam ve insan yargısının gerçek anlayışından yoksundur. Veri AI sistemleri üzerinde eğitilirse eksik veya önyargılısa, çıkışları bu sınırlamaları yansıtacaktır.
En önemli bir endişe, sistemin güvenlik açıklarını yanlış tanımlayarak veya tehdit zekasını yanlış yönlendirerek yanlış uyarılar ürettiği AI halüsinasyonlarıdır. Bu, zaman kaybetme veya daha kötüsü, gerçek tehditlerin fark edilmeden kaymasına izin veren gereksiz alarmlara yol açar.
Yanlış güven riski de var. Takımlar otomasyona büyük ölçüde güvendiğinde, her şeyin kontrol altında olduğunu düşünebilirler. Bu tür bir güven kör noktalar yaratabilir ve kimse yakından izlemiyorsa küçük sorunların büyük güvenlik sorunlarına dönüşmesine izin verir.
Etay Maor, “Aşırı ajansı olan LLM ajanları, örgütsel güvenliğin temel ilkelerini zayıflatabilir. Örneğin, aşırı özerklik veya işlevselliğe sahip bir LLM, bir kuruluşun bütünlüğünü etkileyen belirsiz, manipüle edilmiş veya çekişmeli girdiler nedeniyle yetkisiz bir eylem gerçekleştirebilir” dedi.
İleriye giden yol
Hala AI’nın tamamen kendi başına çalışabileceği bir zamandan uzaktayız ve bu iyi bir şey. Amacı insanları desteklemek ve görevleri kolaylaştırmak, bunları değiştirmek değil. Yapay zeka kaçınılmaz olarak belirli işleri otomatikleştirecek olsa da, insan karar almayı tanımlayan eleştirel düşünme ve yaratıcılıktan yoksundur. Bu, yalnızca güvenliğiniz için AI modellerine güvenmek anlamına gelir.
Perspektif İstihbarat Direktörü Aaron Roberts, “Sanırım AI’nın gücünün gürültüyü kesebilmek ve muhtemelen en alakalı olan şeyleri sağlamak, ancak bir öneri veya önerinin tam bağlamını ve potansiyel etkisini gerçekten anlamak için hala bir insanın güvenine ve doğrulamasına ihtiyacınız var.”
Şimdilik, AI işleri tamamen değiştirmiyor, ancak işgücünün gelecekte nasıl çalışacağını dönüştürüyor.