Bu Help Net Security röportajında Seven AI CEO’su Lior Div, ajansal yapay zeka kavramını ve bunun siber güvenlikteki uygulamasını tartışıyor. Daha fazla özerklik ve karar verme yetenekleri sunarak geleneksel otomatik güvenlik sistemlerinden nasıl farklılaştığını açıklıyor.
Div, ajansal yapay zekanın, büyük hacimli uyarıları gerçek zamanlı olarak işleyerek yapay zeka tarafından oluşturulan kimlik avı veya kötü amaçlı yazılım gibi modern yapay zeka kaynaklı tehditlerle mücadele etmek için özellikle uygun olduğunu vurguluyor.
Ajans güvenliğini geleneksel otomatik siber güvenlik çözümlerinden nasıl ayırırsınız? Özerklik ve karar verme açısından onu farklı kılan şey nedir? Bu paradigma geleneksel güvenlik yaklaşımlarındaki hangi boşlukları doldurmayı hedefliyor?
Geleneksel otomasyon genellikle önceden tanımlanmış “eğer-o zaman” kurallarına dayanır; burada kodu yazan kişinin tüm olası sonuçları ve kararları önceden tahmin etmesi gerekir. Bu, statik bir ortamda çalışır, ancak siber güvenlik statik olmaktan başka bir şey değildir. Örneğin, bir e-posta bir URL, metin ve bir dosya eki içeriyorsa, otomatik sistemler bu unsurları araştıracak şekilde programlanabilir. Bu seviyedeki otomasyon, ilk analiz ve zenginleştirme için iyi çalışabilir.
Ancak daha derin bir soruşturma gerektiğinde zorluk ortaya çıkar. Sistem kötü amaçlı bir dosya tespit ederse yalnızca önceden tanımlanmış yolları izleyebilir. Geleneksel otomasyon burada durur ve sonraki adımları insan analistine bırakır.
Ajansal yapay zeka ise önceden tanımlanmış yolların ötesine geçer. Yapay zeka kötü amaçlı bir dosya tespit ederse durmaz; önceden yazılmış talimatlara ihtiyaç duymadan uç nokta algılama ve yanıt (EDR) araştırması başlatmak gibi başka eylemleri dinamik olarak başlatabilir. Tıpkı bir insan analistin yapacağı gibi, gelişen duruma dayalı olarak gerçek zamanlı kararlar alma yeteneğine sahiptir, ancak statik kodun sınırlamaları yoktur.
Bunu sıklıkla sürücüsüz bir arabaya “eğer-o halde” kurallarını kullanarak nasıl sürüleceğini öğretmeye benzetiyorum. Kontrollü bir ortamda çalışan kod yazmayı başarabilirsiniz. Ancak araba değişkenlerin sürekli değiştiği kalabalık bir caddeye çıktığında böyle bir sistem başarısız olacaktır. Aynı durum geleneksel siber güvenlik otomasyonu için de geçerlidir; gerçek dünyadaki siber tehditlerin karmaşıklığına uyum sağlayamaz. Ancak Agentic AI, beklenmedik durumlara dinamik olarak yanıt verebilir ve bu da onu günümüzün karmaşık siber ortamına çok daha fazla yanıt verme yeteneğine sahip hale getirir.
Yapay zeka tarafından oluşturulan kimlik avı veya kötü amaçlı yazılım gibi yapay zeka tarafından oluşturulan saldırıların artmasıyla birlikte, ajansal güvenlik bu tehditlere etkili bir şekilde nasıl karşı koyabilir? Geleneksel savunmalardan daha iyi performans gösterdiğine dair spesifik örnekler var mı?
Bugün karşılaştığımız en büyük zorluklardan biri saldırıların yoğunluğudur. Bilgisayar korsanları, insan analistlerin manuel olarak halledebileceklerinin çok ötesinde, sayısız kimlik avı e-postası veya kötü amaçlı yazılım varyasyonu oluşturmak için yapay zekayı kullanabilir. Agentic AI, her uyarıyı ve her potansiyel tehdidi gerçek zamanlı olarak, yorulmadan veya gözetim olmadan inceleyebildiği için bu tür bir ölçeğin üstesinden gelebilir.
Bir diğer kritik faktör ise hızdır. Saldırıların hacmi arttıkça yanıt verme süremiz azalıyor. Yapay zeka sistemleri, insan analistlerin aksine, her uyarıyı sanki en önemli soruşturmaymış gibi inceleyebilir. İnsanlar yoğunluktan bunalıp hata yapsa da yapay zeka sistemleri tutarlı ve hızlı kalıyor ve bilgiyi herhangi bir insanın yapabileceğinden çok daha hızlı işliyor.
Geleneksel güvenlik yaklaşımlarında, yalnızca en yüksek öncelikli olanlara odaklanarak genellikle uyarı sayısını azaltmaya çalışırız. Agentic AI oyunu değiştirir; her uyarıyı, her e-postayı önemliymiş gibi ele alabilir, tüm olasılıkları araştırabilir ve bunu çok kısa sürede yapabilir. Bu orantısız güç düzeyi, potansiyel tehditleri taviz vermeden kapsamlı bir şekilde araştırabileceğimiz anlamına gelir ve bu da çok daha kapsamlı bir güvenlik kapsamına yol açar.
Ajansal güvenlik, modern siber tehditlerin ölçeğini ve hızını nasıl ele alıyor? Makine hızının çok büyük miktardaki uyarıları yönetme yeteneğinde nasıl bir rolü var?
Agentic AI paralel işlemede öne çıkıyor; birden fazla uyarıyı aynı anda yönetebiliyor, her birini derinlemesine analiz edip araştırabiliyor. Ancak bunun başka bir katmanı daha var: bağlamsal farkındalık. Yapay zeka yalnızca uyarılar aracılığıyla kaba kuvvetle ilerlemez. Zamanla, koruduğu belirli ortamın nüanslarını öğrenir ve kuruluşun kendine özgü bağlamını anlar.
Örneğin yapay zeka, rutin ağ taramalarının bir parçası olarak daha önce dahili bir veritabanında işaretlenmiş bir IP adresiyle karşılaşırsa, bu bilgiyi ilişkilendirebilir ve uyarıyı zararsız olarak değerlendirebilir. Bir insan analist, çok sayıda uyarı karşısında bu tür ayrıntıları hatırlamakta zorluk çeker. Ancak yapay zeka bu bağlamı zahmetsizce yönetebilir ve gerçek tehditlere odaklanmasına olanak tanır.
Bilgileri ilişkilendirme, geçmiş verilerden öğrenme ve belirli ortama uyum sağlama yeteneği, ajansal yapay zekaya geniş uyarı hacimlerini yönetirken önemli bir avantaj sağlar. Ayrıca yapay zeka unutmaz ve öğrendiklerini başka yerlerde uygulayabilir. Bir müşterideki bir durumu ele alarak öğrendikleri diğer tüm müşterilere uygulanabilir.
Ajans güvenliğinin karmaşık bir siber tehdide yanıt verme süresini önemli ölçüde azalttığı gerçek dünyadan bir örneği paylaşabilir misiniz? Bu olaydan hangi dersler çıkarıldı?
Ajansal yapay zekanın hız ve kapsamlılık açısından insan analistlerden daha iyi performans gösterdiğini zaten görüyoruz. Sistem tarafından yapılan her araştırma, bir insan analistle karşılaştırıldığında çok daha hızlıdır. Ancak mesele sadece hız değil; bu aynı zamanda soruşturmanın derinliğiyle de alakalı. Agentic AI, ipuçlarını takip edebilir ve verileri manuel yöntemlerin izin verdiğinden çok daha kapsamlı bir şekilde analiz edebilir.
Çıkarılan en önemli çıkarımlardan biri, insanlar kritik yanıtlar için tamamen otonom sistemlere güvenme konusunda hâlâ tereddüt etse de, ajansal yapay zekanın ne yaptığına dair adım adım bir açıklama sunabilmesidir. Bu, insan analistlerin eylemleri gerçekleştirilmeden önce gözden geçirmesine ve onaylamasına olanak tanıyarak, işin ağır yükünü yapay zekanın üstlendiği ve gözetimin insanların elinde tuttuğu hibrit bir model oluşturur.
Fail yapay zeka daha fazla özerklik kazandıkça, özellikle insan gözetimi olmadan alınan kararlarda hangi etik hususlar dikkate alınmalıdır?
Buradaki kritik nokta siber güvenlikteki ajansal yapay zeka sistemlerinin genel amaçlı yapay zekalar olmamasıdır. Bunlar bilim kurgudaki Skynet gibi sistemler değil; siber güvenlik bağlamında belirli görevleri yerine getirmek üzere tasarlanmış son derece uzmanlaşmış ajanlardır. Tasarım gereği, rollerinin kapsamı dışında kararlar alamazlar.
Aslında, ajansal yapay zeka gizlilik korumasını geliştirebilir çünkü bir insanın tarama geçmişi veya e-posta içeriği gibi hassas verileri incelemesini gerektirmez. Yapay zeka, ilgili kişisel bilgilerle ilgilenmeden yalnızca bir şeyin tehdit oluşturup oluşturmadığını belirlemeye odaklanır. Bazı yönlerden bu, analistlerin istemeden kişisel verilere erişebileceği geleneksel yöntemlere kıyasla daha fazla gizliliğe yol açabilir.
Bir diğer önemli husus şeffaflıktır. Ajansal yapay zeka sistemlerimiz bir kara kutu değildir; hangi araçların kullanıldığını, kararların nasıl alındığını ve hangi eylemlerin gerçekleştirildiğini gösteren net bir denetim izi sağlarlar. Bu düzeyde denetlenebilirlik, insanların sistemin eylemlerini inceleyebilmesini, kararlarını anlayabilmesini ve kontrolü elinde tutabilmesini sağlar.
Yapay zeka ilerlemeye devam ettikçe, ajansal yapay zekanın siber güvenlikte devrim yaratma potansiyeli çok büyük. Hız, ölçek ve bağlamsal anlayışın birleşimi onu geleneksel otomasyona göre çok daha üstün kılar. Ancak teknoloji güçlü olsa da, kuruluşların kendilerini korumak için güvendikleri sistemlere güvenebilmeleri için teknolojinin tam şeffaflık ve etik denetimle çalışmasını sağlamaya kararlıyız.