AI inovasyonu daha önce görmediğimiz bir ölçekte hareket ediyor. Salesforce, Microsoft ve Google gibi hiperserler, Ajan AI’sını daha geniş bir halka sunmak için yarışıyor. Ve iştah orada! Yakın tarihli bir araştırma, kuruluşların% 82’sinin önümüzdeki üç yıl içinde AI ajanlarını entegre etmeyi planladığını gösterdi.
Bununla birlikte, AI ajanlarının özerk doğası, organizasyonları siber güvenlik için muazzam sonuçlara kadar açar. Güvenlik ekipleri, ajanlarının zararlı şekillerde hareket etmek için ne kadar kolay kaçırılabileceğini öğrendiklerinde ‘büyük AI Uyanışları’ içindeler. Bu olduğunda, AI inovasyonunun hızı bir tarama yavaşlayacaktır.
Bu bir insan mı yoksa bir makine mi? (AI ajanlarının siber riskleri nelerdir?)
AI ajanları, insan ve makine arasındaki çizgiyi aşan garip bir alanda. Öngörülemeyen insanlar gibi davranabilirler, bu nedenle geleneksel yazılım olarak ele alınamazlar, ancak kimlik ve erişim yönetimi araçları ile makine veya insan olarak kolayca sınıflandırılamaz. Bu, AI ajanlarını her iki siber saldırıya karşı savunmasız hale getirir – kimlik ve kötü amaçlı yazılım.
Ajanik AI, tanımlayıcı olmayan şekillerde davranır ve insanlar gibi aldatılabilir. Örneğin, siber güvenlik araştırmacıları ekibi, popüler bir AI asistanını, bir ‘veri korsanı’ kişisini benimsemeye ikna ederek kullanıcılardan gelen hassas verileri çıkarmaya kandırdı. Şimdi, bir AI asistanı bir ‘veri korsanı’ kişiliğine kandırılabilirse, neden yapmaması gereken bağlantılara tıklamak için eğitilemedi (veya daha çok kandırılamaz)? Gerçek bir e -postadan kimlik avı e -postası arasında nasıl fark edilir?
Kimlik saldırıları ve ajan yapay zeka kötü bir kombinasyondur – perspektife koymak için, kimlik saldırıları siber saldırının en büyük ve en hızlı büyüyen formlarıdır. Saldırganlar gittikçe daha fazla kimliği hedefliyorlar, çünkü insan unsurundan yararlanmak, yazılım güvenlik açıklarından yararlanmaktan çok daha az çaba gerektirir. İnsan hatası, 2024’te veri ihlallerinin% 68’ine katkıda bulundu. Ajan yapay zeka şimdi yazılımı daha önce olmadığında bu saldırı vektörüne doğrudan savunmasız hale getiriyor.
Ancak işte kicker – AI ajanları, bir kuruluşun sistemleriyle etkileşime girme özerkliğine sahip oldukları için bir organizasyonda geleneksel yazılım biçimlerinizden daha fazla entegre olacak ve daha fazla güç kullanacak şekilde tasarlanmıştır. Siber güvenlik jargonunda, AI ajanlarının ayrıcalıklı bir kullanıcının yeni bir biçimi olabileceği anlamına gelir.
Microsoft ve Salesforce gibi şirketlerin zaten AI ajanlarını yayınladığı bir yazılım geliştirme kullanım durumu ile bunun pratikte nasıl çalıştığına bir göz atalım.
Geleneksel araçlardan farklı olarak, AI ajanları bir iş ekibi gibi birlikte çalışır. Her birinin, karmaşık projeleri verimli bir şekilde ele almak için görevleri atayarak ve tamamlayarak işbirliği yapan özel bir rolü vardır.
Örneğin, bir ajan tasarımcı olarak hareket edebilir, kaynakları tanımlamak, modülleri geliştirmek ve bunları bir bulut platformunda çalıştırmak için üst düzey bir plan oluşturabilir. Başka bir ajan bu adımları ayrıntılı eylemlere ayırabilir. Üçüncüsü, gerçek kodu yazmaya ve kaliteyi kontrol eden ve iyileştirmeler öneren bir inceleme acentesine göndermeye odaklanabilir. Son olarak, bir entegrasyon acentesi her şeyi bir araya getirecek, test yapacak ve ürünün dağıtım için onaylanması.
Bu tür bir ekip çalışması, ajanların kritik süreçler üzerindeki muazzam etki yaratabileceğini vurgular. Bir kuruluşun kod depolarına, bulut altyapısına, geliştirme ortamlarına, görev yönetimi araçlarına, vb. Birçok şirket hala kimlik bilgilerini koda yerleştirirken, AI ajanları şirket sırlarına bir kapı açar.
İnsanlar gibi yazılımı tedavi etme zamanı
Şirketler, AI ajanlarına başka bir yazılım parçası olarak muamele etme veya onlar için ayrı bir kimlik silosu oluşturmanın cazibesine direnmelidir. Bunun yerine, birleştirilmiş bir envanterde sunucular, dizüstü bilgisayarlar, mühendisler ve mikro hizmetler gibi her şeyin yanında AI ajanlarını yöneterek, kimliğe birleşik bir yaklaşım benimsemelidirler. Bu envanter, kimlik, erişim, politikalar ve gerçek zamanlı görünürlük için tek bir gerçek kaynağı olarak hareket etmelidir.
İşletmeler operasyonları basitleştirebilir, karmaşıklığı azaltabilir ve tüm altyapılarında tutarlı gözetim sağlayabilir.
Parlak oyuncakları bırak ve güvenliği düşün
Teknoloji dünyasında ‘yeni’ tarafından büyüleme eğilimimiz var – bu örnekte AI ajanları. Her zaman olduğu gibi, eğlenceye son veren ve güvenlik sonrası düşünüldüğünde yeniliğin ne kadar tehlikeli olabileceğini hatırlatan “ortalama” güvenlik ekipleri. Dikkatleri genellikle bu heyecan verici yeni araçları nasıl kullandığımızı sınırlar. Ancak bu sefer bahisler dikkat etmeyecek kadar yüksek.
Yükselen bir teknolojiyi tamamen rayından çıkarmak için sadece büyük, endüstri değiştiren bir saldırı gerektirir-toz toplamak için yeni teknolojileri kurtarır.
AI ajan kimliğini anladığımızı değiştirmedikçe, güvenlik ekipleri AI ajanlarının güvenlik açıklarını ele almak için 2025 mevcut günlük güvenlik modellerini harcayacaklar. Ve AI inovasyonu durmaya gelecek.
Reklam
LinkedIn Group Bilgi Güvenlik Topluluğumuza katılın!