Yapay zeka (AI) ve AI ajanları görünüşte her yerde. Konferans şovu katları veya ünlüler içeren televizyon reklamlarıyla birlikte, tedarikçiler, günlük yaşamlarımızı çok daha kolay hale getirmeye yardımcı olacağını söyledikleri teknolojiyi sergilemeye heveslidir. Peki bir AI ajanı tam olarak nedir?
Temel olarak, ajanik AI modelleri olarak da bilinen AI ajanları, görevleri ve iş akışlarını otomatikleştirmek için kullanılan üretken AI (Genai) ve büyük dil modelleridir (LLM’ler).
Örneğin, belirli sayıda insan için belirli bir ofiste bir toplantı için bir oda rezervasyonu yapmanız mı gerekiyor? Basitçe temsilciye bunu yapmasını isteyin ve sizin adınıza hareket eder, planlayacak ve yürütür, uygun bir oda ve zamanı belirleyebilir, ardından takvim davetini sizin adınıza meslektaşlarınıza gönderir.
Ya da belki bir tatil rezervasyonu yapıyorsun. Nereye gitmek istediğinizi, oraya nasıl ulaşmak istediğinizi, özel gereksinimleri eklemek istediğinizi ve AI temsilcisinden saniyeler içinde usulüne uygun olarak inceleyeceği, ayrıştırılması ve detaylandırılacağı önerilerini isteyebilirsiniz – size hem zaman hem de çaba tasarrufu.
Ağ güvenlik şirketi Cato Networks baş güvenlik stratejisti Etay Maor, “Yakın gelecekte AI ajanlarına çok bağımlı olacağız – herkesin farklı şeyler için bir temsilcisi olacak” diyor. “Çok uygun ve bunu her yerde göreceğiz.
“Bunun ters tarafı, saldırganların da ağır bir şekilde bakacakları” diye ekliyor.
Öngörülemeyen sonuçlar
Yeni teknoloji ortaya çıktığında, en iyi niyetle geliştirilmiş olsa bile, suçluların bundan yararlanmaya çalışması neredeyse kaçınılmazdır.
İnternetin ve siber sahtekarlığın yükselişiyle gördük, bulut tabanlı hibrid çalışmaya geçişle gördük ve siber suçluların hızla daha ikna edici kimlik avı e-postaları yazmak için atladığı AI ve LLM’lerin yükselişiyle gördük. Şimdi, siber suçlular AI ajanlarının ve otonom sistemlerin nasıl silahlanacağını araştırıyor.
Yakın zamana kadar siber güvenlik firması avcılarında Ar-Ge direktörü olan ve şu anda Stealth Mod’da bir başlangıçta kurucu ortağı olan Yuval Zacharia, “istismar oluşturmak istiyorlar” diyor. “Bu, kod tabanını anlamak için yapmanız gereken kod analizi ve ters mühendisliği içeren karmaşık bir görevdir. Ve bu tam olarak bu, ajan AI’nın iyi olduğu görevdir – karmaşık bir sorunu her biri yürütmek için belirli araçlara sahip farklı bileşenlere bölebilirsiniz.”
Siber Güvenlik Danışmanlığı Reversec, Genai ve AI ajanlarının kötü niyetli bilgisayar korsanları tarafından nasıl kullanılabileceği konusunda çok çeşitli araştırma yayınlamıştır, genellikle teknolojinin ne kadar yeni olduğundan yararlanarak, yani güvenlik önlemleri tam olarak yerinde olmayabilir – özellikle de geliştirenler ürünlerinin rekabetten önce piyasaya sürülmesini sağlamak istiyorsa.
Örneğin, saldırganlar, veri veya diğer yetkisiz eylemleri çalmak amacıyla tarayıcı temsilcilerini ele geçirmeye hızlı enjeksiyon güvenlik açıklarından yararlanabilir. Veya alternatif olarak, REVEREC, bir AI ajanının kimlik avı bağlantılarını, sosyal mühendisliği ve diğer bilgileri çalma yollarını içerecek şekilde teşvik etmek için hızlı enjeksiyon saldırıları yoluyla nasıl manipüle edilebileceğini göstermiştir.
Reversec baş güvenlik danışmanı Donato Capitella, “Saldırganlar jailbreak veya hızlı enjeksiyon saldırıları kullanabilir” diyor. “Şimdi, bir LLM ajansı veriyorsunuz – aniden bu sadece genel saldırılar değil, sizin adınıza hareket edebilir: e -posta okuyabilir ve gönderebilir, video görüşmeleri yapabilir.
“Bir saldırgan size bir e -posta gönderir ve bir LLM bu posta kutusunun kısımlarını okuyorsa, aniden, e -posta LLM’yi karıştıran talimatlar içeriyor ve şimdi LLM bilgi çalacak ve saldırgana bilgi gönderecek.”
Ajan AI, kullanıcılara yardımcı olmak için tasarlanmıştır, ancak AI ajanları daha yaygın ve daha sofistike hale geldikçe, bu da kendi hedeflerine yardımcı olmak için onları sömürmek isteyen saldırganların kapısını açacaktır – özellikle meşru araçlar doğru bir şekilde güvence altına alınmazsa.
Maor, “Bir suçluyum ve ağınızdaki dosyaları yönetmenize yardımcı olan bir AI aracısı kullandığınızı biliyorsam, benim için bu fidye yazılımını dağıtmanın bir yolu” diyor. “Belki sizin için sesli mesajlar bırakabilecek bir AI aracısınız olacak: sesiniz? Şimdi kimlik sahtekarlığı. E -postalar iş e -posta uzlaşması (BEC) saldırılarıdır.
“Gerçek şu ki, bu ajanların birçoğu yapabilecekleri şeylerle çok fazla yeteneğe sahip olacaklar ve çok fazla korkuluk olmayacak, bu yüzden suçlular buna odaklanacak” diye ekliyor, “Kötü şeyler yapmak için gerekenlerin çubuğunun sürekli bir düşürülmesi var”.
Ajanik yapay zeka ile kavga aracı AI
Nihayetinde, bu, Ajan tabanlı saldırıların Baş Bilgi Güvenliği Görevlileri (CISOS) ve siber güvenlik ekiplerinin şu anda karşılaştıkları diğer zorlukların üstesinden gelmesi gereken başka bir şey olduğu anlamına gelir. Belki de bunun bir cevabı, savunucuların AI ajanları tarafından sağlanan otomasyondan da yararlanmalarıdır.
Zacharia buna inanıyor-boş zamanlarında ajanik yapay zeka ile çalışan bir tehdit avı aracı bile inşa etti.
“Boş zamanlarımda hafta sonları yaptığım bir yan proje ile ilgiliydi-gerçekten geeky’im” diyor. “Bu, AI ajanlarının dünyasını keşfetmekle ilgiliydi çünkü bunun havalı olduğunu düşündüm.”
Siber saldırılar sürekli gelişmektedir ve ortaya çıkan tehditlere hızlı tepki, özellikle AI ajanlarının toplu olarak yeni istismarları ortaya çıkarmak için kötü bir şekilde konuşlandırılabileceği bir alanda inanılmaz derecede zor olabilir. Bu, güvenlik tehditlerinin tanımlanması, etkiyi değerlendirmek ve hafifletmeleri uygulamak çok zaman alabilir – özellikle siber güvenlik personeli bunu manuel olarak yapıyorsa.
Zacharia, “Yapmaya çalıştığım şey bunu AI ajanlarıyla otomatikleştirmekti” diyor. “Birden fazla AI aracının üzerine inşa edilmiş mimari, ortaya çıkan tehditleri tanımlamayı ve iş bağlamına, veri zenginleştirmesine ve önem verdiğiniz şeylere göre öncelik vermeyi amaçlıyor, daha sonra bunları eyleme geçirilebilir anlayışlara dönüştürmenize yardımcı olacak avcılık ve canlılık sorguları yaratıyorlar.”
Bu veri zenginleştirmesi birden fazla kaynaktan gelir. Bunlar arasında sosyal medya trendleri, CVES, Yama Salı bildirimleri, CISA uyarıları ve diğer kötü amaçlı yazılım danışmanları yer alıyor.
Yapay zeka, bu bilgiyi şiddete göre önceliklendirir, AI ajanları, örneğin kritik güvenlik güncellemelerini indirerek görevlerin yapılmasına yardımcı olmak için bu bilgilere göre hareket ederken, aynı zamanda aşırı çalışılan siber güvenlik personeli üzerindeki yükün bir kısmını hafifletmeye yardımcı olur.
“Siber güvenlik ekiplerinin ellerinde çok şey var, yapacak çok şey var” diyor Zacharia. “Sahip oldukları tüm güvenlik araçlarından almaya devam ettikleri uyarılardan bunalmışlar. Bu, genel olarak tehdit avı, özellikle de ortaya çıkan tehditler için her zaman ikinci önceliktir.”
Yaygın tehdit aktörleri tarafından ifşa üzerine hemen sömürülen, yaygın olarak kullanılan yazılımlarda kritik bir sıfır günlük güvenlik açığı olan Log4J gibi olaylara işaret ediyor.
Zacharia, “Bunları zamanında bulamıyorsanız, bunun kuruluşunuzda ne kadar hasar verebileceğini düşünün” diyor. “Ve bu tam olarak mesele,” diye ekliyor, ajan AI’nin siber güvenlik açıklarını ve sorunlarını hızlı bir şekilde tanımlamaya ve düzeltmeye nasıl yardımcı olabileceğini ifade ediyor.
SoC’yi ajanik yapay zeka ile düzene koymak
Zacharia’nın inanan ajan yapay zeka içinde yalnız olmaktan uzak, siber güvenlik ekiplerine büyük fayda sağlayabilir.
“Bir SOC düşünün [security operations centre] Bir olayın önünde oturan analist ve araştırmaya başlaması gerekiyor, ”diyor Maor.“ Geçmişte böyle bir şey görüp görmediklerini görmek için teknik verilere bakmaya başlıyorlar. ”
Açıkladığı şey, SOC analistlerinin her gün yaptıkları önemli-ama zaman alıcı-. Maor, sürece aracı AI araçlarının eklenmesinin çalışmalarını kolaylaştırabileceğine ve sonuçta siber tehditleri tespit etmede daha etkili hale getirebileceğine inanıyor.
“Bir AI modeli olayı inceleyebilir ve daha sonra benzer olayları detaylandırabilir, hemen bir soruşturmanın gerekli olduğunu düşündürür” diyor. “Analiste neyi araştırmaları gerekmediklerini anlatan öngörücü model de var. Bu, değerli bir şeye ulaşmak için yapılması gereken homurdanma çalışmasını – bazen saatler, bazen işlerin günleri – kesiyor.”
Ancak destek sağlayabilse de, ajan yapay zekanın siber güvenlik tehditlerini ortadan kaldıracak gümüş bir mermi olmadığını belirtmek önemlidir. Evet, tehdit istihbaratını izleme veya güvenlik güncellemelerini uygulama görevini daha kolay ve daha verimli hale getirmek için tasarlanmıştır, ancak insanlar da bilgi güvenliğinin anahtarı olarak kalır. İnsanların SOCS’de çalışması gerekiyor ve kuruluşun geri kalanındaki çalışanların uyanık ve siber tehditlere karşı güvende kalmasına yardımcı olmak için bilgi güvenliği personelinin hala gerekli.
Özellikle AI gelişmeye ve gelişmeye devam ettikçe ve saldırganlar onu kullanmaya çalışmaya devam edecekler – ve bunlara karşı koymak savunuculara bağlı.
“Bu bir kedi ve fare durumu,” diyor Zacharia. “Her iki taraf da AI’yı kabul ediyor. Ama bir saldırgan olarak, içeri girmenin sadece bir yoluna ihtiyacınız var. Bir defans oyuncusu olarak tüm kaleyi korumalısınız. Saldırganlar her zaman avantaja sahip olacak, bu oynadığımız oyun. Ama her iki tarafın daha iyi ve daha iyi hale geldiğini düşünüyorum.”