Zenity, AI güvenlik platformunu olay korelasyon zekası, daha geniş aracı tarayıcı kapsamı ve yeni ortaya çıkan LLM manipülasyon tekniklerini test etmek için yeni bir açık kaynaklı araçla genişletti.
Kuruluşlar yapay zeka aracılarını, yapay zeka asistanlarını ve aracılı tarayıcıları geniş ölçekte benimsedikçe, güvenlik ekipleri olayların kimlikler, iş akışları ve ortamlarda nasıl ortaya çıktığını anlamakta giderek artan zorluklarla karşı karşıya kalıyor. Geleneksel uyarılar sinyaller sağlar ancak bunların arkasındaki anlatıyı sağlamaz. Zenity’nin en son gelişmeleri, gerçek dünyadaki kurumsal ortamlarda yapay zeka davranışlarını tespit etmek, analiz etmek ve yönetmek için birleşik bir yaklaşım sağlar.
Zenity CEO’su Ben Kliger, “Bu sürümle güvenlik ekiplerine daha önce hiç sahip olmadıkları bir şeyi, amacın gerçek görünürlüğünü sağlıyoruz” dedi. “Yeni Korelasyon Aracımız yalnızca sinyalleri tespit etmiyor, onları yorumluyor. Zenity platformunun aracı yaşam döngüsü boyunca topladığı ve ürettiği her sinyali, veri noktasını ve içgörüyü tek bir tutarlı hikayeye bağlayarak bir aracının ne yapmaya çalıştığını anlıyor.”
Kliger, “Bu, özellikle kuruluşlar 1 milyar aracıya yönelik hedeflerine doğru yola çıktıkça, yapay zeka güvenliği açısından ezber bozan bir gelişme” diye ekledi. “Dağınık sinyalleri yüksek güvenliğe sahip güvenlik anlatılarına dönüştürerek tahminleri ortadan kaldırıyoruz, araştırmaları hızlandırıyoruz ve ekiplere büyük ölçekte güvenli bir şekilde çalışmak için ihtiyaç duydukları netliği sağlıyoruz.”
Yapay zeka güvenlik araştırmaları için yeni olay istihbaratı
Zenity’nin yeni Sorunlar yeteneği, duruş bulgularını, çalışma zamanı anormalliklerini, kimlik ilişkilerini ve grafik tabanlı içgörüleri yüksek güvenliğe sahip güvenlik olaylarıyla ilişkilendirir. Sistem, bu sinyalleri ne olduğunu, neden olduğunu ve nelerden etkilendiğini açıklayan tutarlı anlatılar halinde birleştirir. Bu, güvenlik ekiplerine anında görünürlük sağlar, böylece olayları manuel olarak yeniden yapılandırmadan soruşturmalara başlayabilirler.
Korelasyon Aracısı, ekiplere daha önce hiç sahip olmadıkları bir şeyi, yani niyetin görünürlüğünü sağlar. Geleneksel tespitlerin yakalayamadığı kritik bir unsur. Davranışı yorumlar, manipülasyon girişimlerini ortaya çıkarır ve temsilcinin gerçekte ne yaptığını açıklayarak tahminleri azaltır ve ne olduğunu anlamak için gereken süreyi kısaltır.
Ajan tarayıcılar için genişletilmiş kapsam
Zenity, öncelikle ChatGPT Atlas, Perplexity Comet ve Dia’ya odaklanarak yapay zeka güvenlik kapsamını ajan tarayıcıları kapsayacak şekilde genişletiyor. Bu araçlar yeni bir gölge yapay zeka kaynağı yaratıyor. Kimliği doğrulanmış oturumlardaki içeriği özerk bir şekilde okur ve kullanıcı adına eylemlerde bulunurlar; bu da güvenlik ekiplerinin insan ve aracı etkinlikleri arasındaki farka karşı kör kalmasına neden olur. Bu, bir e-posta, web sayfası veya belgedeki tek bir kötü amaçlı talimatın kurumsal ölçekte veri kaybına, kimlik bilgilerinin kötüye kullanılmasına veya diğer zararlı sonuçlara yol açabileceği yüksek riskli bir yüzey oluşturur.
Zenity’nin cihaz aracısı aracılığıyla kuruluşlar, aracı tarayıcıları keşfedebilir, otonom etkinlikleri izleyebilir, veri kaybını önleyebilir ve gerçek zamanlı olarak amaç odaklı anormallikleri tespit edebilir. Bu kapsam, aracılı tarama davranışlarının, diğer yardımcı pilotlar ve kurumsal yapay zeka aracıları arasında uygulanan aynı birleşik politikalarla yönetilmesini sağlar. Zenity, önceden görünmez olan temsilci davranışlarını açığa çıkararak ve yüksek riskli eylemleri ortaya çıkararak, geleneksel araçların çözemediği güven açığını kapatıyor.
Ekiplerin aracılık riskini en aza indirmesine yardımcı olacak açık kaynaklı araç
Zenity Labs aynı zamanda veri yapısı enjeksiyonu ve LLM’lere karşı yapılandırılmış kendi kendini modelleme saldırıları üzerine devam eden araştırmalara dayanan yeni bir açık kaynak aracı da piyasaya sürüyor. Safe Harbor, aracının zararlı bir şey (iş akışı, araç çağrısı veya yapılandırılmamış giriş gibi) tespit ettiğinde çağırabileceği özel bir güvenli eylem ekler. Aracı, kötü niyetli bir talimatı tamamlamak yerine, güvenli olmayan iş akışından hemen uzaklaşabilir. Bu, geliştiricilerin derleme süreci sırasında çalışma zamanından yararlanma riskini azaltmalarına olanak tanır.
Yeni yetenekler, kuruluşların gürültüyü azaltmasına, araştırma derinliğini artırmasına ve büyüyen ajan ve yapay zeka destekli uygulamalar ekosisteminde görünürlük kazanmasına yardımcı oluyor.