Proximity, Model Bağlam Protokolü (MCP) sunucularını tarayan yeni bir açık kaynaklı araçtır. Bir sunucunun kullanıma sunduğu istemleri, araçları ve kaynakları tanımlar ve bu öğelerin nasıl güvenlik riskleri oluşturabileceğini değerlendirebilir. Araç aynı zamanda hızlı enjeksiyon veya jailbreak girişimleri gibi sorunları kontrol eden bir kural motoru olan NOVA ile de çalışır.
Proximity’nin yazarı Thomas Roccia, Help Net Security’ye şunları söyledi: “Geçen yıl, MCP, yapay zeka yeteneklerini genişletmek için topluluk tarafından hızla benimsendi. Dünyanın dört bir yanındaki geliştiriciler, genellikle kamuya açık olan kendi MCP sunucularını oluşturmaya başladı. Ancak bu büyüme aynı zamanda saldırı yüzeyini de artırdı ve istemcileri, diğerlerinin yanı sıra hızlı enjeksiyon, araç zehirlenmesi veya veri hırsızlığı gibi risklere maruz bıraktı. Proximity’yi, bir MCP sunucusunu bir ortamda dağıtmadan önce ilk güvenlik değerlendirmesini sağlamak için oluşturdum,” dedi.
Proximity, neleri açığa çıkardıklarını listelemek için uzak veya yerel MCP sunucularını inceleyerek çalışır. Buna istemler, araçlar ve kaynak açıklamaları dahildir. NOVA ile eşleştirildiğinde bir adım daha ileri gidebilir. NOVA motoru, analistlerin şüpheli veya zararlı içeriği tespit etmek için kalıp tabanlı kurallar yazmasına olanak tanır. Bu önemlidir çünkü saldırganlar, bir sistemin nasıl çalıştığını ve onu nasıl manipüle edeceklerini anlamak için açığa çıkan araç açıklamalarındaki ayrıntıları kullanabilirler.
Roccia, “MCP’ye aşinaysanız, açığa çıkan her kaynak bir araç adı ve araç açıklaması içerir. Saldırganlar, ortamınızdan yararlanmak için bu bilgileri silah haline getirebilir. Proximity ve NOVA ile, dağıtımdan önce potansiyel olarak zararlı içeriği tespit etmek için bu açıklamaları tarayabilirsiniz,” diye açıkladı.
Roccia, Proximity’i güvenlik ekiplerinin yapay zeka sistemlerini değerlendirmesine yardımcı olmaya yönelik daha büyük bir çabanın parçası olarak tanımlıyor. Amaç, analistlere yapay zeka ortamları değiştikçe güncellenen, çalışan bir araç seti sunmaktır.
Proximity GitHub’da ücretsiz olarak mevcuttur.
Okumalısınız:
Temel açık kaynaklı siber güvenlik araçları hakkında bilgi sahibi olmak için Help Net Security’nin reklamsız aylık bültenine abone olun. Buradan abone olun!