Güvenlik ekipleri, büyük dil modellerini test edebileceklerinden daha hızlı bir şekilde ürünlere aktarıyor; bu da herhangi bir yeni kırmızı ekip oluşturma yöntemini dikkate almaya değer kılıyor. DeepTeam, bu sistemleri kullanıcılara ulaşmadan önce incelemek için oluşturulmuş açık kaynaklı bir çerçevedir ve zayıflıkları ortaya çıkarmak için doğrudan bir yaklaşım gerektirir.
Araç, yerel bir makinede çalışır ve saldırıları simüle etmek ve sonuçları değerlendirmek için dil modellerini kullanır. Ekiplere önyargı veya kişisel verilerin ifşa edilmesi gibi sorunları ortaya çıkarmanın bir yolunu veren, jailbreak ve anında enjeksiyon hakkındaki son araştırmalardan elde edilen teknikleri uygular. DeepTeam bir sorun bulduğunda benzer sorunları engellemek için üretim sistemlerine eklenebilecek korkuluklar sunar.
DeepTeam bir dizi model kurulumunu destekler. Artırılmış nesil işlem hatlarını, sohbet robotlarını, aracıları ve temel modelleri almayı test edebilir. Amaç, bir sistemin konuşlandırılmadan çok önce nerede güvenli olmayan şekillerde davranabileceğini göstermektir.
Proje 80’den fazla güvenlik açığı türünü içeriyor. Bunlar bir uygulamayı farklı risklere karşı taramak için kullanılır. Belirli bir soruna yönelik test yapması gereken kullanıcılar, kendi güvenlik açığı türlerini tanımlayabilir. DeepTeam bu eklemeleri otomatik olarak kaydeder ve her özel öğenin kaydını tutar. Yerleşik ve özel testler, ekstra yapılandırma gerekmeden birlikte kullanılabilir. Kullanıcı yeni bir güvenlik açığı için bilgi isteminde bulunmazsa, çerçeve bir şablon sağlar.
DeepTeam GitHub’da ücretsiz olarak mevcuttur.
Okumalısınız:
Temel açık kaynaklı siber güvenlik araçları hakkında bilgi sahibi olmak için Help Net Security’nin reklamsız aylık bültenine abone olun. Buradan abone olun!