Bugcrowd LLM’ler için Güvenlik Açığı Derecelendirmelerini Açıkladı


Bugcrowd güncellendi Güvenlik Açığı Derecelendirmesi Taksonomisi Büyük dil modellerindeki (LLM’ler) güvenlik açıklarını kategorize etmek ve önceliklendirmek için yeni bir derecelendirme sistemi ile.

2016 yılında başlatılan VRT, Bugcrowd tarafından güvenlik açıklarının nasıl sınıflandırıldığını ve Bugcrowd ile onun müşteri kuruluşları ve güvenlik açığı araştırmacılarından oluşan ekosistemi tarafından nasıl kullanıldığını standartlaştırmaya yönelik açık kaynaklı bir girişimdir. VRT, siber güvenlik risklerinin ciddiyetini değerlendirmek için bir çerçeve sağlar. VRT, uç durumlardaki olası değişiklikleri göz önünde bulundurarak ortak güvenlik açığı sınıfları için temel bir teknik önem derecesi oluşturur.

En son VRT güncellemesi kısmen şunlardan esinlenmiştir: Büyük Dil Modeli Uygulamaları için OWASP İlk 10şirkete göre. Şirket, bu derecelendirme sistemiyle Bugcrowd’un güvenlik açığı araştırmacıları topluluğunun belirli güvenlik açıklarını aramaya ve hedeflenen kavram kanıtları oluşturmaya odaklanabileceğini, LLM ile ilgili varlıklara sahip program sahiplerinin ise en iyi sonuçları üreten proje kapsamını ve ödüllerini tasarlayabildiğini söyledi. Bugcrowd’un kurucusu ve baş strateji sorumlusu Casey Ellis, “Yapay zeka sistemleri, yaygın web uygulamalarında bulunan iyi bilinen güvenlik açıklarına sahip olsa da, Yüksek Lisans gibi yapay zeka teknolojileri, sektörümüzün henüz yeni anlamaya ve belgelemeye başladığı benzeri görülmemiş güvenlik zorlukları ortaya çıkardı” dedi. bir açıklamada söyledi.





Source link