Dünya Çapında Açık Uygulama Güvenliği Projesi (OWASP), kuruluşların büyük dil modellerinin (LLM’ler) ve üretken yapay zeka (GenAI) uygulamalarının benimsenmesi, konuşlandırılması ve yönetimiyle ilişkili riskleri tanımlamasına ve yönetmesine yardımcı olacak yeni güvenlik kılavuzu materyallerini duyurdu.
Kılavuz, küresel, topluluk liderliğindeki açık kaynaklı bir proje olan OWASP LLM Uygulama Güvenliği Projesi için En İyi 10’un bir parçasıdır. Grup, 2023’teki kuruluşundan bu yana kuruluşların yönetim, işbirliği ve pratik araçları kapsayan kapsamlı bir strateji geliştirmelerine yardımcı olmak için araştırma, rehberlik ve kaynak materyalleri yayınladı.
-
“Deepfake Olaylarına Hazırlanma ve Yanıt Verme Kılavuzu”, “hiper gerçekçi dijital sahteciliklerin” ortaya çıkardığı sorunları göstermektedir. Yapay Zeka Siber Tehdit İstihbaratı girişiminin bir sonucu olan bu kaynak, deepfake teknolojisi geliştikçe kuruluşların güvende kalmasına yardımcı olmak için pratik ve pragmatik savunma stratejilerini birleştiriyor.
-
“Mükemmellik Merkezi Kılavuzu”, işletmelerin yapay zeka güvenlik uygulamaları oluşturmaya yönelik en iyi uygulamaları ve çerçeveleri oluşturmasına yardımcı olur. Kılavuz, kuruluşların güvenlik, hukuk, veri bilimi ve operasyon ekipleri arasında risk yönetimi ve departmanlar arası koordinasyona yönelik sistemler oluşturmasının yanı sıra güvenlik politikasının nasıl geliştirilip uygulanacağına ve personelin yapay zeka güvenliği konusunda nasıl eğitileceğine yardımcı olur.
-
“Yapay Zeka Güvenlik Çözümü Ortam Kılavuzu” hem açık kaynak hem de ticari LLM ve GenAI uygulamalarının güvenliğinin nasıl sağlanacağına ilişkin geniş bir referanstır. Mevcut ve yeni ortaya çıkan güvenlik ürünlerini kategorilere ayırıyor ve İlk 10 listesinde tanımlanan riskler hakkında nasıl düşünülmesi gerektiği konusunda rehberlik sağlıyor.
Proje, LLM açıklarını ve hafifletici önlemleri belirlemek için dünya çapındaki şirket ve kuruluşlardan 500’den fazla siber güvenlik ve yapay zeka uzmanını bir araya getiriyor. 2024’ün başlarında proje, geliştiriciler, veri bilimcileri ve diğer güvenlik uygulayıcılarının yanı sıra CISO’lar ve uyumluluk görevlileri gibi stratejik paydaşları da kapsayacak şekilde odağını genişletti.
OWASP LLM Projesi için En İyi 10 proje lideri Steve Wilson, “Üretken yapay zeka patlamasının ikinci yılındayız ve saldırganlar yapay zekayı daha akıllı ve daha hızlı olmak için kullanıyor” dedi. ifade. “Güvenlik liderleri ve yazılım geliştiricilerinin de aynısını yapması gerekiyor. Yeni kaynaklarımız, kuruluşları giderek daha karmaşık hale gelen bu tehditlerin önünde kalabilmek için ihtiyaç duydukları araçlarla donatıyor.”