MITRE, kuruluşların bugün çevrimiçi olarak halka açık yapay zeka (AI) modellerinin tedarik zinciri risklerini değerlendirmesine yardımcı olacak ücretsiz bir aracı geliştirmek için Robust Intelligence ile işbirliği yapıyor.
İşbirliği ayrıca, otomatikleştirilmiş risk değerlendirme araçları geliştirmek için Indiana Üniversitesi ile çalışmayı da içeriyor.
Genel veri havuzlarında gelişmiş modellerin mevcudiyeti, kuruluşların yapay zekayı sistemlerine dahil etmesini kolaylaştırdı. Ancak, riski incelemek için bağımsız testler için çok az araç vardır.
Buna yanıt olarak Robust Intelligence, Mart 2023’te bir topluluk kaynağı olarak AI Risk Veritabanını oluşturdu. MITRE ile işbirliği içinde daha da geliştirdikten sonra, daha geniş MITRE ATLAS araçları seti altında barındırmak için uzun vadeli bir planla GitHub’da artık yeni bir açık kaynak sürümü mevcut.
ATLAS, gerçek dünya saldırı gözlemlerine ve yapay zeka kırmızı ekip çalışmasına dayalı düşman taktikleri ve tekniklerinin bir listesini içeren, dünya çapında erişilebilir bir bilgi tabanıdır. ATLAS, saldırıların öykünmesine izin veren diğer araçlara bağlantılar da içerir.
Robust Intelligence ve MITRE işbirliği, risk puanları, yazılım güvenlik açıkları ve ilgili CVE’ler gibi risklerin karakterizasyonu ve operasyonelleştirilmesiyle sonuçlanacaktır. Bu tanımlamalar, kullanıcılar açık kaynaklı AI modellerini kullandıklarında ortaya çıkabilecek riskler ve güvenlik açıkları konusunda artan farkındalık yaratmaya yardımcı olacaktır.
MITRE Mühendislik ve Prototiplemeden Sorumlu Başkan Yardımcısı Douglas Robbins, “Yapay Zeka Risk Veritabanının bu iş birliği ve sürümü, daha fazla kuruluşun belirli yapay zeka özellikli sistem türlerini devreye alırken nasıl doğrudan risk altında ve savunmasız olduklarını doğrudan görmelerini sağlayabilir” dedi. “MITRE ATLAS kapsamındaki en yeni açık kaynak aracı olan bu yetenek, dünya çapındaki kuruluşlar için risk değerlendirmesi ve azaltma öncelikleri hakkında bilgi vermeye devam edecek.”
Indiana Üniversitesi’nin Kelley Veri Bilimi ve Yapay Zeka Laboratuvarı’ndaki araştırmacılar, üçüncü taraf platformlarda bulunan modeller oluşturmak için kullanılan GitHub depolarını tarama becerisini de dahil ederek, kullanıcıların teslim edilen model yapıtının akış yukarısında var olan, kamuya açıklanmış yazılım güvenlik açıklarını tespit etmelerini sağlıyor.
“Bugün çoğu kuruluş, AI tedarik zinciri riskinin, AI yığınlarının önemli ancak yönetilmeyen bir yönü olduğunu kabul ediyor. Robust Intelligence CEO’su Yaron Singer, “Kuruluşların halka açık modellerin güvenlik, etik ve operasyonel risklerini kolayca değerlendirmesine yardımcı olma hedefimizi daha da ileriye taşımak için MITRE ile ortaklık yapmaktan heyecan duyuyoruz” dedi. “MITRE ATLAS, Yapay Zeka Risk Veritabanı için ideal bir yöneticidir. Ortak uzmanlığımız ve genişliğimiz, önümüzdeki yıllarda açık kaynak modellerinin güvenli kullanımını güçlendirecektir.”
MITRE, Robust Intelligence ve daha geniş AI güvenlik ve güvence topluluğu, ücretsiz ve topluluk destekli bir kaynak olarak AI Risk Veritabanının etkisini ve faydasını genişletmek için birlikte çalışmaya devam edecek.