Meta Salı günü duyurdu Lamafirewallyapay zeka (AI) sistemlerini hızlı enjeksiyon, jailbreaks ve güvensiz kod gibi ortaya çıkan siber risklere karşı güvence altına almak için tasarlanmış açık kaynaklı bir çerçeve.
Şirket, çerçevenin, PrompticGuard 2, ajan hizalama kontrolleri ve kodeşlik dahil olmak üzere üç korkuluk eklediğini söyledi.
PromptGuard 2, gerçek zamanlı olarak doğrudan jailbreak ve hızlı enjeksiyon denemelerini tespit etmek için tasarlanmıştır, Ajan Hizalama Kontrolleri, olası hedeflerin kaçırılması ve dolaylı hızlı enjeksiyon senaryoları için ajan muhakemesini denetleyebilir.
Codeshield, AI ajanları tarafından güvensiz veya tehlikeli kod üretilmesini önlemeyi amaçlayan çevrimiçi bir statik analiz motorunu ifade eder.
“Llamafirewall, LLM destekli uygulamaları güvence altına almak için esnek, gerçek zamanlı bir korkuluk çerçevesi olarak hizmet etmek için inşa edilmiştir.” Dedi.
“Mimarlığı modüler, güvenlik ekiplerinin ve geliştiricilerinin ham girdi yutulmasından nihai çıktı eylemlerine – basit sohbet modelleri ve karmaşık otonom ajanlar arasında katmanlı savunmalar oluşturmalarını sağlıyor.”
Llamafirewall ile birlikte Meta, çeşitli ortak ihlal türlerini daha iyi tespit etmek ve AI sistemlerinin savunma siber güvenlik yeteneklerini ölçmek için Lahaguard ve Cyberseceval’ın güncellenmiş sürümlerini yaptı.
Cyberseceval 4 ayrıca, büyük bir dil modeli (LLM) ajanının, AI-enerjili yama olarak bilinen bir yaklaşım olan bulanık olarak tanımlanan çok çeşitli C/C ++ güvenlik açıklarını otomatik olarak onarma yeteneğini değerlendirmek için tasarlanan AutoPatchBench adlı yeni bir ölçüt içerir.
Şirket, “AutoPatchBench, AI destekli güvenlik açığı onarım araçlarının etkinliğini değerlendirmek için standartlaştırılmış bir değerlendirme çerçevesi sunuyor.” Dedi. Diyerek şöyle devam etti: “Bu ölçüt, bulanık bulunan böcekleri onarmak için çeşitli AI odaklı yaklaşımların yetenekleri ve sınırlamaları hakkında kapsamlı bir şekilde anlaşılmayı kolaylaştırmayı amaçlıyor.”
Son olarak, Meta, ortak kuruluşlara ve AI geliştiricilerinin, dolandırıcılık, dolandırıcılık ve kimlik avı saldırılarında kullanılan AI tarafından üretilen içeriği tespit etmek gibi belirli güvenlik zorluklarını ele almak için ortak kuruluşlara ve AI geliştiricilerinin açık, erken erişim ve kapalı AI çözümlerine yardımcı olmak için savunucular için Lama olarak adlandırılan yeni bir program başlattı.
Duyurular, WhatsApp, kullanıcıların talepleri güvenli ve gizli bir ortama boşaltarak gizliliklerinden ödün vermeden AI özelliklerini kullanmalarına izin vermek için özel işleme adlı yeni bir teknolojiyi önizlemesiyle geliyor.
Meta, “Mimarimizi denetlemek ve geliştirmek için güvenlik topluluğuyla birlikte çalışıyoruz ve üründe başlatmadan önce araştırmacılarla işbirliği içinde açıkta özel işlemleri oluşturmaya ve güçlendirmeye devam edeceğiz.” Dedi.