Dalış Özeti:
- Yayınlanan araştırmaya göre “büyük laboratuvarlar” tarafından yayımlanan beş büyük dil modelinde bulunan yerleşik güvenlik önlemleri etkisiz Pazartesi günü Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü.
- Anonimleştirilmiş modeller yanıtların uygunluğu, doğruluğu ve tamamlanması ölçülerek değerlendirildi. Değerlendirmeler enstitünün açık kaynağı kullanılarak geliştirildi ve yürütüldü. model değerlendirme çerçevesiInspect, bu ayın başlarında yayınlandı.
- Enstitü raporda, “Test edilen tüm LLM’ler temel jailbreak’lere karşı oldukça savunmasız durumda ve bazıları, güvenlik önlemlerini aşmaya yönelik özel girişimler olmasa bile zararlı çıktılar sağlayacak” dedi. “Modellerin, bir saldırı olmadığında bunu yapma olasılıkları daha düşük olsa bile, nispeten basit saldırılar altında birden fazla veri kümesindeki zararlı sorulara uyum sağladığını gördük.”
Dalış Bilgisi:
Yapay zeka kurumsal teknoloji yığınlarında daha yaygın hale geldikçe, güvenlikle ilgili kaygılar yükselişte. Teknoloji, onaylanmamış bilgilerin kullanımından kaynaklanan siber sorunları artırabilir Yapay zeka ürünleri ile güvenli olmayan kod tabanları.
Siber güvenlik liderlerinin neredeyse tamamı (%93) şirketlerinin üretken yapay zeka kullandığını söylerken, teknolojiyi kullananların üçte birinden fazlası bu teknolojiyi kullanıyor. koruma önlemleri alınmadıbir göre Splunk anket.
Satıcının yerleşik güvenlik önlemleri etrafındaki belirsizlikle birlikte iç koruma önlemlerinin eksikliği, güvenlik konusunda dikkatli liderler için rahatsız edici bir senaryodur.
Geçen yıl müşterilerin endişeleri arttıkça satıcılar özellikler ekledi ve politikaları güncelledi. AWS, Bedrock platformuna korkuluklar ekleyerek güvenlik baskısı aralıkta. Microsoft entegre Azure AI İçerik Güvenliği, geçen yıl ürünlerindeki zararlı içeriği tespit etmek ve kaldırmak için tasarlanmış bir hizmet. Google kendi tanıtımını yaptı güvenli yapay zeka çerçevesiSAIF, geçen yaz.
Geçtiğimiz yıl da teknoloji sağlayıcıları arasında yapay zeka güvenliğine yönelik hükümet öncülüğündeki taahhütler çoğaldı.
Yaklaşık bir düzine yapay zeka modeli sağlayıcısı, projenin bir parçası olarak ürün testlerine ve diğer güvenlik önlemlerine katılmayı kabul etti. Beyaz Saray liderliğindeki bir girişim. Ve 200’den fazla kuruluş dahil Google, Microsoft, Nvidia ve OpenAI, katıldı yapay zeka güvenlik ittifakı Şubat ayında Ulusal Standartlar ve Teknoloji Enstitüleri’nin ABD Yapay Zeka Güvenlik Enstitüsü altında oluşturuldu.
Ancak satıcıların çabaları tek başına işletmeleri korumak için yeterli değildir.
CIO’lar çoğunlukla üretken yapay zeka çabalarına liderlik etmekle görevlendirildigetirmek zorunda Siber profesyoneller sohbete dahil modelleri tedarik etmeye ve kullanım senaryolarını yönlendirmeye yardımcı olmak.
Ancak eklenen uzmanlıkla bile, araştırma gelişmelerine ve düzenleyici gerekliliklere yanıt verecek kadar çevik yapay zeka planları oluşturmak oldukça zordur.
10’da 9’dan fazla CISOS Açık düzenlemeler olmadan üretken yapay zekayı kullanmanın organizasyonlarını riske atacağına inanıyorlar. A Trellix anket birden fazla 500 güvenlik yöneticileri. Neredeyse hepsi, özellikle veri gizliliği ve koruması konusunda daha yüksek düzeyde düzenleme istiyor.
ABD ve İngiltere ortak çalışıyor Yapay zeka modelleri için testler geliştirmek ve yapay zeka güvenlik testlerine standartlaştırılmış bir yaklaşım oluşturmak. Her iki ülke de Nisan ayında bağlayıcı olmayan bir işbirliği anlaşması imzaladı. Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü de Pazartesi günü ilk şubesini açma planlarını açıkladı. San Francisco’daki yurtdışı ofisi Bu yaz.
“Enstitü, ABD’deki varlığını genişleterek ABD ile yakın bir işbirliği kuracak, ülkenin stratejik ortaklığını ve yapay zeka güvenliğine yaklaşımını ilerletecek, aynı zamanda araştırmaları paylaşacak ve tüm dünyada yapay zeka güvenlik politikasını bilgilendirebilecek yapay zeka modellerine ilişkin ortak değerlendirmeler yürütecek. Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü bir açıklamada şunları söyledi:
ABD’de federal kurumlar görevlerde ilerleme kaydetmek yöneten Başkan Joe Biden’ın Ekim ayı başkanlık emri Yapay zeka üzerinde. Senato da kararını açıkladı uzun zamandır beklenen politika rehberliği geçen hafta. Bir yıl boyunca süren iki partili çabalar, kanun koyuculara ileriye dönük mevzuat hazırlama konusunda rehberlik edecek.