Etiket: Jailbreak
Yakın tarihli bir güvenlik analizi Deepseek AIBulut tabanlı siber güvenlik, uyumluluk ve güvenlik açığı yönetimi çözümleri sağlayıcısı Qualys tarafından damıtılmış…
Araştırmacılar, GitHub Copilot’ta Microsoft’un AI destekli kodlama asistanı olan ve kurumsal AI araçlarındaki sistemik zayıflıkları ortaya çıkaran iki kritik güvenlik…
Araştırmacılar, bu ayın başlarında tanıtım ve kullanıcı benimsemesinin bir kasırgasına çıkış yapan Çin üretken yapay zeka (Genai) olan Deepseek’i nasıl…
Anonim tamirci, son derece gizli sistem istemini (davranışını şekillendiren temel talimatları) ortaya çıkarmak için bir yapay zeka asistanının korumalarını atladığını…
03 Ocak 2025Ravie LakshmananMakine Öğrenimi / Güvenlik Açığı Siber güvenlik araştırmacıları, büyük dil modelinin (LLM) güvenlik korkuluklarını aşmak ve potansiyel…
Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme Araştırmacılar Yüksek Lisans Tahrikli Robotları Sandbox’ta Patlayan Bombalara Dönüştürüyor…
Araştırmacı Marco Figueroa, ChatGPT-4o ve benzer yapay zeka modellerinin yerleşik korumalarını atlayarak, yararlanma kodu oluşturmalarına olanak tanıyan bir yöntem ortaya…
23 Ekim 2024Ravie LakshmananYapay Zeka / Güvenlik Açığı Siber güvenlik araştırmacıları, etkileşimli bir konuşma sırasında zararsız dil modellerinin arasına istenmeyen…
Japonya’nın Kawasaki kentinden 25 yaşındaki bir adam, Japonya’da türünün ilk örneği olabilecek bir yapay zeka jailbreak vakasında fidye yazılımı oluşturmak…
Kötü niyetli bilgisayar korsanları bazen sistemlerdeki hatalardan yararlanarak çok sayıda yasa dışı etkinlik gerçekleştirebilmek için dil modellerini (LM’ler) jailbreak yapar….
Büyük dil modellerinin endüstride ve kuruluşlar genelinde hızla artan kullanımı, LLM’lerin belirli şekillerde istendiğinde zararlı ve önyargılı içerik üretme konusundaki…
Robust Intelligence ve Yale Üniversitesi’nden yapay zeka güvenlik araştırmacıları, büyük dil modellerini (LLM’ler) otomatik bir şekilde hızlı bir şekilde jailbreak…