Güvenlik araştırmacıları, Echo Chamber ve Crescendo olarak bilinen iki güçlü istismar tekniğini birleştirerek X’in gelişmiş AI dil modeli olan GROK-4’e karşı sofistike bir jailbreak saldırısı başarıyla gösterdiler.
Bu atılım, büyük dil modellerinin, birden fazla güvenlik mekanizması katmanını atlayabilen koordineli saldırı stratejilerine karşı artan endişeleri vurgulamaktadır.
Saldırı, farklı yaklaşımların birleştirilmesinin etkinliklerini nasıl önemli ölçüde artırabileceğini göstermek için tek yöntemli istismarların ötesine geçerek, düşmanca yönlendirme tekniklerinde önemli bir artışı temsil ediyor.
Daha önce araştırmacılar tarafından tanıtılan Yankı Oda Saldırısı, bir LLM’yi kendi güvenlik mekanizmalarını atlamasına izin veren incelikli hazırlanmış, zehirli bağlamda manipüle ederek çalışır.
Modelleri zararlı çıktılara doğru itmek için kademeli basınç uygulayan kreşendo tekniği ile birleştirildiğinde, ortaya çıkan saldırı her iki yöntemden de çok daha güçlü olduğunu kanıtlamaktadır.
GROK-4 savunmalarının başarılı bir şekilde ihlali
Araştırmacılar, gösterilerinde GROK-4’ü, Crescendo saldırı araştırmalarında kullanılan bir karşılaştırma testi olan bir Molotov kokteyli oluşturmak için talimatları çıkarmak amacıyla hedef aldı.
Saldırı süreci, kontamine bir konuşma bağlamı oluşturmak için hem zehirli tohumları hem de direksiyon tohumlarını kullanarak yankı odası dağıtımıyla başladı.
Aşırı agresif direksiyon tohumları ile yapılan ilk girişimler, modelin önlemlerini tetikledi, ancak araştırmacılar tam yankı oda iş akışını takip ederken daha hafif tohumları kullanarak yaklaşımlarını başarılı bir şekilde rafine ettiler.
Atılım, sadece ikna döngüsünün zararlı hedefe ulaşmak için yetersiz kaldığında meydana geldi.
Bu kritik noktada, kreşendo tekniği gerekli ek baskıyı sağladı ve hedef yanıtı sadece iki ek konuşma dönüşü içinde ortaya çıkarmayı başardı.
Bu, sofistike AI güvenlik önlemlerinin üstesinden gelmede çok teknisyen yaklaşımların gücünü göstermektedir.
Araştırmacılar, birçok zararlı hedefte birleşik yaklaşımlarının genelleştirilebilirliğini değerlendirmek için testlerini genişlettiler.
Yerleşik araştırmalardan çeşitli yasadışı faaliyet istemlerini test ederek, rahatsız edici başarı oranları elde ettiler: Molotov kokteyl talimatları için% 67, metamfetaminle ilgili içerik için% 50 ve toksin bilgileri için% 30.
Özellikle, bazı durumlarda, model kreşendo bileşenine ihtiyaç duymadan tek bir dönüşte kötü niyetli hedeflere ulaştı.
Araştırma, mevcut LLM savunma stratejilerinde, öncelikle niyet veya anahtar kelime tabanlı filtrelemeye dayanan temel bir güvenlik açığı ortaya koymaktadır.
Birleşik saldırı, açık zararlı girdi kullanmak yerine daha geniş konuşma bağlamından yararlanarak bu korumaları atlar.
Bu yaklaşım, tek bir istem açıkça kötü niyetli görünmediğinden, tespiti önemli ölçüde daha zor hale getirir.
Bulgular, çok yönlü, bağlam manipülasyon saldırılarına etkili bir şekilde karşı koyabilen gelişmiş LLM güvenlik önlemlerine acil ihtiyacın altını çiziyor.
Yapay zeka sistemleri giderek kritik uygulamalara entegre hale geldikçe, bu sofistike güvenlik açıklarını ele almak, yapay zeka dağıtımında kamu güvenini ve güvenliğini korumak için çok önemli hale gelir.
Günlük Siber Güvenlik Haberleri’nde güncel olun. Bizi takip edin Google News, LinkedIn ve X’te.