BASIN BÜLTENİ
TEL AVIV, İsrail, 09 Ekim 2024 (GLOBE NEWSWIRE) — Sütun GüvenliğiGenAI güvenlik çözümlerinde öncü bir şirket olan , bugün sektörün ilkini piyasaya sürdü “GenAI’ye yönelik saldırıların durumu” 2.000’den fazla yapay zeka uygulamasının gerçek dünya analizine dayanan araştırma. Daha önceki görüş ve teorik risk araştırmalarının tam tersine, bu veri odaklı araştırma, Pillar’ın yapay zeka destekli uygulamalarda üretimde meydana gelen veri etkileşimlerinden elde edilen telemetri verilerine dayanmaktadır. son üç ay.
Rapordaki önemli bulgular şunları içeriyor:
-
Veri Hırsızlığında Yüksek Başarı Oranı: Başarılı saldırıların %90’ı hassas verilerin sızmasıyla sonuçlandı
-
Alarm Verici Atlama Oranı: Jailbreak saldırı girişimlerinin yüzde 20’si GenAI uygulama korkuluklarını başarıyla atladı
-
Hızlı Saldırı Gerçekleştirme: Düşmanların bir saldırıyı gerçekleştirmek için ortalama yalnızca 42 saniyeye ihtiyacı vardır
-
Minimum Etkileşim Gerekliliği: Saldırganların başarılı bir saldırıyı tamamlamak için GenAI uygulamalarıyla ortalama yalnızca beş etkileşime ihtiyacı vardı
-
Yaygın Güvenlik Açıkları: Saldırılar, GenAI sistemleriyle etkileşimin her aşamasında güvenlik açıklarından yararlanarak kapsamlı güvenlik önlemlerine olan kritik ihtiyacın altını çiziyor
-
Sıklık ve Karmaşıklıkta Artış: Analiz edilen saldırılar, kullanıcıların daha karmaşık teknikler kullanması ve zaman ilerledikçe koruma önlemlerini aşmak için ısrarlı girişimlerde bulunmasıyla birlikte, hızlı enjeksiyon saldırılarının hem sıklığında hem de karmaşıklığında net bir artış olduğunu ortaya koyuyor
Pillar Security’nin CEO’su ve kurucu ortağı Dor Sarig, “GenAI’nin kuruluşlarda yaygın şekilde benimsenmesi, siber güvenlikte yeni bir ufuk açtı” dedi. “Raporumuz teorik risklerin ötesine geçiyor ve ilk kez doğada meydana gelen gerçek saldırılara ışık tutuyor ve kuruluşlara GenAI güvenlik duruşlarını güçlendirmek için eyleme geçirilebilir bilgiler sunuyor.”
Gerçeklerle dolu raporda yer alan diğer birçok görüş arasında öne çıkanlar şunlardır:
-
En İyi Jailbreak Teknikleri, Bunlar arasında Önceki Talimatları Yoksay (saldırganlar yapay zeka sistemlerini ilk programlamalarını dikkate almamaya yönlendirir) ve Base64 Kodlama (güvenlik filtrelerinden kaçmak için kodlanan kötü amaçlı istemler) bulunur
-
Birincil Saldırgan Motivasyonları hassas verileri, özel ticari bilgileri ve kişisel bilgileri çalıyorlar ve dezenformasyon, nefret söylemi, kimlik avı mesajları ve kötü amaçlı kodlar üretmek için içerik filtrelerini atlatıyorlar
-
Seçilmiş ve ayrıntılı liste gerçek dünyadaki üretim yapay zeka uygulamalarında gözlemlenen en önemli saldırıları analiz eder
-
2025’e Bakıyoruz, Pillar, küçük, yerel olarak konuşlandırılmış yapay zeka modellerinin çoğalmasının yanı sıra, sohbet robotlarından yardımcı pilotlara ve otonom aracılara doğru evrimi öngörüyor. Yapay zekanın benimsendiği bu yeni dönem, erişimi demokratikleştiriyor ancak saldırı yüzeylerini daha da genişleterek kuruluşlar için ek güvenlik zorlukları ortaya çıkarıyor.
Sarig, “Karmaşık görevleri yerine getirebilen ve kararlar alabilen yapay zeka aracılarına doğru ilerledikçe, güvenlik ortamı giderek daha karmaşık hale geliyor” diye açıkladı. “Kuruluşların, özel kırmızı ekip çalışmaları uygulayarak ve GenAI geliştirme süreçlerinde ‘tasarım gereği güvenli’ yaklaşımını benimseyerek, AI hedefli saldırılarda bir artışa hazırlanmaları gerekiyor.”
Rapor, gelişen yapay zeka tehditleri karşısında geleneksel statik güvenlik önlemlerinin yetersizliğini vurguluyor. Pillar Security CRO’su Jason Harrison, “Yapay zekanın etkin olduğu bu dinamik dünyada statik kontroller artık yeterli değil” diye ekledi. “Kuruluşlar, yönetişimlerini ve siber politikalarını desteklerken, ortaya çıkan tehditleri gerçek zamanlı olarak tahmin edip bunlara yanıt verebilen yapay zeka güvenlik çözümlerine yatırım yapmalı.”
Pillar’ın tam araştırma raporu GenAI’ye yönelik saldırıların durumu kendi web sitesinde mevcuttur.
Yapay Zeka Güvenliği hakkında daha fazla bilgi için lütfen şu adresi ziyaret edin: https://www.pillar.security/resources/buyer-guide.
Bir demo planlamak için lütfen şu adresi ziyaret edin: https://www.pillar.security/get-a-demo.
Sütun Güvenliği Hakkında
Sütun Güvenliği Geliştirmeden üretime ve kullanıma kadar tüm yapay zeka yaşam döngüsünü güvence altına almak için birleşik bir platform sağlar. Platform, mevcut kontroller ve iş akışlarıyla sorunsuz bir şekilde bütünleşir ve özel risk algılama modelleri, kapsamlı görünürlük, uyarlanabilir çalışma zamanı koruması, sağlam yönetişim özellikleri ve son teknoloji rakiplere karşı direnç sağlar. Pillar’ın algılama ve değerlendirme motorları, gerçek dünyadaki yapay zeka uygulama etkileşimlerine ilişkin geniş veri kümeleri üzerinde eğitim yapılarak sürekli olarak optimize edilir ve yapay zeka ile ilgili risklerde en yüksek doğruluğu ve kesinliği sağlar.