Derin sinir ağları (DNN'ler) yaygınlaştıkça, gizli kötü amaçlı işlevler yerleştiren arka kapı saldırılarına karşı güvenliklerine ilişkin endişeler de arttı.
Siber güvenlik araştırmacıları (Wenmin Chen ve Xiaowei Xu) kısa süre önce, model eğitimi sırasında algılanamayan tetikleyicileri yerleştirmek ve önceden tanımlanmış kötü niyetli davranışlara neden olmak için tekil değer ayrıştırmasından (SVD) yararlanan görünmez bir arka kapı saldırısı olan DEBA'yı önerdi.
DEBA, tetikleyici görüntülerin küçük görsel özelliklerini temiz görüntülerden gelenlerle değiştirerek, ayırt edilemezlik için önemli özellikleri korur.
Görünmez Arka Kapı Saldırısı – MELİ
Kapsamlı değerlendirmeler, DEBA'nın zehirli görüntülerin algısal kalitesini korurken yüksek saldırı başarı oranları elde ettiğini gösteriyor.
Ayrıca DEBA, DNN'lere yönelik bu tür saldırılara karşı mevcut savunma önlemlerinden kaçma ve direnme konusunda sağlamlık göstermektedir.
Çalışma, derin öğrenme modellerinin güvenilirliğinden ödün veren gizli arka kapı yerleştirmelerinin artan tehditlerini vurguluyor.
Derin sinir ağları (DNN'ler), başlangıç noktası olarak yerleştirme yoluyla sunulan yamalar biçiminde arka kapı saldırılarına maruz kalır ve sonraki uygulamalar gizli ve görünmez hale gelir.
Ücretsiz Web Semineri: Güvenlik Açığı ve 0 Günlük Tehditlerin Azaltılması
Güvenlik ekiplerinin 100'lerce güvenlik açığını önceliklendirmesi gerekmediğinden, hiç kimseye yardımcı olmayan Yorgunluk Uyarısı.:
- Günümüzün kırılganlık yorgunluğu sorunu
- CVSS'ye özgü güvenlik açığı ile risk tabanlı güvenlik açığı arasındaki fark
- Güvenlik açıklarının iş etkisine/riskine göre değerlendirilmesi
- Uyarı yorgunluğunu azaltmak ve güvenlik duruşunu önemli ölçüde geliştirmek için otomasyon
Riski doğru bir şekilde ölçmenize yardımcı olan AcuRisQ:
Yerinizi ayırtın
Belirli bir süreç, görünür arka kapılardan düşmanca tedirginliklere, etiketle tutarlı zehirlenmeye, uç tabanlı dinamik tetikleyicilere ve bunların doğal görünmesini sağlayan renk değişimlerine doğru evrilir.
Ancak daha önceki bazı saldırılar hala tamamen görünmez olmadıklarını ortaya çıkaran görsel izler bırakıyor.
Bunun yanı sıra son araştırmalar, arka kapıların gerçek dünya uygulamalarında kullanılan yüz tanıma sistemlerine de genişletilebileceğini gösteriyor.
Başlangıçta çıkarım hatalarını hedef alan bu tehditler, güvenilirlik nedenleri ve güvenlik endişeleri nedeniyle farklı alanlara dağıtılan DNN'ler için daha tehlikeli olan gizli, esnek bir şekilde yerleştirilebilir arka kapı tehditleri oluşturmaya doğru değişti.
Ancak bu tür gizli zehirlenme saldırılarına karşı önlem almak hâlâ zor.
Gelişmeye devam eden derin sinir ağlarına (DNN'ler) yönelik sessiz arka kapı saldırıları, etkili savunmalar konusunda daha fazla araştırma yapılmasına neden oldu.
Bu tür çabalar veri girişlerinin, modellerinin ve çıktı tespitinin korunmasına odaklanmaktadır.
Giriş savunmaları, zehirlenmeden şüphelenilen anormallikler için belirginlik haritalarını ve yapıtları analiz eder. Model savunmaları, nöronları budayarak, ince ayar yaparak veya modelleri ayrıştırarak arka kapıları ortadan kaldırır.
Çıkış tespiti, giriş bozulmaları altında tahmin rastgeleliğini ölçerek virüslü modelleri tanımlar.
Ancak hücum ve savunma arasındaki bu yarış, eğitim sürecine görünmez tetik yerleştirme yoluyla mevcut savunmaları bypass edebilen yeni saldırılardan biri olan DEBA ile devam ediyor.
.webp)
Gizli model yolsuzluğunun artması ve DNN'lerin güvenilir ve emniyetli bir şekilde kullanılması ihtiyacı göz önüne alındığında, en yeni savunmaların ortaya çıkmasına karşı sağlamlığın değerlendirilmesi oldukça önemlidir.
Önerilen saldırı, saldırganın model mimarisini veya eğitim sürecini kontrol etmeden eğitim verilerinin bir kısmını zehirleyebileceğini varsayar.
Çıkarım sırasında saldırganlar yalnızca girdileri manipüle edebilir.
DEBA, görüntüleri tekil değerlere ve yapısal bilgileri yakalayan vektörlere ayrıştırmak için tekil değer ayrıştırmasını (SVD) kullanır.
DEBA, temiz görüntülerin en küçük tekil değerlerini/vektörlerini tetikleyici görüntülerden gelenlerle değiştirerek, algılanamayan tetikleyicileri yerleştirir ve küçük tetikleyici ayrıntıları enjekte ederken temiz görüntülerin ana özelliklerini korur.
Bu süreç, çıkarım sırasında hedeflenen yanlış tahminler için etkili olan ve zararsız örneklerden ayırt edilemez görünen zehirli görüntüler üretilmesine olanak sağlar.
Saldırı, eğitim sırasında veri zehirlenmesi tehdit modeli altında değerlendiriliyor ancak test süresi erişimi kısıtlı, gizli tetik yerleştirme yaklaşımı sayesinde yüksek saldırı başarısı ve mevcut savunmalara karşı dayanıklılık sergiliyor.
DEBA, gelişmiş verimlilik ve algılanamazlık için bu görünmez tetikleyiciyi UV renk kanallarına yerleştirir.
Kapsamlı deneyler, önceki saldırılarla karşılaştırıldığında DEBA'nın üstün saldırı başarı oranlarını ve görünmezliğini göstermektedir.
Siber Güvenlik haberleri, Teknik İncelemeler ve İnfografiklerden haberdar olun. Bizi LinkedIn'de takip edin & heyecan.