Araştırmacı, tetikleyici tabanlı kara kutu modeli damgalamada model savunucusu ve saldırgan arasındaki etkileşimi analiz etmek için oyun teorik bir yaklaşım önermektedir.
Her iki oyuncu için de kazanç fonksiyonları tasarlarlar ve her oyuncu için en uygun stratejileri belirlerler; bu, kara kutu modeli filigranı üzerine gelecekteki araştırmalar için teorik bir temel sağlar.
Bir filigranın, hem normal görüntüler hem de bir dizi “tetikleyici” örnek içeren bir veri kümesi üzerinde eğitilerek bir modele yerleştirildiği bir çerçeve, filigranlı modelin, tetikleyici kümesinde belirli bir davranış sergilerken normal veriler üzerinde performansını sürdürmesini sağlayarak sahiplik doğrulamasını mümkün kılar.
Oyun teorisinden yararlanarak, filigran yerleştirici ile potansiyel saldırgan arasındaki etkileşimi analiz ederler ve kısmi işbirliği oyununa odaklanırlar; yerleştirici sahiplik kurmaya çalışırken her iki tarafın da modelin genel performansını koruma konusunda çıkarı olduğunu kabul ederler.
Investigate Real-World Malicious Links, Malware & Phishing Attacks With ANY.RUN – Try for Free
Bu yeni yaklaşım, işbirlikçi yönleri dahil ederek rakip makine öğrenimindeki mevcut oyun-teorik analizlerini genişletiyor ve derin sinir ağları için daha güvenli ve dayanıklı filigranlama stratejileri tasarlamaya yönelik değerli bilgiler sağlıyor.
Oyun analizi, bir model savunucusu ile saldırgan arasındaki stratejik etkileşimi araştırır; burada savunucu, modelleri korumak için filigran kullanırken, saldırgan da onları tehlikeye atmayı hedefler.
Bu etkileşimi her iki oyuncu için de getirisi olan bir oyun olarak modelleyerek, modelin doğruluğu, filigran tespitinin doğruluğu ve saldırının gücü gibi çeşitli faktörleri dikkate alır.
Temel bulgular, savunmacının optimal stratejisinin, farklı filigranlı modeller arasındaki sağlamlık farkına ve farklı saldırılar arasındaki güç farkına bağlı olduğunu ortaya koyuyor.
Spesifik olarak analiz, savunucunun optimal tepkisinin karma bir strateji içerdiği koşulları tanımlar; burada savunmacı, beklenen saldırı yoğunluğuna ve modellerinin bu saldırılara karşı sağlamlığına dayalı olarak farklı damgalama yaklaşımları arasında olasılıksal olarak seçim yapar.
Yalnızca işbirlikçi veya işbirlikçi olmayan senaryolara odaklanan mevcut çalışmaların aksine, araştırma hem savunan (model sahibi) hem de saldırgan için hem işbirlikçi hem de rekabetçi çıkarların varlığını kabul etmektedir.
Oyun modeli, filigran tespitinde rekabeti vurgularken, modelin orijinal görevdeki performansını göz önünde bulundurarak, ekonomik maliyetleri ve faydaları kazanç fonksiyonuna dahil eder.
Çalışma, savunmacının optimal tepkisinin, filigranlı modeller arasındaki sağlamlık varyasyonundan ve farklı saldırılar arasındaki güç eşitsizliğinden etkilendiğini ortaya koyuyor; bu da, sistem tasarımı sırasında filigranlı modellerin gerçek dünya saldırılarına karşı sağlamlığının arttırılmasının kritik öneminin altını çiziyor.
Gelecekteki araştırma yönleri arasında, gerçek dünya uygulamalarında tetikleyici seti seçiminin DNN modeli performansı üzerindeki etkisinin incelenmesi, önerilen çerçeveyi doğrulamak ve genişletmek için pratik uygulamalar yürütmek ve filigran teorisini daha da zenginleştirmek için üretken modeller için filigranlama oyunlarının araştırılması yer almaktadır.
Find this News Interesting! Follow us on Google News, LinkedIn, and X to Get Instant Updates!