NoiseAttack, derin öğrenme modellerine gizlice saldırmanın yeni bir yöntemidir. Çoğu mevcut yöntem gibi, modelde yalnızca bir tane yerine, birkaç hedef sınıf oluşturmak için Beyaz Gauss Gürültüsünden yapılmış tetikleyicileri kullanır.
Bu yaklaşım aynı zamanda kolayca tespit edilememeyi de sağlıyor ve bu da onu geleneksel tek hedefli saldırılardan daha etkili kılıyor.
Rhode Island Üniversitesi Elektrik, Bilgisayar ve Biyomedikal Mühendisliği Bölümü’nden siber güvenlik araştırmacıları, “NoiseAttack”ın kaçınma için güç spektral yoğunluğunu kullandığını keşfettiler:
- Abdullah Arafat Miah
- Kaan İçer
- Sendag Makbuz
- Yu Bi
Teknik analiz
Yapay zeka alanındaki son gelişmeler, görüntü tanımadan dil işleme gibi çeşitli uygulamalarda yaygın olarak kullanılmasına yol açtı.
Yapay zekanın hızla benimsenmesi heyecan verici olsa da, aynı zamanda yeni güvenlik riskleri de ortaya çıkardı. Önemli bir güvenlik açığı arka kapı saldırılarıdır.
Bu saldırılarda kötü niyetli kişiler, eğitim süreci sırasında yapay zeka modellerine gizli tetikleyiciler yerleştiriyor.
Model tetikleyiciyle karşılaştığında, çıktı yanlış veya zararlı olsa bile istenilen çıktıyı üretecek şekilde manipüle edilebilir.
Bu, kötü niyetli kişilerin, geliştiricilerin asla amaçlamadığı şekillerde modelin davranışını kontrol etmesine olanak tanır.
Are You From SOC/DFIR Teams? - Try Advanced Malware and Phishing Analysis With ANY.RUN - 14 day free trial
NoiseAttack gizli tetikleyici olarak Beyaz Gauss Gürültüsü (WGN) adı verilen özel bir rastgele gürültü türünü kullanır.
WGN, televizyon yayınının sona ermesinden sonra televizyonda gördüğünüz kar efektine benzeyen bir gürültü türüdür.
Görünür desenler veya görüntü dönüşümleri kullanan önceki saldırıların aksine NoiseAttack, algılanamayan, uzamsal olarak dağıtılmış bir tetikleyici oluşturmak için WGN’nin güç spektral yoğunluğunu kullanır.
Saldırı örnek bazlıdır, yani yalnızca önceden belirlenmiş kurban sınıflarını etkiler ve çok hedeflidir, bu da birden fazla yanlış çıktıya izin verir.
Araştırmacılar NoiseAttack’i şu gibi çeşitli veri kümeleri üzerinde test ettiler:
- CİFAR-10
- MNİST
- ImageNet
- MS-HİNDİSTAN CEVİZİ
Sadece bununla kalmayıp, aşağıda belirttiğimiz çeşitli modellerde de aynı şeyi test ettiler:
- ResNet50
- VGG16
- YoğunNet
- YOLOv5
Testleri sırasında temiz girdilerde normal performansı korurken yüksek saldırı başarı oranlarına ulaştılar. Özellikle, NoiseAttack hem görüntü sınıflandırmasında hem de nesne algılama görevlerinde etkili olduğunu kanıtladı
Bunun yanı sıra GradCam, Neural Cleanse ve STRIP gibi son teknoloji savunma yöntemlerinden de başarıyla sıyrıldı.
Güvenlik açısından bakıldığında, yapay zekanın gelişen yapısı, yapay zeka sistemlerinde daha güçlü savunma mekanizmalarına ve güvenlik önlemlerine olan ihtiyacı vurgulamaktadır.
What Does MITRE ATT&CK Expose About Your Enterprise Security? - Watch Free Webinar!