Yapay Zeka ve Makine Öğrenimi, Siyah Şapka, Etkinlikler
NIST’den Apostol Vassilev, statik testleri değil, dinamik yanıtın ihtiyacı açıklıyor
Michael Novinson (Michaelnovinson) •
11 Ağustos 2025
Yapay zeka modelleri ölçek ve güç olarak büyüdükçe, daha da öngörülemeyen sonuçlara yol açtıkça, güvenlik ekipleri, bazı uzmanların tam olarak anlamaya başlayamayacağı teknolojileri nasıl savunacağınızla boğuşuyor.
Ayrıca bakınız: Kavram kanıtı: AI ajanlarının yaşı için kimliği yeniden düşünmek
Ulusal Standartlar ve Teknoloji Enstitüsü araştırma ekibi amiri Apostol Vassilev, statik testlerin tüm potansiyel güvenlik açıklarını yakalamayacağını, bu yüzden siber müdahale ekipleri sürekli kırmızı ekip oluşturma uygulamasını araştırıyor.
Vassilev, “Modelinizin durumunu değiştirmek için proaktif olarak kırmızı takım uygulamasını uygulamalısınız, böylece saldırganlar özel örneğinize saldıracak en son yarışma istemlerini bulmakta zorluk çekecekler.” Dedi. “Oyunu dinamik hale getirin, böylece saldırganın hayatını biraz daha zor hale getirirsiniz.”
Black Hat USA 2025’teki Information Security Media Group ile yapılan bu video röportajında Vassilev de tartışıldı
- Bir saldırı vektörü olarak aşırı bilgi yüklenmesi;
- Karmaşık, doğal dil girdilerini doğrulamanın zorlukları;
- Geleneksel siber uygulamaları AI’ya özgü önlemlerle birleştirmek.
NIST’de bir araştırma ekibi amiri olan Vassilev, düşmanca makine öğrenimi ve sağlam AI’ya odaklanan Vassilev, AI için standart geliştirmek ve benimsemek için akademi, endüstri ve devlet kurumlarıyla yakın işbirliği içinde çalışır. Vassilev daha önce ABD Ticaret Departmanı tarafından Bronz Madalya ödülüne layık görüldü ve Wall Street Journal, Politico, Forbes ve diğer birçok yayında profillendi.