Uygulama Güvenliği, DEF CON, Olaylar
Trail of Bits’ten Michael Brown, Yapay Zeka/Makine Öğrenimi ve Siber Güvenlik Tehditlerinin Kesişimi Üzerine
Michael Novinson (MichaelNovinson) •
14 Ağustos 2024
Trail of Bits’ten Michael Brown’a göre yapay zeka ve makine öğrenimi sistemleri, geleneksel yöntemlerin çözmekte zorlandığı karmaşık zorlukları ele alarak siber güvenliği yeniden şekillendiriyor.
Ayrıca bakınız: CNAPP için 2023 Gartner Pazar Rehberi
Brown, AI ve ML sistemlerini tek başlarına veya geleneksel sistemlerle birlikte kullanmanın, kuruluşların Moore Yasası’nın sınırlamalarını aşmalarına ve daha önce mümkün olmayan yeni atılımlar ve ilerlemeler yapmalarına olanak tanıdığını söyledi. Ancak bu ilerlemeler, kendi güvenlik endişeleriyle birlikte geliyor ve Brown, güvenlik açıklarını durdurmak için veri toplama aşamasından itibaren sıkı güvenlik politikalarına ihtiyaç duyulduğunu söyledi.
Brown, “Güvenlik hedeflerine ulaşmak için oluşturduğumuz AI/ML sistemleri, geleneksel tekniklerimizin başarısız olmaya başladığı yerde üstün olma eğiliminde oluyor ve geleneksel tekniklerin başarılı olma eğiliminde olduğu yerde başarısız olmaya başlıyor,” dedi. “Geleneksel teknikleri kullanan tamamlayıcı yaklaşımlar – güçlü oldukları yerde – ve AI/ML tekniklerini kullanan – güçlü oldukları yerde – ‘her iki dünyanın en iyisi’ yaklaşımına sahip oluyor.”
Brown, DEF CON 2024’te Information Security Media Group ile yaptığı bu video röportajında ayrıca şunları da ele aldı:
- Yapay Zeka/Makine Öğrenmesi sistemleri geleneksel güvenlik yöntemlerini nasıl tamamlayabilir;
- Özellikle Hukuk alanında Yüksek Lisans (LLM) programlarında, Yapay Zeka/Makine Öğrenmesi (AI/ML) sistemlerinin ortaya çıkardığı benzersiz güvenlik zorlukları;
- Yapay zeka ve makine öğrenimi teknolojisini güvence altına almak için hükümet ve özel sektördeki mevcut çabalar.
Brown, güvenlik odaklı yazılım analizi ve dönüşümüne odaklanan araştırma projeleri üzerinde çalışmaktadır. Birincil araştırma ilgi alanı, bilgi işlem sistemlerinin güvenliğini iyileştirmek için yazılım dönüşüm tekniklerinin geliştirilmesidir. Yazılım güvenliği alanındaki çalışmalarından önce Brown, ABD Ordusunda sekiz yıl geçirdi ve burada UH-60M pilotu ve havacılık görev sağ kalım subayı olarak görev yaptı.