Microsoft, ana hedefi otonom kötü amaçlı yazılım tespiti olan bir AI ajanı üzerinde çalışıyor ve şirket Salı günü yaptığı açıklamada, büyük bir potansiyel gösteriyor.
Bilinen kötü niyetli ve benign Windows sürücülerinin bir veri kümesinde test edilen Project Ire, tüm dosyaların% 90’ının doğasını doğru bir şekilde tanımladı ve üzerinde çalışan araştırmacı ve mühendisler grubu, tehdit olarak iyi huylu dosyaların sadece% 2’sini işaretledi.
Başka bir testte, Microsoft’ta otomatik sistemlerin o sırada sınıflandırılamadığı ve uzman ters mühendisler tarafından manuel olarak incelenemediği başka bir testte, prototip 10 kötü amaçlı dosyanın yaklaşık 9’unu doğru bir şekilde işaretledi, küçük bir yanlış pozitif orana (%4) sahipti, ancak kabaca gerçek kötü amaçlı yazılımların dörtte biri tespit etti.
“Genel performans ılımlı olsa da, bu doğruluk ve düşük hata oranı kombinasyonu gelecekteki dağıtım için gerçek potansiyel olduğunu göstermektedir” diye belirtiyorlar.
Project Ire Hakkında
Daha önce de belirtildiği gibi, Project IRE şu anda prototip aşamasındadır.
Projenin bu deney aşamasında, ajan Azure AI Foundry aracılığıyla mevcut çeşitli gelişmiş dil modelleri kullandı ve çeşitli ters mühendislik ve ikili analiz araçlarını çağırıyor.
Her örneğin değerlendirme süreci, dosya türünü, yapısını belirlemek ve daha yakından bakmayı hak eden alanı vurgulamak için otomatik ters mühendislik ile başlar.
Triyaj tamamlandıktan sonra, sistem ANGR ve Ghidra gibi çerçeveleri kullanarak yazılımın kontrol akış grafiğini yeniden yapılandırır.
Grafik, programın nasıl yürütüldüğünü ve buna dayalı olarak, sistemin dil modelleri ve özel araçlar yardımıyla her bir işlevin yinelemeli bir analizine dayanmasını sağlar.
Analizlerin özetleri, sistemin sonuçlarına nasıl ulaştığı konusunda şeffaflık sağlayan bir “kanıt zinciri” kaydına eklenir. Bu, güvenlik ekiplerinin sonuçları gözden geçirmesine izin verir ve geliştiricilerin bir örneği yanlış sınıflandırdığında sistemi rafine etmesine yardımcı olur.
Project Ire, bir örneğin kötü amaçlı yazılım olup olmadığına, potansiyel olarak istenmeyen bir uygulama, kurcalama yazılımı veya iyi huylu bir dosya olup olmadığına karar vermek için Microsoft’un genel kriterlerini kullanır.
“Bulgularını doğrulamak için Project IRE, Raporda Kanıt Zinciri’ne karşı raporda iddiaları çapraz kontrol eden bir doğrulayıcı aracı çağırabilir. Bu araç, Proje Ire ekibindeki kötü amaçlı yazılımdan ters mühendislerden uzman ifadelerden yararlanır. Bu kanıt ve iç modelinden yararlanır, sistem nihai bir rapor oluşturur ve örneği kötü niyetli veya benign olarak sınıflandırır” diye açıkladı.
Project Ire’nin çekirdek düzeyinde bir rootkit raporu (Kaynak: Microsoft)
Microsoft araştırma müdürü Mike Walker, AI ajanının akıl yürütmesinin bir insan uzmanınınkiyle çeliştiği ve doğru olduğu ortaya çıktığı birkaç vaka oldu.
“[What we learned from those instances is] Koruma için hem insanların hem de yapay zekanın tamamlayıcı güçlerinden yararlanabileceğimiz ”diye ekledi.
“Sistemimiz, her adımda risk muhakemesini yakalamak için tasarlanmıştır ve sistemin daha derin bir şekilde araştırılmasına izin vermek için mantıksız bir denetim izine sahip olmak önemlidir.
Project IRE, tehdit algılama ve yazılım sınıflandırması için ikili analizör aracı olarak Microsoft Defender’ın içinde kullanılacaktır.
Bununla birlikte, araştırmacıların umduğu işler giderse, Project Ire nihayetinde yeni kötü amaçlı yazılımları doğrudan bellekte, yararlı bir ölçekte otonom olarak tespit edebilecektir.
En son ihlalleri, güvenlik açıklarını ve siber güvenlik tehditlerini asla kaçırmak için Breaking News e-posta uyarımıza abone olun. BURADA Abone Olun!