Sophos’a göre siber güvenlik endüstrisi, saldırganları yenmek için yardımcı pilot olarak GPT-3 potansiyelinden yararlanabilir.
En son rapor, Sophos X-Ops tarafından, güvenlik yazılımlarından veri kümelerinde kötü amaçlı etkinlik aramayı basitleştirmek, spam’i daha doğru bir şekilde filtrelemek ve “karadan uzakta yaşayan” ikili (LOLBin) analizini hızlandırmak için GPT-3’ün geniş dil modellerini kullanarak geliştirilen projeleri detaylandırıyor. ) saldırılar.
“OpenAI, Kasım ayında ChatGPT’yi piyasaya sürdüğünden beri, güvenlik topluluğu büyük ölçüde bu yeni teknolojinin getirebileceği potansiyel risklere odaklandı. Yapay zeka, özenti saldırganların kötü amaçlı yazılım yazmasına veya siber suçluların çok daha ikna edici kimlik avı e-postaları yazmasına yardımcı olabilir mi? Belki, ama Sophos’ta uzun süredir yapay zekayı savunucular için bir düşmandan ziyade bir müttefik olarak gördük, bu da onu Sophos için mihenk taşı teknolojisi yapıyor ve GPT-3 de farklı değil. Güvenlik topluluğu, yalnızca potansiyel risklere değil, GPT-3’ün getirdiği potansiyel fırsatlara da dikkat etmelidir,” dedi Sophos baş tehdit araştırmacısı Sean Gallagher.
ChatGPT siber güvenlik potansiyeli
SophosAI Baş Veri Bilimcisi Younghoo Lee de dahil olmak üzere Sophos X-Ops araştırmacıları, GPT-3’ün siber güvenlik savunucularına yardımcı olma potansiyelini gösteren üç prototip proje üzerinde çalışıyor. Her üçü de yapay zeka modelini yalnızca birkaç veri örneğiyle eğitmek için “birkaç adımda öğrenme” adı verilen bir teknik kullanıyor ve bu da büyük miktarda önceden sınıflandırılmış veri toplama ihtiyacını azaltıyor.
Sophos’un birkaç adımda öğrenme yöntemiyle test ettiği ilk uygulama, güvenlik yazılımı telemetrisindeki kötü amaçlı etkinlikleri elemek için doğal bir dil sorgulama arabirimiydi. Sophos, modeli uç nokta algılama ve yanıt ürününe karşı test etti. Bu arabirimle savunucular, temel İngilizce komutlarıyla telemetriyi filtreleyerek savunucuların SQL’i veya bir veritabanının temel yapısını anlama ihtiyacını ortadan kaldırabilir.
GPT-3, belirli emek yoğun süreçleri basitleştirebilir
Daha sonra Sophos, ChatGPT kullanarak yeni bir spam filtresini test etti ve spam filtreleme için diğer makine öğrenimi modelleriyle karşılaştırıldığında, GPT-3 kullanan filtrenin önemli ölçüde daha doğru olduğunu gördü.
Son olarak, Sophos araştırmacıları, LOLBin’lerin komut satırlarını tersine mühendislikle işleme sürecini basitleştirecek bir program oluşturabildiler. Bu tür tersine mühendislik, herkesin bildiği gibi zordur, ancak aynı zamanda LOLBins’in davranışını anlamak ve gelecekte bu tür saldırılara bir son vermek için de kritiktir.
“Güvenlik operasyon merkezlerinde giderek artan endişelerden biri, gelen çok miktarda ‘gürültü’. Ayırılması gereken çok fazla bildirim ve tespit var ve birçok şirket sınırlı kaynaklarla uğraşıyor. GPT-3 gibi bir şeyle, belirli emek yoğun süreçleri basitleştirebileceğimizi ve savunuculara değerli zamanı geri verebileceğimizi kanıtladık. Halihazırda yukarıdaki prototiplerden bazılarını ürünlerimize dahil etmek için çalışıyoruz ve GPT-3’ü kendi analiz ortamlarında test etmekle ilgilenenler için çabalarımızın sonuçlarını GitHub’ımızda kullanıma sunduk. Gallagher, gelecekte GPT-3’ün güvenlik uzmanları için standart bir yardımcı pilot haline gelebileceğine inanıyoruz” dedi.