Abnormal Security, yapay zeka tarafından oluşturulan e-posta saldırılarını tespit etmek için yeni bir özellik olan CheckGPT’yi duyurdu.
Yeni yetenek, iş e-postası güvenliği ihlali (BEC) ve diğer sosyal mühendislik saldırıları dahil olmak üzere e-posta tehditlerinin üretken yapay zeka araçları kullanılarak ne zaman oluşturulduğunu belirler.
Siber suçlular, güvenlik savunmaları tarafından tespit edilmekten kaçınmak için saldırı taktiklerini sürekli olarak geliştiriyor ve üretken yapay zeka, cephaneliklerindeki en yeni silah. Tehdit aktörleri, ChatGPT veya onun kötü niyetli kuzeni WormGPT gibi araçları kullanarak artık giderek daha ikna edici e-postalar yazabilir ve saldırılarını hem hacim hem de karmaşıklık açısından ölçeklendirebilir. Abnormal, son araştırma raporunda son altı ayda BEC saldırılarında %55’lik bir artış gözlemledi; üretken yapay zeka daha yaygın bir şekilde benimsendikçe hacimlerin katlanarak artması potansiyeli var.
Noname Security CISO’su Karl Mattson, “Kötü aktörler yeni kampanyalar oluşturmak için üretken yapay zekadan yararlandıkça, e-posta saldırılarının karmaşıklık derecesi önemli ölçüde artacak” dedi. “Her şirketin bir AI güvenlik uzmanlığı mağazası haline gelmesi makul değil, bu nedenle bu tür gelişmiş e-posta saldırı tespitinde öncülük etmesi için Abnormal’e güveniyoruz.”
Abnormal, geleneksel e-posta güvenlik çözümlerinden farklı olarak, gelişmiş e-posta saldırılarını durdurmak için tamamen farklı bir yaklaşım benimsiyor ve bu da onu özellikle yapay zeka kaynaklı saldırıları engelleme zorluğuna çok uygun hale getiriyor. Eşsiz API mimarisi, iletişim modellerine, oturum açma olaylarına ve binlerce başka özniteliğe dayalı olarak bir kuruluştaki her çalışanın ve satıcının iyi bilinen davranışlarına ilişkin bir temel oluşturmak için binlerce farklı sinyali alır. Ardından, potansiyel bir saldırıya işaret eden e-posta davranışındaki anormallikleri tespit etmek için doğal dil işleme (NLP) dahil olmak üzere gelişmiş yapay zeka modellerini uygular.
İlk e-posta işlemeden sonra Abnormal platformu, e-posta saldırılarını amaçlarını ve kökenlerini anlamak için daha fazla işleyerek bu sınıflandırmayı genişletir. CheckGPT aracı, mesajı üretken bir yapay zeka modelinin oluşturma olasılığını analiz etmek için bir dizi açık kaynak büyük dil modellerinden (LLM’ler) yararlanır. Sistem önce, mesajdaki her bir kelimenin kendisinden önceki bağlam göz önüne alındığında bir AI modeli tarafından üretilmiş olma olasılığını analiz eder. Olasılık sürekli olarak yüksekse bu, metnin yapay zeka tarafından oluşturulduğuna dair güçlü bir potansiyel göstergedir.
Ardından sistem, bir saldırının yapay zeka tarafından oluşturulup oluşturulmayacağına dair nihai bir belirleme yapmak için bu göstergeyi bir yapay zeka dedektörleri grubuyla birleştirir. Bu yeni algılama yeteneğinin bir sonucu olarak, Abnormal kısa süre önce, iş e-postası gizliliği ihlali ve kimlik bilgilerine yönelik kimlik avı saldırıları da dahil olmak üzere yapay zeka tarafından üretildiğinden şüphelenilen dil içeren bir dizi e-postayı gösteren bir araştırma yayınladı.
Abnormal Security CEO’su Evan Reiser, “Üretken AI araçlarının benimsenmesi arttıkça, kötü aktörler daha yüksek hacimlerde ve daha karmaşık saldırılar başlatmak için AI’yı giderek daha fazla kullanacak” dedi. “Güvenlik liderlerinin, kuruluşlarının benzersiz kullanıcı davranışını öğrenmek için binlerce sinyali alan, anormallikleri tam olarak tespit etmek için gelişmiş modeller uygulayan ve ardından saldırıları çalışanlara ulaşmadan önce engelleyen yapay zeka destekli güvenlik çözümlerine yatırım yaparak yapay zeka tehdidiyle mücadele etmesi gerekiyor. Gelişen tehditleri anlamak ve bir adım önde olmak için bir e-postanın bir insan tarafından mı yoksa yapay zeka tarafından mı oluşturulduğunu anlamak önemli olsa da, doğru sistem nasıl oluşturulmuş olursa olsun saldırıları algılayıp engelleyecektir.”