konusunda artan kaygılar karşısında ChatGPT gibi açık kaynaklı AI araçlarını kullanan tehdit aktörleri geniş ölçekte gelişmiş siber saldırılar başlatmak için, bu tehditleri savuşturmak için yapay zekanın savunma tarafında nasıl kullanıldığını yeniden düşünmemizin zamanı geldi.
On yıl önce, siber güvenlik farklı bir top oyunuydu. Tehdit algılama araçları genellikle “parmak izine” dayanıyordu ve daha önce karşılaşılan saldırılarla tam eşleşmeler arıyordu. Bu “dikiz aynası” yaklaşımı, saldırıların hacminin daha düşük ve genellikle daha öngörülebilir olduğu zamanlarda uzun süre işe yaradı.
Son on yılda, saldırılar daha karmaşık hale geldi ve hücum tarafında sürekli değişiyor. Savunma tarafında bu zorluk, karmaşık tedarik zincirleri, hibrit çalışma modelleri, çoklu bulut ortamları ve IoT’nin yaygınlaşmasıyla birleşiyor.
Endüstri, temel parmak izinin bu gelişmelerin hızına ayak uyduramayacağını fark etti ve her yerde, her zaman olma ihtiyacı, modern işi güvence altına almanın ölçeği ve karmaşıklığıyla başa çıkmak için yapay zeka teknolojisinin benimsenmesini zorladı. Yapay zeka savunma pazarı o zamandan beri veri analitiği vaat eden, “belirsiz eşleşmeler” arayan satıcılarla dolup taştı: daha önce karşılaşılan tehditlere yakın eşleşmeler ve nihayetinde benzer saldırıları yakalamak için makine öğrenimini kullanmak.
Temel imzalarda bir iyileştirme olsa da, AI’yı bu şekilde uygulamak, hala reaktif olduğu gerçeğinden kaçmaz. Önceki olaylara çok benzeyen saldırıları tespit edebilir, ancak sistemin daha önce hiç görmediği yeni saldırı altyapısını ve tekniklerini durduramaz.
Hangi etiketi verirseniz verin, bu sistem hala aynı tarihsel saldırı verilerini besliyor. Başarılı olmak için bir “sıfır hasta” – veya ilk kurban – olması gerektiğini kabul eder.
Bir yapay zekanın gözlemlenen veriler üzerinde “ön eğitimi”, denetimli makine öğrenimi (ML) olarak da bilinir. Ve gerçekten de siber güvenlikte bu yöntemin akıllı uygulamaları var. Örneğin, tehdit soruşturmasında denetimli makine öğrenimi, bir insan analistin araştırmaları nasıl yürüttüğünü (soru sorarak, hipotezler oluşturup gözden geçirerek ve sonuçlara ulaşarak) öğrenmek ve taklit etmek için kullanıldı ve artık bu araştırmaları bağımsız bir şekilde hız ve ölçekte yürütebiliyor.
Peki ya bir saldırının ilk kırıntılarını bulmaya ne dersiniz? Bir şeylerin ters gittiğine dair ilk işareti bulmaya ne dersiniz?
Bu alanda denetimli makine öğrenimi kullanmanın sorunu, yalnızca tarihsel eğitim seti kadar iyi olmasıdır – ancak daha önce hiç görülmemiş şeylerle değil. Dolayısıyla sürekli olarak güncellenmesi ve bu güncellemenin her müşteriye iletilmesi gerekiyor. Bu yaklaşım aynı zamanda müşteri verilerinin işlenmesi ve analiz edilmesi için buluttaki merkezi bir veri gölüne gönderilmesini gerektirir. Bir kuruluş bir tehditten haberdar olduğunda, genellikle çok geçtir.
Sonuç olarak, kuruluşlar özel koruma eksikliğinden, çok sayıda yanlış pozitiften ve gözden kaçan tespitlerden muzdariptir çünkü bu yaklaşımda önemli bir şey eksiktir: korumakla görevli olduğu benzersiz kuruluşun bağlamı.
Ancak algoritmalar savaşında savunucular için umut var. Bugün binlerce kuruluş, ayrım gözetmeyen ve bilinen saldırıların yanı sıra hedefli ve bilinmeyen saldırılar da dahil olmak üzere tüm saldırı yelpazesine karşı savunma yapmak için temelde farklı bir yaklaşım benimseyerek siber savunmada farklı bir yapay zeka uygulaması kullanıyor.
Bir makineyi ne olduğu konusunda eğitmek yerine saldırı gibi görünüyor denetimsiz makine öğrenimi, yapay zekanın öğrenmesini içerir organizasyon. Bu senaryoda yapay zeka, en küçük dijital ayrıntılara kadar çevresini içten ve dıştan öğrenir ve ne olduğunu belirlemek için konuşlandırıldığı benzersiz dijital ortam için “normal”i anlar. olumsuzluk normal.
Bu, düşmanınızı tanımak için “sizi” anlayan yapay zekadır. Bir zamanlar radikal olarak kabul edilen bugün, en karmaşık siber saldırıları tespit ederek, yanıtlayarak ve hatta önleyerek dünya çapında 8.000’den fazla kuruluşu savunuyor.
Geçen yıl Microsoft Exchange Sunucularını kullanan yaygın Hafnium saldırılarını ele alalım. Bunlar, Darktrace’in denetimsiz makine öğrenimi tarafından, bu saldırılarla ilişkili herhangi bir önceden tehdit istihbaratı olmadan, birçok müşteri ortamında gerçek zamanlı olarak tanımlanan ve kesintiye uğrayan bir dizi yeni, ilişkilendirilmemiş kampanyaydı. Buna karşılık, Microsoft birkaç ay sonra saldırıları açıklayana kadar diğer kuruluşlar hazırlıksız ve tehdide karşı savunmasız kaldı.
Denetimsiz makine öğreniminin en iyi çalıştığı yer burasıdır — hedeflenen kuruluşa ilişkin ısmarlama bir anlayışa dayalı olarak gelişmiş ve daha önce hiç görülmemiş tehditleri otonom olarak tespit eder, araştırır ve bunlara yanıt verir.
Darktrace’te, bu AI teknolojisini Cambridge, İngiltere’deki AI araştırma merkezimizde saldırgan AI prototiplerine karşı test ettik. ChatGPT’ye benzer şekilde, bu prototipler hipergerçekçi ve bağlamsal kimlik avı e-postaları oluşturun ve hatta e-postaları taklit etmek ve kovmak için uygun bir gönderen seçin.
Sonuçlarımız net: Saldırganların yapay zekayı hain amaçlarla silahlandırdığını görmeye başladığımızda, güvenlik ekiplerinin yapay zekayla savaşmak için yapay zekaya ihtiyaç duyacağından emin olabiliriz.
Denetimsiz makine öğrenimi, anında öğrendiği için kritik olacaktır. kuruluş genelinde her kullanıcı ve cihaz için karmaşık, gelişen bir anlayış oluşturmak. Dijital işin bu kuş bakışı görünümüyle, “sizi” anlayan denetimsiz yapay zeka, saldırgan yapay zekayı verileri manipüle etmeye başlar başlamaz tespit edecek ve akıllı hale getirecektir. bu aktiviteyi engellemek için mikro kararlar. ÖSaldırgan AI, hızı için pekala kaldıraçlı olabilir, ancak bu, savunmacı AI’nın silahlanma yarışına da getireceği bir şeydir.
Algoritmaların savaşına gelince, makine öğrenimine doğru yaklaşımı benimsemek, sağlam bir güvenlik duruşu ile felaket arasındaki fark olabilir.
yazar hakkında
.jpg?width=480&quality=80&format=webply&disable=upscale)
Tony Jarvis, Darktrace’te Kurumsal Güvenlik, Asya-Pasifik ve Japonya Direktörüdür. Tony, dünyanın dört bir yanındaki Fortune 500 şirketlerine siber risk yönetimi için en iyi uygulamalar konusunda tavsiyelerde bulunan deneyimli bir siber güvenlik stratejistidir. Hükümetlere, büyük bankalara ve çok uluslu şirketlere danışmanlık yaptı ve siber güvenlik ve kritik ulusal altyapıya yönelik artan tehdit hakkındaki yorumları CNBC, Channel News Asia ve The Straits Times dahil olmak üzere yerel ve uluslararası medyada yer aldı. Tony, Melbourne Üniversitesi’nden Bilgi Sistemleri alanında lisans derecesine sahiptir.