Bu Help Net Security röportajında Field Effect CEO’su Matt Holland, işletmelerin siber güvenlik stratejilerinde yapay zeka kullanmanın avantajları ile yapay zeka destekli siber tehditlerin oluşturduğu riskler arasında bir denge kurmayı tartışıyor.
Holland ayrıca eğitimin, farkındalığın ve uygulanan önlemlerin kuruluşları bu gelişen zorluklara nasıl hazırladığını da araştırıyor. Dahası, insan uzmanlığı olmadan yalnızca yapay zeka odaklı çözümlere güvenmenin felakete yol açacağının altını çiziyor.
Yapay zekanın siber saldırıları güçlendirdiği konusunda pek çok söylenti var. Büyük dil modelleri de dahil olmak üzere yapay zekanın siber saldırılarda oluşturduğu gerçek, somut tehditler nelerdir?
Tehdit aktörlerinin neler yapmasına olanak tanıyacakları konusunda AI ve LLM’ler hakkında pek çok abartı var. Bu araçlar, kötü adamlara birdenbire, daha sonra diğer bilgisayar korsanlarına satabilecekleri ürünler olarak paketleyebilecekleri istismar zincirleri oluşturmaları için bir yol vermeyecek veya bilinen tüm tespit tekniklerinden sihirli bir şekilde kaçabilecek kötü amaçlı yazılımlar oluşturmalarına izin vermeyecektir. Ancak bu, endişelenecek bir neden olmadığı anlamına gelmiyor; AI ve LLM’ler daha da karmaşık sosyal mühendislik kampanyaları oluşturmak için kullanılabilir; örneğin deepfake’leri, sesli mesajları, kayıtları ve hatta ayırt edilmesi çok daha zor olan iyi hazırlanmış e-postaları düşünün. asıl şey.
Siber güvenlik şirketleri bu yapay zeka tehditlerine nasıl yanıt veriyor ve hangi yapay zeka merkezli ürünler geliştiriyorlar? Özellikle etkili veya yenilikçi olduğuna inandığınız herhangi bir şey var mı?
Yapay zekanın saldırgana sunduğu avantajlar, savunmacının da kullanımına açıktır. Tespiti geniş ölçekte otomatikleştirmeye yardımcı olabilecek araçlarınız var; insan analizinin tek başına pek uygun olmadığı bir şey. Siber güvenlik şirketleri zaten bu araçları, aksi takdirde insan tespitiyle gözden kaçabilecek kalıpları ve anormallikleri tespit etmek için kullanıyor.
Dahası yapay zeka, bu şirketlere son derece teknik uyarı bilgilerini, çok fazla güvenlik uzmanlığına sahip olmasa da yine de bir çözümü yönetmekle görevli ortalama BT çalışanı için çok daha kolay sindirilebilecek bir şeye dönüştürmenin bir yolunu sunuyor. Öte yandan, bazı siber güvenlik firmalarının tespit oyunlarını geliştirmeleri gerekecek; ikna edici kimlik avı mesajları hazırlayabilen yapay zeka araçları, bir girişimi tespit etmek için yalnızca yazım hatalarına güvenemeyeceğiniz anlamına geliyor.
İşletmeler, siber güvenlik stratejilerinde yapay zeka kullanmanın avantajlarını, yapay zeka destekli siber tehditlerin oluşturduğu risklerle nasıl dengeleyebilir?
Yapay zekayı kullanmayı seçseniz de seçmeseniz de bilgisayar korsanlarının bunu yapacağını varsaymak yanlış olmaz. Bununla birlikte, bu eski bir western filminden bir hesaplaşma değil; Kötü adamlar yapay zeka kullanıyor olsa bile, hâlâ saklanabileceğiniz iyi korunan bir EDR sığınağınız var. Öğle vakti onlarla düello yapmak için buluşmanıza gerek yok.
Yapay zekayı siber güvenlik stratejinizin bir parçası olarak kullanmaya gelince, riskleri göz önünde bulundurmalısınız; üretken yapay zeka çıktısını kullanmanın yasal riski gibi veri yönetimi de büyük bir husustur. Yapay zeka araçlarının, üzerine inşa edildikleri eğitim verileri, genel güvenlikleri ve fikri mülkiyet haklarına ve hassas verilere nasıl yaklaştıkları konusunda ek değerlendirmeye ihtiyacı vardır.
Kendilerini siber saldırılardan korumak isteyen KOBİ’ler için, özellikle sınırlı kaynakları göz önüne alındığında, hangi uygulanabilir ve gerçekçi önlemleri uygulayabilirler?
Büyük bir fark yaratabilecek iki şey var. Birincisi, temel siber güvenlik kontrollerini uygulayın; bunlar proaktif ve etkili savunmanın temelidir. İkincisi, her şeyi kendi bünyesinde inşa etmeye çalışmayın; bu çok maliyetlidir. Bunun yerine, korumanızı yönetmenize yardımcı olabilecek güvenilir bir iş ortağı arayın ve siber riskinizi değerlendirebilecek ve uç noktalar, ağlar ve güvendiğiniz herhangi bir bulut veya SaaS altyapısı da dahil olmak üzere tüm BT ortamınızdaki güvenlik olaylarını proaktif olarak tespit edebilecek bütünsel bir çözüme yatırım yapın. Açık.
Profesyonelleri yapay zeka ile ilgili siber tehditlerle donatmada eğitim ve farkındalık nasıl bir rol oynuyor? Şirketler çalışanlarını bu gelişen zorluklara nasıl daha iyi hazırlayabilir?
Yapay zeka ve yüksek lisans gibi yeni ve gelişmekte olan teknolojiler söz konusu olduğunda eğitim ve farkındalık kritik öneme sahiptir. Yapay zekanın birçok alanda yaratacağı etki ve ilgili riskler hâlâ belirsiz. Şirketlerin yapay zeka kullanımıyla ilgili net politikalar oluşturması, kullandıkları araçları sürekli olarak gözden geçirerek yapay zekadan yararlanmaları ve çalışanların politikaları ve bunların neden uygulandığını anladığından emin olmaları önemlidir.
Yapay zekanın siber güvenlik sektöründe gelişimini nasıl görüyorsunuz? Hangi potansiyel faydaları ve zorlukları öngörüyorsunuz?
Saldırganlar, çabalarını ölçeklendirmelerine ve daha ikna edici dolandırıcılıklar oluşturmalarına yardımcı olacak yapay zekayı kullanmaya devam edecek. Buna karşılık siber güvenlik sektörünün bu teknolojileri bir dereceye kadar benimsemek zorunda kalması kaçınılmaz.
Burada savunuculara sağlanan doğrudan fayda, yapay zekanın tehdit tespitinde büyük bir yardım sağlama potansiyeline sahip olmasıdır; sonuçta yapay zeka, bir insanın yapabileceğinden çok daha fazla veriyi işleyebilir. Ancak insan uzmanlığından bağımsız olarak kullanılan herhangi bir yapay zeka odaklı çözüm, felakete davetiye çıkarır. Yapay zeka hala pek mantıklı olmayan varsayımlar ve mantık sıçramaları yapıyor ve bu nedenle herhangi bir siber güvenlik programını yönlendirmek için hâlâ insan uzmanlığı ve gözetimine ihtiyaç var.