Üretken yapay zeka uygulamalarının piyasaya çıktığı an, yalnızca güvenlik ekipleri için değil, siber suçlular için de iş temposunu değiştirdi. Bugün, AI yeniliklerini benimsememek, rakiplerinizin gerisinde kalmak ve AI tarafından desteklenen siber saldırılara karşı siber savunmanızı dezavantajlı duruma getirmek anlamına gelebilir. Ancak yapay zekanın siber suçları nasıl etkileyip etkilemeyeceğini tartışırken, olaylara pragmatik ve ölçülü bir mercekle bakmamız önemlidir – daha çok bilim kurgu gibi görünen abartılarla beslenmemek.
Günümüzün AI ilerlemeleri ve olgunluğu, kurumsal güvenlik için önemli bir sıçramaya işaret ediyor. Siber suçlular, işletmelerin kaynaklarının, becerilerinin ve motivasyonunun boyutuna ve ölçeğine kolaylıkla ayak uyduramaz, bu da yapay zeka inovasyonunun mevcut hızına ayak uydurmalarını zorlaştırır. Yapay zekaya özel girişim yatırımı 2021’de patlayarak 93,5 milyar dolara ulaştı — kötü adamların o düzeyde sermayesi yok. Ayrıca, ticari şirketlere veya hükümete daha fazla zaman ve hızla başarısız olma, hızlı öğrenme ve önce doğruyu yapma fırsatı sağlayan insan gücüne, bilgi işlem gücüne ve yeniliklere sahip değiller.
Yine de hata yapmayın: Siber suçlar yetişecek. Bu, güvenlik endüstrisinin ilk kez kısa bir avantaj elde etmesi değil — fidye yazılımı daha fazla savunucuyu uç nokta algılama ve yanıt teknolojilerini benimsemeye yönlendirmeye başladığında, saldırganların bu algılamaları nasıl atlatacaklarını ve bunlardan nasıl kaçacaklarını bulmak için biraz zamana ihtiyacı vardı. Bu ara “ödemesiz dönem” işletmelere kendilerini daha iyi korumaları için zaman verdi. Aynı şey şimdi de geçerli: İşletmelerin, tehdit algılama ve yanıt verme yeteneklerini geliştirerek ve mevcut yapay zeka yeniliklerinin onlara sağladığı hız ve hassasiyetten yararlanarak yapay zeka yarışındaki liderliğini en üst düzeye çıkarması gerekiyor.
Peki yapay zeka siber suçları nasıl değiştiriyor? Eh, yakın zamanda büyük ölçüde değiştirmeyecek, ancak belirli durumlarda ölçeklendirecek. Yapay zekanın kötü niyetli kullanımının en hızlı etkiyi nerede yaratıp yaratmayacağına bir göz atalım.
Tam Otomatik Kötü Amaçlı Yazılım Kampanyaları: FUD
Son aylarda, AI’nın çeşitli kötü amaçlı kullanım durumlarıyla ilgili iddialar gördük, ancak bir senaryonun mümkün olması onu olası kılmaz. Örneğin, tamamen otomatikleştirilmiş kötü amaçlı yazılım kampanyalarını ele alalım – mantık, bu sonuca ulaşmak için yapay zekadan yararlanmanın mümkün olduğunu söylüyor, ancak önde gelen teknoloji şirketlerinin henüz tam otomatik yazılım geliştirme döngülerine öncülük etmediği göz önüne alındığında, mali açıdan kısıtlı siber suç gruplarının bunu daha erken başarması pek olası değil. Kısmi otomasyon bile siber suçların ölçeklenmesini sağlayabilir, ancak bu taktiğin Bazar kampanyalarında kullanıldığını zaten gördük. Bu bir yenilik değil, defans oyuncularının halihazırda benimsediği denenmiş ve doğrulanmış bir teknik.
Yapay Zeka Tasarımlı Kimlik Avı: Gerçeklik (Ancak Bağlam Önemlidir)
Dikkate alınması gereken başka bir kullanım durumu, yapay zeka tarafından tasarlanmış kimlik avı saldırılarıdır. Sadece bu mümkün değil, aynı zamanda bu saldırıları şimdiden vahşi doğada görmeye başlıyoruz. Bu yeni nesil kimlik avı, daha yüksek seviyelerde ikna edicilik ve tıklama oranına ulaşabilir, ancak insan tarafından tasarlanmış bir kimlik avı ve yapay zeka tarafından tasarlanmış bir kimlik avı, yine de aynı hedefe doğru ilerliyor. Başka bir deyişle, yapay zeka tarafından tasarlanmış bir kimlik avı, yine de bir tıklama arayan bir kimlik avıdır ve aynı algılama ve yanıt hazırlığı gerektirir.
Bununla birlikte, sorun aynı kalsa da, ölçek çok farklıdır. Yapay zeka, kimlik avı kampanyalarını ölçeklendirmek için bir güç çarpanı görevi görür; bu nedenle, bir kuruluş gelen kimlik avı e-postalarında bir artış görüyorsa ve bu kötü niyetli e-postalar çok daha ikna ediciyse, o zaman muhtemelen yüksek bir tıklama oranı olasılığına ve uzlaşma potansiyeline bakıyor demektir. Yapay zeka modelleri ayrıca, saldırganların bir kuruluş içindeki belirli bir kimlik avı için en hassas hedefin kim olduğunu belirlemesine ve sonuç olarak kampanyalarından daha yüksek bir yatırım getirisi elde etmesine yardımcı olarak hedefleme etkinliğini artırabilir. Kimlik avı saldırıları, geçmişte saldırganların işletmelere sızmak için kullandıkları en başarılı taktikler arasında yer almıştır. Bu tür saldırıların ölçeklendirilmesi, EDR, MDR, XDR ve IAM teknolojilerinin anormal davranışları etki yaratmadan önce tespit etmede oynadığı kritik rolü vurgular.
AI Zehirleme Saldırıları: FUD benzeri
AI zehirlenme saldırıları, başka bir deyişle, AI modellerinin üzerine inşa edildiği kodu ve verileri programlı olarak manipüle etmek, siber suçlular için saldırıların “kutsal kâsesi” olabilir. Başarılı bir zehirleme saldırısının etkisi, yanlış bilgilendirme girişimlerinden Zor Öl 4.0. Neden? Çünkü bir saldırgan, modeli zehirleyerek onun istediği gibi davranmasını veya çalışmasını sağlayabilir ve bu kolayca tespit edilemez. Bununla birlikte, bu saldırıların gerçekleştirilmesi kolay değildir – eğitim sırasında AI modelinin üzerinde eğitim yaptığı verilere erişim sağlamayı gerektirir ki bu hiç de azımsanmayacak bir başarıdır. Daha fazla model açık kaynak haline geldikçe, bu saldırıların riski artacak, ancak şimdilik düşük kalacaktır.
Bilinmeyen
Aldatmacayı gerçeklikten ayırmak önemli olsa da, AI’nın tehdit ortamı üzerindeki etkisi hakkında doğru soruları sorduğumuzdan emin olmak da önemlidir. Yapay zekanın potansiyeliyle ilgili pek çok bilinmeyen var – rakiplerin amaçlarını ve hedeflerini nasıl değiştirebileceği gözden kaçırmamamız gereken bir şey. Yeni yeteneklerin, düşmanlar için yeni amaçlara hizmet etmeye ve güdülerini yeniden ayarlamaya nasıl yardımcı olabileceği bilinmiyor.
Yapay zeka destekli yeni saldırılarda ani bir artış görmeyebiliriz, ancak yapay zeka sayesinde siber suçların ölçeklendirilmesinin hazırlıksız kuruluşlar üzerinde önemli bir etkisi olacaktır. Hız ve ölçek, yapay zekanın temel özellikleridir ve tıpkı savunucuların bunlardan yararlanmaya çalıştıkları gibi, saldırganların da faydalanması gerekir. Güvenlik ekipleri zaten yetersiz ve bunalmış durumda – kötü amaçlı trafikte veya olaya müdahale anlaşmalarında ani bir artış görmek, iş yüklerine önemli bir ağırlık katıyor.
Bu, kuruluşların tehdit algılama ve müdahale yeteneklerinde hız ve kesinlik sağlamak için yapay zekayı kullanarak savunmalarına yatırım yapma ihtiyacını her zamankinden daha fazla teyit ediyor. Bu “ödemesiz dönemden” yararlanan kuruluşlar, saldırganların yapay zeka siber yarışını fiilen yakaladıkları güne karşı kendilerini çok daha hazırlıklı ve dirençli bulacaktır.