Yazan: Dr. Madhu Shashanka, Baş Veri Bilimcisi ve Kurucu Ortak, Concentric AI
Üretken yapay zeka (AI) ile ilgili haberleri takip ediyorsanız muhtemelen iki kamptan birindesiniz: iyimser veya endişeli. Hızla gelişen siber güvenlik ve yeni teknolojiler dünyasında, üretken yapay zeka da farklı değil: Eşit düzeyde kavramanın yanı sıra büyük bir potansiyel taşıyor. Siber güvenlik söz konusu olduğunda yapay zeka, güvenlik önlemlerinin otomatikleştirilmesi ve geliştirilmesinde çığır açan avantajlar sunarken, aynı zamanda potansiyel olarak mevcut riskleri artırabilecek ve yenilerini yaratabilecek yeni zorlukları da beraberinde getiriyor.
Yapay zekanın siber güvenlik masasına getirdiği tehlikeleri ve fırsatları inceleyelim.
Fırsat: Yapay Zeka Siber Güvenliği Artırıyor mu?
Bu soruyu cevaplamadan önce şunu söyleyelim‘Bir adım geri atalım ve ilk olarak yapay zeka için ideal olan kullanım senaryosu türlerini gözden geçirelim. Kurallar açısından özetlemesi veya yakalaması zor olan ancak bir insan tarafından oldukça kolay bir şekilde gerçekleştirilebilen herhangi bir görev iyi bir adaydır. Bir şeyin geniş ölçekte, tekrar tekrar ve milyonlarca kez yapılması gerektiğinde görev, yapay zeka için harika bir adaydır. Örneğin, bir e-postanın spam olup olmadığını belirlemek için incelemek veya tıbbi bir görüntüyü bir tümör açısından analiz etmek, yapay zekanın verimli bir şekilde gerçekleştirebileceği görevlerdir. Yapay zeka kullanım senaryosu grupları şunları içerir:
İnsan uzmanlığının arttırılması – Siber güvenlik alanında, daha yüksek üretkenlik sağlamak ve insan hatalarından kaynaklanan riski azaltmak için yapay zekayı kullanma konusunda muazzam bir fırsat görüyorum. Onun olup olmadığı‘SOC ortamında tehdit avına veya olaya müdahaleye veya siber güvenlik ekibinin günlük operasyonlarına yardımcı olan yapay zeka, verileri alarak ve profesyonellere daha iyi bağlam sağlayarak ve rutin görevleri otomatikleştirerek gerçek değer katabilir. Önemli olan, özellikle hata yapmanın maliyeti çok yüksek olduğunda, uzmanları daha üretken hale getirmek için yapay zekayı kullanmaktır.
Hassasiyet veya geri çağırma – Söz konusu kullanım senaryosunun hassasiyet odaklı mı yoksa geri çağırma odaklı mı olduğunu değerlendirmek önemlidir. Ancak kullanım durumunun nereye düştüğüne bağlı olarak farklı modelleme yaklaşımları seçmeniz gerekebilir.
Örneğin, yüksek hatırlama (bulunması gereken her şeyi bulma) genellikle düşük hassasiyete mal olur, bu da daha yüksek yanlış pozitifler anlamına gelir. Tehdit tespitinde yüksek düzeyde hatırlama elde etmek, hiçbir potansiyel tehdidin gözden kaçırılmamasını sağlamak açısından çok önemlidir.
Bilinmeyen bilinmeyenlerin bulunması senaryosunda, anormallik tespitinden ve ilgili tekniklerden yararlanma yaklaşımı gerçek sonuçlar verebilir; ancak tespit edilen anormalliklerin çoğu matematiksel olarak geçerli olsa da genellikle iyi niyetli açıklamalara sahiptir. Yanlış pozitifler nedeniyle bu tür araçları işlevsel hale getirmek daha zordur. Bilinmeyen bilinmeyenlerle karşılaşıldığında, bir avuç ilgi çekici model veya davranışın tespitine öncelik verilmesi ve sorunun bilinen bilinmeyenlerden birine dönüştürülmesi önerilir.
Üretken Yapay Zeka Devrimi – Üretken yapay zeka, sonuçların karmaşıklığını artırarak ve maliyet ekonomisini değiştirerek siber güvenliği önemli ölçüde etkiledi. İnsan tarafından üretilen çıktılardan ayırt edilmesi zor olan, insan kalitesinde örnekler (ses, video, metin) oluşturabilir. Bu, araca özel arayüzleri öğrenme ihtiyacını ortadan kaldırmaya yönelik fırsatlar yaratır, böylece giriş engellerini azaltır ve ezberci çalışmayı otomatikleştirerek verimliliği artırır.
Tehlike: kötü aktörler, etik, maliyetler…
Tehlike: Saldırıların Karmaşıklığı
Ne yazık ki savunma yapan yapay zeka teknolojileri aynı zamanda silah haline de getirilebiliyor. Üretken yapay zeka, meşru görünen deepfake’ler oluşturabilir veya gerçek iletişimlerden ayırt edilmesi giderek zorlaşan kimlik avı e-postaları oluşturabilir. Sosyal mühendislik saldırılarının karmaşıklığı arttıkça, kullanıcılar gerçek mesajları sahte mesajlardan ayırmanın çok daha zor olduğunu görecekler. Deepfakes ayrıca ses tanımlama gibi biyometri tabanlı kimlik doğrulama teknolojilerinden bazılarını etkisiz hale getirebilir. Bu, kullanılmayı bekleyen saatli bir bombadır.
Hataların Maliyeti
Yapay zekanın kusurları yok değil. Özellikle siber güvenlik gibi kritik bir alanda hatalar meydana geldiğinde maliyetler çok büyük olabilir. Bu nedenle, özellikle hataların maliyeti çok yüksek olduğunda, her biri sistemin etkili işleyişine katkıda bulunan, bir makine prosesi ve bir insan operatörün birlikte çalıştığı bir etkileşim modeli olan döngüdeki insan yaklaşımı sıklıkla tavsiye edilir. . Örneğin, yapay zeka tarafından oluşturulan kod, geliştirmeyi hızlandırabilirken aynı zamanda bir insan uzmanın yakalaması gereken yeni güvenlik açıklarını da ortaya çıkarabilir. Bu maliyet, çözüme nasıl yaklaşacağınız ve tasarlayacağınız konusunda belirleyici faktör olmalıdır.
Ancak yapay zekayı kullanan iyi niyetli kullanıcılar bile bir kuruluş için riskin artmasına neden olabilir. Yapay zeka tarafından oluşturulan kod açıklarından kaynaklanan tehdit yüzeyinin artmasıyla ilgili sorun, yapay zeka çıktılarını nasıl kullanabileceğinize dair herhangi bir korumanın olmaması nedeniyle ortaya çıkar.
Etik ve Operasyonel Zorluklar
Siber güvenlikte yapay zeka, kendi etik ve operasyonel zorluklarını da beraberinde getiriyor. Model önyargısı, veri gizliliği, IP sahipliği ve yapay zeka çözümlerinin uygulanmasının yüksek operasyonel maliyetleri gibi sorunlar, küçük kuruluşlar için engelleyici olabilir. Yapay zekanın tüm potansiyelinden etkili bir şekilde yararlanmak için bu zorlukların metodik olarak ele alınması gerekir.
Ayrıca, üretken yapay zekanın en son ve en büyük ilerlemelerinden yararlanmanın kolay olmadığı gerçeğini de göz ardı edemeyiz. Nitelikli personel ve bilgi işlem maliyetleri de dahil olmak üzere operasyonel maliyetler, bunu yapmayan birçok şirket için engel teşkil edebilir.‘Önemli kaynaklara veya uzun vadeli yatırım yapma kabiliyetine sahip değilsiniz.
Üretken yapay zeka teknolojilerini veri güvenliği gibi hedeflenen sorunlara etkili bir şekilde uygulayan yeni ortaya çıkan siber güvenlik girişimleri var ve ayrıca yapay zeka modelleri için yeni ortaya çıkan bir açık kaynak ekosistemi de var. Gelgit yavaş yavaş değişirken, teknoloji hâlâ çoğunlukla bir avuç büyük işletme tarafından kontrol ediliyor ve yönlendiriliyor.
Dengeli Yaklaşım: Doğru Akoru Vurmak
Yapay zeka, her soruna sihirli bir çözüm olarak değil, siber güvenlik araç kutusundaki bir araç olarak görülmelidir. Yapay zekanın bilgi işlem gücünü insan uzmanlığıyla birleştiren dengeli bir yaklaşım, en etkili güvenlik çözümlerini ortaya çıkarabilir. Siber güvenlik, tehdit aktörlerinin sürekli uyum sağladığı, savunmaların da uyum sağlaması ve gelişmesi gereken dinamik bir alandır. Odak noktası yalnızca yapay zekaya güvenmek yerine genel risk azaltımı olmalıdır.
Sonuçta siber güvenlikte yapay zeka iki ucu keskin bir kılıçtır. Yenilik ve verimlilik açısından inanılmaz fırsatlar sunarken aynı zamanda kuruluşların dikkatle yönetmesi gereken yeni risk türlerine de kapı açıyor. Hem tehlikeleri hem de fırsatları anlayarak yapay zekanın giderek daha merkezi ve üretken bir rol oynadığı bir geleceğe daha iyi hazırlanabiliriz.
Reklam