Siber güvenlik, kuruluşlar için AI’yı işletmeye getirmeleri için artan bir endişe kaynağıdır.
Dağıtım çabaları arasında, AI güvenlik sorunları güvenlik şeflerinin yaklaşık üçte biri için fidye yazılımı aştı, Arctic Wolf verilerine göre. Teknolojinin doğru sonuçlar oluşturmak için şirket verilerine güvenmesi, siber güvenlik ön ve merkezini ortaya koyuyor.
İçinde HaziranCio Dive ile konuştu Mark Ryland, Amazon’da Güvenlik DirektörüAI’nın hızlı yükselişi, yönetici endişelerinin nasıl geliştiği ve teknolojinin siber güvenlik savunması üzerindeki etkileri hakkında.
Editörün Notu: Bu röportaj uzunluk ve netlik için düzenlenmiştir.
Endüstri Dalış: Üretken veya ajan olsun, bu en son yapay zeka yinelemeleri hakkında, bu onu belirli açılardan daha büyük bir güvenlik zorluğu haline getiriyor? Neden AI ile ilgili daha yüksek endişe görüyoruz?
Mark Ryland: Bunların, aynı girdi ile farklı sonuçlar verebilen tanımlayıcı olmayan sistemler olması: Bu, bilgisayar insanların hiç alışık olmadığı bir şeydir. Ve insanların sadece bu araçları çok çeşitli iş problemlerinde uygulamaya çalışmaları da bir faktördür. Daha önce hype döngüleri gördük, ama bu biraz farklı. Kesinlikle, yapı ve yapılandırılmamış verileri kullanabilen bu güçlü teknolojinin kullanımından kaynaklanacak büyük bir dönüşüm ve iş dönüşümleri var.
Yapay zeka kuruluşlar için siber güvenlik çalışmasını nasıl değiştirdi? En büyük etkisi olduğunu nerede öngörüyorsunuz?
Analitik araçlarının insan dili sorguları gibi çok basit bir şeyle başlayarak zaten büyük bir etkisi var. Bir siber güvenlik analisti eğitiyorsam, şimdi sadece insan dilinde akıllı sorular sorabilir ve çok iyi sonuçlar elde edebilirler. Anında fayda gördüğümüz bir diğer alan da bağlamsal özetleme. Bir güvenlik sorunu varsa, bir insan “Hey, bence burada yanlış bir şey var” diyen bir bilet dosyasına sahiptir ve şimdi bir AI sistemi, bir insanın bir metin aramasıyla bulamamış olabileceği benzer biletlerin tamamını getirebilir. Proaktif güvenlik tarafında, APPSEC ekibimiz daha iyi, otomatik test üretimi için AI kullanıyor. Zaten gördüğümüz birçok fayda var ve yeni başladığımızı hissediyorum.
Bu teknolojilerin benimsenmesi siber güvenlik sektörü işgücünü nasıl etkileyecek?
Sanırım arzu edilen sonuç ve üzerinde çalıştığımız sonuç, insan uzmanlarının çok daha verimli olma ve yapılması zor iş yapma kapasitesini arttırıyor. Aynı zamanda, insanların bu alanlarda uzmanlık ve yargı geliştirme sürecini durdurmak istemiyoruz. Bir endüstri olarak, insanları eğitmeye devam etmenin bir yolunu bulmalıyız, ancak aynı zamanda araçların eskiden yaptıkları çok fazla işi yapabileceğini kabul ediyoruz. İnsan uzmanlığını yüksek düzeyde tutma hedefinin korunmasının önemli olduğunu düşünüyorum.
Kuruluşlar siber güvenlik duruşlarını nasıl geliştirebilirler.
İnsanların yapmasını savunduğumuz şey, bir aracı sistemde deterministik kontrol noktalarını kullanmaya devam etmektir. Kimlik tabanlı kontroller kullanıyorsanız, işleri kilitleme yeteneğine sahipsiniz-bu kimlik yalnızca bu veri kümesine erişebilir. Daha sonra, bir ajan bu kimlik olarak çalışıyorsa, şimdi ajanın yapmasını istemediğiniz şeyleri yapma yeteneğini kısıtladınız. Ajana kendisine hata yapabilen bir insan aktör olarak davranın. “Döngüde İnsan” da bir süredir önemli olacak. İnsan denetlenen geri bildirim, daha sonra ajanların doğruluğunu artıran bir modelin parçası haline gelebilir.
BT ve güvenliğin birbirleriyle nasıl daha işbirliği içinde çalışabileceğine dair herhangi bir tavsiyeniz var mı?
Güvenliği, bir mühendislik çabasında performans, maliyetler veya başka bir kriter olarak elde etmeye çalıştığınız hedeflerin bir parçası haline getirmelisiniz. En kolay yolun güvenli bir yol olduğu bir noktaya gelmeliyiz, yazılım mühendislerine iş mantığını yazdıkları bir ortam veriliyor, ancak diğer her şey onlar için inşa ediliyor. Yardım gördüğümüz bir diğer model de bir bulut mükemmellik merkezi, CTO, CIO, CISO ile ortak bir beceri ekibi oluşturmaktır, tüm katkıda bulunan uzmanlar mühendislik ekiplerinin modernize olmalarına ve bulut teknolojisine yerleşmelerine yardımcı olabilir.