Bu Help Net Security röportajında, CSA AI Security Alliance Başkanı Caleb Sima, yapay zekanın güvenlik profesyonellerini nasıl güçlendirdiğini tartışıyor ve yapay zekanın personeli değiştirmek yerine becerileri ve üretkenliği artırmadaki rolünü vurguluyor.
Yapay zeka, güvenlik profesyonellerinin yerini almaktan ziyade güçlendirici olarak görülüyor. Yapay zekanın gelecekte rollerini nasıl değiştireceğini öngörüyorsunuz?
İşlerin yerini alacak yapay zekanın geleceği belirsizliğini korusa da bunun yakın zamanda olmayacağından eminim. Yapay zeka, güvenlik profesyonellerinin yerini almak yerine onları güçlendirmek için kullanılabilecek bir araçtır. Aslında, CSA’nın kısa süre önce Google ile birlikte gerçekleştirdiği Yapay Zeka Durumu ve Güvenlik Anketi Raporu, kuruluşların çoğunluğunun, becerilerini ve bilgi tabanını geliştirmek (%36) veya iyileştirme anlamına gelerek ekiplerini güçlendirmek için yapay zekayı kullanmayı planladığını ortaya çıkardı. Personelin tamamen değiştirilmesi yerine tespit süreleri (%26) ve üretkenlik (%26) sağlandı.
Yakın gelecekte, ekipler arasında bir dizi tekrarlanan görevi (raporlama gibi) otomatikleştirmek için yapay zekadan yararlanıldığını göreceğiz. Bu, örneğin yönetim raporlarını derlemek için harcanan zamandan önemli miktarda tasarruf sağlayacak ve bu ekiplerin daha yüksek öncelikli işlere odaklanmasına olanak tanıyacak. Bu, ankete katılanların %58’inin yapay zekanın becerilerini geliştireceğine veya genel olarak mevcut rollerini destekleyeceğine inandıklarını belirttiği anketin bulgularıyla uyumludur. İlave %24’lük bir kesim ise yapay zekanın işlerinin bazı bölümlerinin yerini aldığını ve diğer faaliyetlere odaklanmalarına olanak sağladığını düşünüyor.
Örneğin güvenlik ekipleri, tehditleri yalnızca insan eylemiyle yapabileceklerinden katlanarak daha hızlı ve daha etkili bir şekilde tanımlamak ve düzeltmek için yapay zeka algoritmalarından yararlanabilir. Buna paralel olarak, güvenlik ekipleri geçmiş verileri girerek potansiyel tehditleri tahmin etmeye ve bu tehditler artmadan önce azaltma stratejilerini planlamaya yardımcı olmak için yapay zekayı kullanabilir. Ne olursa olsun, güvenlik uzmanlarının hem kuruluşlarında hem de bireysel rollerinde yapay zekadan en iyi şekilde nasıl yararlanabileceklerini öğrenmeleri gerekecek.
Güvenlik uzmanları, kuruluşlarının yapay zeka entegrasyonuna ilişkin siber güvenlik olgunluğunu nasıl algılıyor?
Yapay zekayı entegre etmek çoğunlukla standart güvenlik önlemlerinin uygulanmasını içerir. Sürecin küçük bir kısmı yeni yapay zeka risklerini ele alıyor. Güvenlik profesyonelleri genellikle kuruluşlarının ayrıntılarını keşfedene kadar bu bilinmeyen bölgeden korkarlar.
Ne olursa olsun, konu yapay zekayı uygulayan şirketler olduğunda bu yıl dönüştürücü bir yıl olacak. Bahsettiğim anket, kuruluşların yarısından fazlasının bu yıl üst düzey yöneticilerin bu benimsemeyi yönlendirdiği bir GenAI çözümünü uygulamayı planladığını ortaya çıkardı. Ayrıca ankete katılanların %80’inden fazlasının organizasyonlarını orta ila yüksek düzeyde olgun olarak gördüğü ortaya çıktı. Ancak bunun bize söylemediği şey, katılımcıların algılarının gerçeğe dayalı olup olmadığıdır.
Hazır olsa da olmasa da yapay zeka geliyor. Durum böyle olunca, şirketleri, yapay zeka yolculuklarının neresinde olurlarsa olsunlar, bu teknolojiyi mevcut süreçlere entegre etme veya personelin bu devrim niteliğindeki teknolojiyi kullanma konusunda uygun şekilde eğitilmesini sağlama konusunda zorluklarla karşılaşacaklarını anlamaları konusunda uyarıyorum. ve bu beklenen bir şey. Bulut güvenliği topluluğu olarak, siber güvenliği daha da artırmak için bu teknolojiyi en iyi şekilde nasıl kullanabileceğimizi hep birlikte öğreneceğiz.
Yapay zekanın potansiyel kötüye kullanımına dair önemli bir farkındalık var. Kuruluşlar bu riskleri azaltmaya nasıl hazırlanmalı?
Öncelikle şirketlerin yapay zekaya, belirli bir pozisyondaki bir kişiyle aynı şekilde yaklaşması ve en iyi uygulamaları vurgulaması gerekiyor. Ayrıca yapay zekanın işlevini de belirlemeleri gerekecek; yalnızca müşteri sohbetlerinde destekleyici veriler sağlıyorsa risk minimum düzeydedir. Ancak dahili ve müşteri verilerine erişimle işlemleri entegre edip gerçekleştiriyorsa, sıkı erişim kontrolüne ve ayrı rollere öncelik vermeleri zorunludur. Çoğu risk halihazırda mevcut kontrollerle azaltılabilir; Bu zorluk, yapay zekaya aşina olmamamızdan kaynaklanıyor ve bu da korumalardan yoksun olduğumuz varsayımlarına yol açıyor.
Yapay zeka ile ilgili siber güvenlik eğitiminin mevcut durumunu nasıl görüyorsunuz ve iş gücünü hazırlamak için ne gibi iyileştirmelere ihtiyaç var?
Yıllardır güvenlik sektöründe bir beceri açığından bahsediyoruz ve yapay zeka yakın gelecekte bunu derinleştirecek. Öğrenmenin başlangıç aşamalarındayız ve anlaşılır bir şekilde eğitim henüz bu seviyeye ulaşmadı. Yapay zeka o kadar hızlı gelişiyor ki eğitim materyalleri hızla güncelliğini yitiriyor. Kuruluşlar, iş güçlerini yapay zekadan en iyi şekilde nasıl yararlanabilecekleri konusunda giderek daha fazla eğitmeye çalıştıkça, istikrarlı kavramlara odaklanmalı ve yapay zeka güvenliğinin büyük ölçüde mevcut uygulama ve altyapının yerleşik en iyi uygulamalarına dayandığını vurgulamalılar.
Kuruluşların %74’ü özel yapay zeka yönetişim ekipleri oluşturmayı planlarken, bu ekiplerin siber güvenliğin geleceğini nasıl şekillendireceğini düşünüyorsunuz?
Belirsiz sonuçları göz önüne alındığında yapay zeka gözetimi günümüzde kritik öneme sahiptir. Zamanla, yapay zeka okuryazarlığı arttıkça ve tüm teknolojilere entegre oldukça, riskleri daha net hale gelecek ve yapay zeka yönetimi, uzman ekiplerden daha geniş teknoloji yönetimine geçiş yapacak.
Kısa vadede yönetişim ekiplerinin oluşturulması, şirketlerin yapay zeka entegrasyonu ve yönetimine yaklaşımının ciddiyetini gösteriyor. Bu ekiplerin kurumsal politika geliştirme ve etik hususlardan risk yönetimi ve mevzuat uyumluluğuna kadar her şeyi ele almakla görevlendirilmesi muhtemeldir. Zaten görseller ve metinlerle ilgili olarak haberlerde şeffaflıkla ilgili sorunların ortaya çıktığını görüyoruz ve biz ilerledikçe bu durum devam edecek. Toplum olarak etkileşimde bulunduğumuz şirketlere ve medyaya belli bir düzeyde güven talep ediyoruz, bu nedenle bu güvenin kırılmaması çok önemli.