Yapay zeka olgunluktan henüz çok uzakta ama bugün National Harbor, Maryland’deki Gartner Güvenlik ve Risk Yönetimi Zirvesi’nde yapılan sunuma göre siber güvenlik profesyonellerinin izlemesi gereken yapay zeka teknolojisinin saldırı ve savunma amaçlı kullanımları hala var.
Gartner Araştırma Yapay Zeka ve Siber Güvenlikten Sorumlu Başkan Yardımcısı Jeremy D’Hoinne, konferans katılımcılarına bu kadar çok ilgi gören büyük dil modellerinin (LLM’ler) “akıllı olmadığını” söyledi. Yakın zamanda ChatGPT’ye 2023’ün en şiddetli CVE’sinin (yaygın güvenlik açıkları ve riskler) ne olduğu sorulduğunda ve chatbot’un yanıtının aslında saçma olduğu bir örneği aktardı (ekran görüntüsü aşağıda).
Deepfakes En Önemli Yapay Zeka Tehditleri
Şu ana kadar yüksek lisans araçlarındaki karmaşıklık eksikliğine rağmen D’Hoinne, yapay zeka tehditlerinin ciddiye alınması gereken bir alana dikkat çekti: deepfake.
D’Hoinne, “Güvenlik liderleri deepfake’leri acil odaklanılacak bir alan olarak ele almalı çünkü saldırılar gerçek ve henüz güvenilir bir tespit teknolojisi yok” dedi.
Deepfakes’e karşı savunmak, kullanıcı eğitimiyle çözülebilecek daha geleneksel kimlik avı saldırıları kadar kolay değildir. Harcama ve finansmanın onaylanması gibi daha güçlü iş kontrollerinin şart olduğunu söyledi.
Daha güçlü iş akışları, bir güvenlik davranışı ve kültür programı, biyometrik kontroller ve güncellenmiş BT süreçleri önerdi.
Yapay Zeka Güvenlik Yamalarını Hızlandırıyor
D’Hoinne’in belirttiği potansiyel yapay zeka güvenliği kullanım senaryolarından biri yama yönetimidir. Yapay zeka desteğinin, diğer görevlerin yanı sıra yamaları tehdit ve istismar olasılığına göre önceliklendirerek ve kodu kontrol edip güncelleyerek yama süresini yarı yarıya azaltabileceğini gösterdi.
GenAI güvenlik araçlarının yardımcı olabileceği diğer alanlar şunlardır: uyarı zenginleştirme ve özetleme; etkileşimli tehdit istihbaratı; saldırı yüzeyi ve riske genel bakış; güvenlik mühendisliği otomasyonu ve azaltma yardımı ve dokümantasyonu.
Yapay Zeka Güvenliği Önerileri
D’Hoinne, “Üretken yapay zeka, siber güvenliği kurtarmayacak veya mahvetmeyecek” dedi. “Siber güvenlik programlarının buna nasıl uyum sağlayacağı, etkisini şekillendirecek.”
Katılımcılara yaptığı tavsiyeler arasında “çözülmesi gereken acil sorunlar olarak derin sahtekarlıklara ve sosyal mühendisliğe odaklanmak” ve “personeli değiştirmek değil, artırmak için yapay zeka asistanlarıyla deneyler yapmak” vardı. Ve sonuçlar, “geçici yapay zeka veya üretkenlik değil”, kullanım durumu için önceden tanımlanmış ölçümlere göre ölçülmelidir.
Bu hafta Gartner Güvenlik Zirvesi hakkında daha fazla bilgi almak için The Cyber Express’i takip etmeye devam edin.