Bu ses otomatik olarak oluşturulmuştur. Geri bildiriminiz varsa lütfen bize bildirin.
Google Cloud Başkan Yardımcısı ve CISO'su Phil Venables, üretken yapay zekanın savunmacılara hücumculara karşı avantaj sağlayabileceği ve sağlayacağına kesinlikle inanıyor; hem de önümüzdeki üç ila beş yıl içinde oldukça önemli bir farkla.
Venables ve Google'daki meslektaşları, yapay zekanın savunmacının ikilemini tersine çevirebileceğini savunuyor; bu, Cybersecurity Dive'a verdiği demeçte, “saldırganların yalnızca bir kez haklı olması gerektiği, ancak savunmacıların her zaman haklı olması gerektiği yönündeki klişe olmasa da klasik bir gerçektir”.
Google başlattı Yapay Zeka Siber Savunma Girişimi geçen ay Dijital güvenlik için yapay zekanın gelişimini ilerletmek. A ilgili rapor aynı zamanda otonom siber savunmaların geliştirilmesini ve sistem güvenliğinde yapay zekanın tasarımı, inşası ve kullanımına yönelik araştırmaları da yayınlamaktadır.
Raporun çoğu, telemetri ve analize erişimi olan yapay zeka entegre savunma sistemleri, bir kuruluşun saldırı yüzeyini yöneten ve düzelten araçlar ve küresel saldırı verilerinden öğrenen ve güvenlik açıklarını bulan sistemler dahil olmak üzere henüz hayata geçirilmemiş ileriye dönük örneklerle vizyon sahibidir. saldırganlardan daha kapsamlıdır.
Yapay zekanın yapısal özellikleri, Venables'ın tehdit verileri, kurumsal veriler ve güvenlik bilgisi ve yetenek ve üretkenlik açısından en az on kat dönüşüme katkıda bulunabilecek araçlar üzerine eğitilmiş temel modelleri geliştirme konusundaki iyimserliğini artırıyor.
Venables, “Temel olarak, bir yapay zekanın ne olduğunu ve ne yaptığını düşündüğünüzde, bir dizi veri üzerinde eğitilen ve daha sonra bir kuruluşun kendi verileriyle ince ayar yapılan ve ayrıca kuruluşun bağlamı ve uzmanlığı üzerinde birçok ayarlama yapılan bir şeydir” dedi.
Google Cloud CISO'su Phil Venables
Google tarafından verilen izin
“Bu tam olarak defans oyuncusunun lehine bir asimetri, çünkü biz defans oyuncuları olarak tüm çevre için mükemmel yardımcımız olacak bir yapay zekaya ince ayar yapabiliriz. Oysa bir saldırganın her konuda genel olması gerekir” dedi Venables.
“Bu arada, eğer saldırgan organizasyonun sahip olduğu tüm verilere sahip olsaydı zaten saldırmasına gerek kalmazdı çünkü zaten kazanmışlardı.”
Saldırganların yapay zeka kullanımı tasarım gereği dar kalıyor
Birçok siber güvenlik firmasının yöneticileri Üretken yapay zekayı savunmayı güçlendirecek geçerli bir mekanizma olarak görün ve ilgili işletmelerin performansını artırıyor ancak herkes teknolojinin önemli faydalar sağlayacağına inanmıyor.
Savunmacılar halihazırda sistemleri dirençlilik etrafında yeniden yönlendirebilir ve saldırganın avantajlarını geri alın Fastly'nin CTO ofisinde kıdemli baş mühendis olan Kelly Shortridge'e göre modern yazılım mühendisliği uygulamalarıyla kendileri için.
Shortridge, geçen yıl Cybersecurity Dive'a yaptığı açıklamada, üretken yapay zeka teknolojisi hakkında geniş bir yorumda bulunarak, “Bunun, özellikle siber güvenlik alanında bir sorun arayışında oldukça iyi bir çözüm olduğunu düşünüyorum” dedi. “Sanırım yeni heyecanın bir parçası olmak istiyoruz ama bunun nasıl uygulandığını gerçekten anlamıyoruz.”
Güvenlik araştırmacıları, tehdit aktörlerinin operasyonlarını önemli ölçüde iyileştirmek veya siber saldırılar başlatmak için üretken yapay zekayı kullandığına dair henüz bir kanıt gözlemlemedi. Ancak yapay zekanın bugüne kadar saldırganlar için etkili olduğunu kanıtlamamış olması, aynı sonuçların savunma için de geçerli olacağı anlamına gelmiyor.
Venables, “Özellikle güvenlik konusunda ileriye yönelik bu fırsat konusunda beni heyecanlandıran şey, tehditleri daha hızlı analiz etmek için hem insan operasyonları yeteneklerini artırma hem de daha hızlı bir şekilde daha otomatik savunmalar oluşturma yeteneğimizdir” dedi.
Venables, saldırganların şimdiye kadar araç depolarına kapsamlı bir şekilde yapay zeka eklememiş olmalarının “biraz alaycı nedeni”nin, bunu yapmak zorunda kalmamış olmaları olduğunu söyledi. Tehdit aktörleri hedeflerine yapay zeka olmadan ulaşıyor.
“Saldırganların rasyonel ekonomik aktörler olduğunu düşünmek hoşuma gidiyor. Venables, “Geleneksel teknikleriyle her gün başarılı olurken bir sürü aktiviteyi başlatamayacaklar” dedi.
Tehdit aktörleri, daha doğru ve cazip kimlik avı kampanyaları oluşturmak için yapay zekayı kullanıyor; bu, saldırganlara bir tür yetkisiz erişime doğru sosyal mühendislik yaparken maksimum ekonomik getiri sağlayan bir yerde mesajları toplu olarak üretebildiği için “mükemmel bir kullanım örneğidir” dedi Venables.
Ödüller risklerden daha ağır basıyor
Güvenlikte yapay zekaya ilişkin öngörüleri, mevkidaşının AWS'deki teknolojiye yönelik mevcut bakış açısıyla çelişiyor. AWS CISO Chris Betz geçen hafta Cybersecurity Dive'a şunu söyledi: söylemek için çok erken eğer üretken yapay zekanın sağladığı avantajlar savunuculara veya saldırganlara aitse.
Venables, “Evlat edinme, entegrasyon, ince ayar yapma ve bunu kuruluşlar içinde gerçeğe dönüştürme açısından gidilecek çok uzun bir yol olduğu açık” dedi. “Fakat bunun orta ve uzun vadede savunmacılara oldukça önemli bir yapısal avantaj sağladığını kesinlikle düşünüyorum.”
Yapay zekanın büyük desteğiyle güvenlik senaryosunu tersine çevirmek, özellikle yapay zeka modellerini araçlarla, dahili verilerle ve bağlamla entegre ettiğinden, bir kuruluşta bir dereceye kadar uzmanlık gerektirir.
Venables, “Birçok kuruluş için hâlâ kapatılmamış birçok temel güvenlik açığı var” dedi.
Yapay zekanın işletmelerin sorunlu güvenlik açıklarını tespit etmesine yardımcı olabileceğini söyledi. Teknoloji aynı zamanda bulut veya şirket içi altyapıda uygun yapılandırmalar ve yazılım oluşturmanın doğru yolu için de bir rehber görevi görebilir.
Venables, “Bütün bunların ortak noktası, yapay zekanın kendi başına hareket ettiğinde birçok konuda harika olduğu, ancak onları bir insan faaliyetinin tamamlayıcısı olarak kullandığınızda genellikle çoğu konuda harika olduğudur” dedi. “Bunu mevcut bir insanın becerilerini ve üretkenliğini artırmak için kullanıyorsunuz ve bence bu oldukça heyecan verici.”
Venables'ın defans oyuncularının yapay zeka ile üstünlük sağladığının kanıtı olarak aradığı birkaç sinyal veya öncü gösterge var:
- Güvenlik ekibinin çabalarının artan verimliliği
- Aynı sayıda insan ve araçla genişletilmiş duyusal kapsam
- Bilinen yeni bir tehdit veya güvenlik açığının hızlandırılmış çözümleri
Venables'e göre, bu sonuçlar siber savunma için yapay zeka ile gerçekleştirilirse, daha az siber saldırı ve güvenlik olayının gecikmeli göstergeleri neredeyse garanti altına alınacak.
Venables, kuruluşların yapay zekayı güvenli bir şekilde nasıl benimseyebileceği konusunda geniş endişelere sahip olsa da, Google'ın yeni nesil geniş dil modelinin aşırı düzeltilmiş görsellerine benzer riskler öngörmüyor. İkizler 1.5Şubat ortasında piyasaya sürülmesinden kısa süre sonra oluşturuldu.
Venables, “Gerçek anlamda, onun çok derin yapısal analiz yeteneğini, temel bir bilgi kümesine karşı bir veri bağlamına bakmak için kullanıyoruz” dedi. “Çıktısına ince ayar yaparken dikkatli olmanız gerekiyor, ancak genellikle onu genel bir görüntü oluşturucu veya genel bir sohbet robotu olarak çalıştırdığınızda karşılaşacağınız risklerle aynı türde risklere maruz değilsiniz. her türlü uyarı.”