BLACK HAT USA – Las Vegas – 11 Ağustos Cuma – Yapay zeka (AI) teknoloji dünyasına yeni gelen bir şey değil, ancak ChatGPT ve benzeri teklifler onu laboratuvar ortamlarının ötesine taşıdığından ve Azeria Labs’ın kurucusu ve CEO’su Maria ‘Azeria’ Markstedter, güvenlik uygulayıcılarının ihtiyacı olduğunu söyledi. evriminin günlük gerçekliklerini nasıl etkileyeceği konusunda tetikte olun.
OpenAI’nin ChatGPT modelini piyasaya sürmesinin ardından, diğer şirketler geri çekilirken, yapay zekanın “artık elenmekten korunmak için zamana karşı yarışan büyük teknoloji şirketlerinin emin ellerinde” olduğunu şaka yollu bir şekilde iddia etti. Bu hafta Black Hat USA’daki açılış sahnesinde konuşan, “ChatGPT’nin yükselişiyle Google’ın barış zamanı yaklaşımı sona erdi ve herkes devreye girdi” dedi.
Paranın Nereye Gittiğini Görmek
Şirketler yapay zekaya milyonlarca dolarlık fon yatırımı yapıyor, ancak dünya ne zaman yeni bir teknoloji türüne geçse, “güvenlik ilerlemeyi yavaşlattığı için kurumsal silahlanma yarışları güvenlik veya güvenlik endişeleriyle yönlendirilmiyor.”
Yapay zekayı entegre etmek için kullanım durumlarının geliştiğini ve özellikle pazara hakim olanlar için çok para kazanmaya başladığını söyledi. Bununla birlikte, “yaratıcıların onu kırması ve düzeltmesi ve nihayetinde teknolojinin yaklaşan kullanım durumlarında yüzümüzde patlamasını önlemesi” gerekiyor.
Şirketlerin biraz irrasyonel bir coşku yaşıyor olabileceğini de sözlerine ekledi. “Her işletme şu anda bir AI işletme örnek makinesi olmak istiyor ve işletmelerimizin AI’yı entegre etmek için bu araçlardan yararlanma şekli, tehdit modelimiz üzerinde önemli bir etkiye sahip olacak” dedi. Ancak yapay zekanın hızla benimsenmesi, onun tüm siber tehdit modeli üzerindeki etkisinin bilinmediği anlamına geliyor.
ChatGPT Tehditlerinin Yükselişi
ChatGPT’nin “son dokuz ayda kaçmanın oldukça zor” olduğunu kabul eden Markstedter, kullanıcı sayısındaki hızla artan artışın bazı şirketlerin buna erişimi sınırlamasına yol açtığını söyledi. OpenAI bir kara kutu olduğundan ve ChatGPT’ye beslediğiniz her şey OpenAI veri setinin parçası olacağından, işletmelerin şüpheci olduğunu söyledi.
Şunları söyledi: “Şirketler hassas verilerini harici bir sağlayıcıya sızdırmak istemiyorlar, bu nedenle çalışanlarının iş için ChatGPT kullanmasını yasaklamaya başladılar, ancak her işletme hala iş gücü ürünlerini ve hizmetlerini yapay zeka; hassas verilere, veri kümesinin bir parçası olabilecek harici sağlayıcılara güvenmiyorlar.”
Bununla birlikte, OpenAI’nin yoğun odaklanması ve hızlı geliştirme ve entegrasyon hızı, güvenlik uygulayıcılarını hızlı bir şekilde gelişmeye zorlayacaktır.
“Dolayısıyla, kuruluşlarımızın bunları kullanma şekli oldukça hızlı bir şekilde değişiyor: tarayıcı için kontrol ettiğiniz bir şeyden, işletmelerin kendi altyapılarına entegre ettiği bir şeye, yakında işletim sistemimize ve mobil cihazımıza yerel olacak bir şeye dedi.
Endüstri için Fırsat
Markstedter, AI ve siber güvenlik için en büyük sorunun, bu sistemleri değerlendirecek ve ihtiyacımız olan korkulukları oluşturacak beceri ve bilgiye sahip yeterli insanımızın olmaması olduğunu söyledi. “Dolayısıyla, bu küçük zorluklardan ortaya çıkan yeni iş türleri zaten var” dedi.
Son olarak, Markstedter dört çıkarımın altını çizdi: Birincisi, yapay zeka sistemleri ve bunların kullanım durumları ve yetenekleri gelişiyor; ikincisi, otonom yapay zeka aracılarının kuruluşumuzda gerçeğe dönüşme olasılığını ciddiye almamız gerektiği; üçüncüsü, kimlik ve uygulamalar hakkındaki kavramlarımızı yeniden düşünmemiz gerektiğidir; ve dördüncüsü, veri güvenliği konusundaki kavramlarımızı yeniden düşünmemiz gerekiyor.
“Dolayısıyla, ortaya çıkan bu sorunları ele almak için sistemlerimizi ve tehdit modelimizi değiştiren teknolojiyi öğrenmemiz gerekiyor ve teknolojik değişiklikler bizim için yeni değil” dedi. “Önceki sorunlarımızı nasıl çözeceğimizi anlatan el kitaplarımız yok. Hepimiz şu ya da bu şekilde kendi kendimizi yetiştirdik ve artık sektörümüz tam bir zihniyete sahip yaratıcı zihinleri kendine çekiyor. Bu nedenle, yeni sistemleri nasıl inceleyeceğimizi ve yaratıcı bulabileceğimizi biliyoruz. onları kırmanın yolları.”
Bunun kendimizi, güvenlik duruşumuzu ve savunmamızı yeniden keşfetme şansımız olduğunu söyleyerek sözlerini bitirdi. “Güvenlik sorunlarının bir sonraki tehlikesi için, bir topluluk olarak bir araya gelmeli ve bu alanlarda araştırmaları teşvik etmeliyiz” dedi.