SAN FRANCISCO — Yapay zeka, özellikle ChatGPT gibi üretken biçimler, Ulusal Güvenlik Teşkilatında siber güvenlik direktörü Rob Joyce da dahil olmak üzere RSA Konferansında birçok siber güvenlik uzmanının dudaklarında ve akıllarındaydı.
“AI hakkında konuşmadan RSA’da dolaşamazsınız [and] makine öğrenimi,” dedi Joyce, siber tehditlerin durumu, ortaya çıkan riskler ve önümüzdeki yıl için tahminler hakkında bir açılış konuşmasında.
Joyce, üretken yapay zekanın “teknolojik bir patlama” olduğunu söyledi. “Henüz teslim edildiğini söylemeyeceğim, ancak bu gerçekten de ortaya çıkmakta olan oyunun kurallarını değiştiren bir teknoloji.”
Siber güvenlik profesyonellerinin sahip olduğu AI ve büyük dil modelleri ile ilgili endişeler daha tehlikeli ve sofistike saldırıları körüklüyor. Joyce’a göre bu henüz olmadı ama bir yıl içinde olabilir.
NSA, savunucular ve rakipler için gelişmeleri izliyor ve ChatGPT ile diğer üretken yapay zeka araçları ivme kazandıkça üç alana odaklanıyor. İşte izledikleri şey.
düşmanca kullanım
Rakiplerin nihai olarak üretken yapay zekadan nasıl yararlandıkları ve onunla ne yaptıkları en önemli konu olmaya devam ediyor, ancak bu çok büyük bir endişe kaynağı değil.
Joyce, “Yapay zeka tarafından üretilen ve her şeyi istismar edecek sihirli bir teknik yetenek beklemiyorum” dedi.
Joyce’a göre, ulus devletler ve suç örgütleriyle bağlantılı düşmanlar iş akışlarında ChatGPT’yi denemeye yeni başlıyor. Üretken yapay zeka, sonunda saldırganlar için döngüyü ve bekleme süresini azaltacak ve şimdiden daha etkili kimlik avı saldırılarına olanak sağlıyor.
Joyce, AI’nın tehdit aktörlerinin kodu yeniden yazmasına, imzayı ve nitelikleri değiştirmesine, ona benzersiz bir görünüm ve his vermesine yardımcı olacağını ve yakın vadede savunuculara zorluklar getireceklerini söyledi.
Kemerini bağla, dedi Joyce. Bundan bir yıl sonra “Sanırım nerelerde silah haline getirildiği, nerede kullanıldığı ve nerelerde başarılı olduğuyla ilgili bir sürü örneğe sahip olacağız.”
AI’ya güvensizlik ve kötü niyetli zehirlenme
Joyce ve NSA’daki meslektaşları, üretken AI gelişiminin sınırlarında, düşmanların AI’nın iyi niyetli işleyişine nasıl güvensizlik ekebileceğini veya zehirleyebileceğini ve faydalarını etkisiz hale getirebileceğini ihtiyatlı bir şekilde izliyor.
Joyce, “İnsanlar modellerin orada olduğunu anladıkça, onları manipüle etmek isteyen insanlar olacak” dedi. “Üretken yapay zeka ve diğer modellerde güvenmeye başlayacağımız bazı şeylerde nasıl güven ve güvence elde edeceğiz?”
Savunma yetenekleri
NSA da okuyor defans oyuncuları yapay zekayı nasıl kullanabilir? veya avantajları yeniden kazanmak için makine öğrenimi.
Joyce, “Ölçekte ezberci şeyler yapabilme konusunda gerçek bir umut vaat ediyor – çok büyük miktarlarda günlükleri tarayabilme, bilinen CVE’leri ve diğer şeyleri veri akışlarınızla ilişkilendirebilmek için kalıpları çıkarabilme” dedi.
Üretken yapay zeka, veri hazinelerine makine benzeri bir odak eklemek ve savunucuların faaliyetlere öncelik vermesine yardımcı olmak için kullanıldığında özellikle etkileyicidir.
Joyce, “Savunmanın hızlandırıcısı bu,” dedi. “Savunmacılarımızı daha iyi hale getirmek için çok büyük bir güçlendirme yeteneği ve bence bunun bir kısmının da ortaya çıktığını göreceksiniz.”