Güvenlik Operasyonları için Zamanında ve Doğru LLM’ler Oluşturma

Yapay Zeka ve Makine Öğrenmesi, Black Hat, Etkinlikler

NYU’nun Brennan Lodge’u, Geri Alma Artırılmış Üretimi ile Kendi Modelinizi Eğitme Konusunda

Tom Alanı (Güvenlik Editörü) •
19 Ağustos 2024

Birçok siber güvenlik kuruluşu, üretken yapay zekanın ve büyük dil modellerinin işletmeyi güvence altına almalarına ve en son düzenlemelere uymalarına yardımcı olacağını umuyor. Ancak bugüne kadar ticari LLM’lerin bazı büyük sorunları var – halüsinasyonlar ve zamanında veri eksikliği, diyor New York Üniversitesi’nde bilgi teknolojisi ve veri analitiği profesörü olan Brennan Lodge.

Ayrıca bakınız: Yoğunlaşan Tehdit Ortamına Yanıt Vermek

Lodge, kuruluşların sürekli olarak verileri güncelleyen ve içerdiği bilgi türüne göre kategorize eden (bir kütüphanedeki kart katalog sistemine benzer) geri alma-artırılmış üretim veya RAG kullanarak kendi LLM’lerini oluşturmaları için bir dava açtı; bu, ticari, hazır LLM’lerin oluşturduğu bir diğer büyük sorunu ortadan kaldırmaya yardımcı olur – nasıl eğitildiğine dair görünürlük eksikliği. Lodge’un prototip RAG vektör veritabanı, LLM’nin “kara kutusuna” bakmaya yardımcı olmak için her yanıtla destekleyici bilgilere bir bağlantı içerir.

Lodge, “En azından bağlanabileceğiniz bir referansınız olur ve yönettiğiniz sistem hakkında daha fazla güven duyabilirsiniz,” dedi. “Veriler size aittir ve bunları siber güvenlik türü şeyler için kullanabilirsiniz.”

RAG, bir güvenlik analistinin tehdit istihbaratı beslemelerini, güvenlik açığı uyarılarını veya MITRE çerçevesinin en son güncellemelerini incelemesine yardımcı olabilir. Risk ve uyumluluktaki personel, kuruluşun mevcut politikalarının “otomatik boşluk analizini” oluşturarak yeni düzenlemeleri sürekli olarak izlemek ve bunlara yanıt vermek için sistemi kullanabilir.

Lodge, Black Hat 2024’te Information Security Media Group ile yaptığı bu video röportajında ​​ayrıca şunları da ele aldı:

• Geleneksel Hukuk Yüksek Lisanslarının güçlü ve zayıf yönleri;
• Geri alma-artırılmış üretim için kullanım durumları ve uygulama seçenekleri;
• Siber güvenlik operasyonlarında yapay zeka araçlarının rolü.

NYU’da bilgi yönetimi ve veriye odaklanan Lodge, aynı zamanda Skidaway’in kurucu ortağı ve CTO’su olarak görev yapmaktadır. 15 yıldan uzun süredir finansal hizmetler sektöründe çalışmakta olup JP Morgan Chase, New York Federal Rezerv Bankası, Bloomberg ve Goldman Sachs’ta siber güvenlik, veri bilimcisi ve liderlik rolleri üstlenmiştir.