eSentire Labs, güvenlik ekiplerine çevrelerindeki ChatGPT ve diğer Büyük Dil Modellerinin kullanımını izlemek için görünürlük ve kontrol sağlayan açık kaynaklı bir uygulama çerçevesi olan eSentire LLM Ağ Geçidini duyurdu. LLM Ağ Geçidi GitHub’da mevcuttur.
Şirket, LLM Ağ Geçidinin başlangıçta ChatGPT, Google Bard ve diğer LLM’lerin kurumsal kullanımını yönetmek ve izlemek amacıyla dahili eSentire kullanımı için geliştirildiğini söyledi. eSentire Labs başkan yardımcısı Alexander Feick, yaptığı açıklamada, güvenlik operasyonları merkezi ve tehdit yanıt ekiplerinin, kimlik avı ve kimliğe bürünme saldırılarından daha karmaşık olan LLM tabanlı saldırıları tanımlamak için kullanılabilecek telemetriye erişime sahip olduğunu söyledi.
Açık kaynaklı proje, BT yöneticilerine kurumsal politikalar, kullanım kuralları ve istemler dahil olmak üzere kendi güvenlik kontrollerini entegre etme ve uygulama yeteneği sağlar.
eSentire’e göre LLM Ağ Geçidi, kurumsal veriler ile yapay zeka uygulamaları arasında koruyucu bir katman oluşturuyor ve LLM’lerle olan tüm etkileşimi günlüğe kaydediyor. İzleme ve güvenlik kontrollerini geliştirmek için tüm etkileşimler günlüğe kaydedilir. Eklentiler, BT yöneticilerine LLM kullanımının nasıl görselleştirileceği ve izleneceği konusunda öneriler sağlar.
Feick, şirketin LLM hizmet teklifi için eksiksiz bir yönetimli tespit ve yanıt sunmayı planladığını söyledi.