Ebryx, üretim ortamlarında büyük dil modellerini (LLMS) ve otonom AI ajanlarını korumak için tasarlanmış bir dizi özel güvenlik hizmeti olan LLMSEC’i başlattı.
AI Builders için yeni risk manzarası
Openai tabanlı copilotlardan Langchain veya Crewai ile inşa edilen otonom ajanlara kadar LLMS, gelişmeyi devrim yaratıyor. Ancak karmaşıklıkları benzersiz güvenlik açıkları getirir:
- Hızlı Enjeksiyon ve Jailbreaking – Kötü niyetli istemler model davranışını kaçırabilir
- Veri Sızıntısı – Model çıktıları aracılığıyla maruz kalan hassas bilgiler
- Ajan Kötüye Kullanımı – Yetkisiz veya İstenmeyen Kararlar Veren AI Ajanları
- Model Tedarik Zinciri Riskleri-Geri yüklenmiş veya tehlikeye atılmış açık kaynaklı modeller
- Uyum Boşlukları – GDPR, HIPAA ve ISO 42001 ile uyumlu zorluklar
Ebryx CEO’su Ahrar Naqvi, “AI ekipleri hızlı hareket ediyor-ancak çoğu zaman ihtiyaç duydukları korkuluklar olmadan,” dedi.
LLMSEC: AI Mcurity için Modüler, Uzman Ledaryolu Hizmetler
LLMSEC, doğrudan bir ekibin Yazılım Geliştirme Yaşam Döngüsü (SDLC) ve GENAI altyapısına entegre olan esnek bir AI-yerli güvenlik hizmetleri yelpazesi sunar.
Hizmetler şunları içerir:
- Hızlı ve Giriş Koruması-Düşmanca istemlere ve jailbreaking’e karşı gerçek zamanlı savunmalar
- Temsilci Erişim Kontrolü – Komuta izinlerinin ve güvenlik sınırlarının uygulanması
- Davranış İzleme – LLM çıkışlarının ve model yanıtlarının sürekli denetimi
- Güvenli Model Entegrasyonu – API’lar, Vektör Mağazaları ve Orkestrasyon Katmanları için Koruma
- Gizlilik ve Uyum İzleme – PII Tarama ve Düzenleyici Hizalama Yardımı
- 7/24 Tehdit Tespit ve Yanıt-Uzman iyileştirme ile gerçek zamanlı uyarılar
LLMSEC, geniş çapta tanınan güvenlik en iyi uygulamaları ve içgörüler üzerine kurulmuştur. LLMS ve NIST SP 800-218A için OWASP Top 10ana hatlarıyla belirtilen düşman taktikleri tarafından bilgilendirildi MITER ATLAS.
Uyacak şekilde üretilen üç paket
LLMSEC hizmetleri üç ölçeklenebilir pakette mevcuttur:
- Başlangıç kalkanı – AI pilotları ve MVP’ler için
- Büyüme bekçisi -Üretime hazır takımlar için
- Kurumsal kenar -Güvenlik açısından kritik veya düzenlenmiş ortamlar için