Cytex, veri kaybını önleme (DLP) özelliklerine sahip bir LLM güvenlik duvarı olan Aicenturion’u başlattı. LLM’lerin işletmelerin süreçlerini ve veri işlemesini doğrudan kontrol etmesini engelledikçe Cenai’nin riskleri artmaktadır.
AICenturion, AI model keşfi, veri kaybı önleme, tehdit azaltma ve uyum çerçevesi politikası uygulanmasını sağlayarak işletmelerin ihtiyaç duyduğu güven, risk ve güvenlik yönetimini sağlar.
Cytex CEO’su Andrew Surwilo, “LLM’lerin patlayıcı olarak benimsenmesiyle, yeni bir risk sınırının ortaya çıktığını görüyoruz: LLM’lere yüklenen hassas verilerin, veri sızıntılarına, hızlı enjeksiyonlar ve model hırsızlığı.” Dedi. “Aicenturion sadece bir araç değil; stratejik bir kolaylaştırıcı. Geleneksel güvenlik çözümlerinin göremediği tehditlere karşı savunmayı sürdürürken işletmelerin AI’dan yararlanmasına izin veriyor. Misyonumuz AI’yı bir sorumluluk değil, güvenilir bir ortak yapmak.”
Aicenturion, LLM güvenlik açıklarının risk azaltılmasını sağlar:
- İşletme boyunca LLM ve AI modellerinin tespiti
- Farklı roller için politika uygulama ve kabul edilebilir kullanıma bağlılık
- Belirtilen hedeflere karşı kullanımını izleyin ve kullanım parametrelerini ayarlayın
- OWSAP Top LLM güvenlik açıklarının kapsamı:
- Hassas Veri Açıklama (LLM01): Pii, phi ve cui’nin LLM istemleri veya çıkışlarından sızmasını belirleyin ve engelleyin.
- Hızlı enjeksiyon (LLM02): Veri eksfiltrasyonu ve kötü niyetli enjeksiyon saldırıları için istemleri gözden geçirin.
- Yetersiz erişim kontrolleri (LLM03): RBAC Politika Uygulaması, kullanıcıların yalnızca rolleriyle tutarlı verileri görüntülemelerine izin verilmesini sağlar.
- Güvensiz Çıktı İşlemesi (LLM04):Hassas ve kötü niyetli içerik için LLM çıkışlarını izleyin ve filtreleyin. Otomatik veri redaksiyonu, LLM’nin üretilen riskli içeriğin oluşturulmasını sağlar ve kötü amaçlı içerik filtrelenir.
- LLM OTPUTS (LLM06) ‘da aşırı bağımlılık:LLM’nin yetkili senaryolar ve kullanıcılar için kullandıkları rollerine göre, doğrulanmamış çıktılara aşırı güvenme şansını azaltır.
- Model hırsızlığı (LLM07): Bulut güvenlik duruş yönetimi ve kullanım deseni analizi ile birlikte güçlendirilmiş bir güvenlik duvarı LLM fikri mülkiyeti hedefleyen pessfiltrasyon girişimlerini engellemektedir.
- Aşırı Ajans (LLM08): Rol temelli politikalar, LLM’lerin yalnızca onaylanmış sınırlar içinde hareket etmesini ve yetkisiz kararları engellemesini sağlar.
- Tedarik zinciri güvenlik açıkları (LLM09): Cytex Platform’un SBOM ve SCAT Analizi Geliştirme Süreçleri Entegre Geleneksel Yazılım Tedarik Zinciri ve Model Eklentileri içindeki güvenlik açıklarının tanımlanmasını sağlar.
- Hizmet reddi (LLM10): Saldırı yüzeyini sınırlandırarak aşırı yük denemelerini algılayan ve engelleyen uygulama güvenlik tekniklerini kullanan proaktif azaltma uygulama güvenlik tekniklerini kullanır.
Dahili AI araçlarını korumak
AiCenturion, kuruluşları iç aracı AI araçlarının ortaya koyduğu risklerden koruyarak dış tehditlerin ötesine geçer. Politika uygulaması ve bağlamsal farkındalığı sayesinde AICenturion, yetkisiz dahili kullanıcıları önleyen kullanıcı rollerine dayanarak, sıralama ve dosya çalışanlarından yöneticilere, yapay zeka etkileşimleri yoluyla gizli bilgileri ortaya çıkarmasını engelleyen hassas verilere erişimi kısıtlar.
Sosyal Güvenlik numaralarının bir AI modeli tarafından işlenmesini engelliyor, isterse organizasyon politikalarına veya veri gizlilik çerçevelerine uyumu sağlıyor olsun, Aicenturion dahili AI araçlarını kontrol altında tutar.
Aicenturion, Cytex Unified Direnç Platformunun çalışma zamanı korumaları ile birlikte, üretim ortamlarında yaptırımlı LLM’ler kullanan kuruluşlar için ideal bir uyum haline getiriyor.
Cytex CTO’su Taimur Aslam, “Aicenturion, AI’yi inovasyon ve risk kavşaklarında nasıl güvence altına aldığımızı yeniden tanımlıyor” dedi. “Gerçek zamanlı izleme ve DLP yeteneklerimiz, LLM’ler için dijital bir bağışıklık sistemi gibi davranıyor-sürekli tarama, filtreleme ve tehditlere uyum sağlama, ister dış saldırganlardan veya copilot gibi iç araçlardan.
Lansman çok önemli bir anda geliyor. LLM’ler müşteri hizmetinden stratejik karar almaya kadar her şeyi güçlendirirken, güvenlik için riskler hiç bu kadar yüksek olmamıştı. Aicenturion’un uyumluluk uygulama, fikri mülkiyeti koruma, doğrulanmamış çıktılara karşı aşırı güvenini önleme ve iç AI dağıtımları, onu cisos, uyumluluk görevlileri ve bu keşfedilmemiş bölgeye yönlendiren BT liderleri için bir zorunluluk olarak konumlandırıyor.