Trustwise, üretken ve ajanik AI sistemlerinin filolarını dağıtan işletmeler için tasarlanmış bir çalışma zamanı güven katmanı ve kontrol kulesi olan Harmony AI’yı tanıttı.
Harmony AI, “kod olarak güven” yi doğrudan AI sistemlerine yerleştirir, CISO’ları, geliştiricileri ve AI liderlerini AI dağıtımlarını ölçeklendirdikçe güvenlik risklerinden korumalarını sağlar.
Son iki yılda önde gelen finansal ve sağlık kurumları ile birlikte geliştirilen Harmony AI, kurumsal sınıf güvenlik ve üretimde kontrol sağlayarak, kurumsal güvenliği, uyumluluk ve marka politikalarıyla% 90-100 çalışma süresi uyumu sağlayarak, temel sistemlerden% 40 daha fazla halüsinasyon ve politika ihlali tespit ederek, AI operasyonel maliyetleri ve karbonla% 64 oranında AI operasyonel maliyetleri ve karbon emişleri.
“Sağlık İnovasyon Ağı’ndaki misyonumuz, sağlıktaki sorumlu yeniliğin en iyisini bulmak, test etmek, uygulamak ve ölçeklendirmektir. Güvenilirlikle ortaklık yapmak, bölgemizdeki sağlayıcılarla güvenle, güvenlik, güvenlik ve uyumluluk standartlarını karşılayan bir güven katmanı tarafından desteklenen güvenle desteklememize olanak tanır. Surrey Sussex.
Geleneksel Güvenlik Modelleri Ajan AI Tehditlerine Karşı Başarısız
Otonom ajanların kurumsal olarak benimsenmesi patlıyor. Gartner, kurumsal yazılım uygulamalarının% 33’ünün ajan yapay zeka içereceğini ve günlük çalışma kararlarının en az% 15’inin AI ajanları aracılığıyla özerk bir şekilde verileceğini tahmin ediyor. Ajanların geliştirici kullanımı da artmaktadır ve IBM tarafından ankete katılan geliştiricilerin% 99’u AI ajanlarını araştırır veya inşa eder. Ancak, kurumsal yığın hazır değil.
AI ajanları öngörülemez hareket eder, kaos, maliyet ve uyum riskini güçlendirerek verileri aşırı harcar ve sızdırmaz. Bir sonraki içeriden gelen tehditlerdir: taklit edilmemiş, derinden gömülü ve makine hızında çalışıyor.
Herkes kod yazarlarından kopilotlara kadar ajanlar oluşturabilir, ancak çok azı bunları güvence altına alabilir ve kontrol edebilir. Gözlemlenebilirlik ve hızlı filtreleme gibi mevcut araçlar, hızlı enjeksiyonları, araç zinciri istismarlarını veya acentenin davranışını ele geçiren mesaj uzlaşmasını durduramaz. AI-SPM olmadan işletmeler kör uçuyor.
Trustwise CEO’su ve kurucusu Manoj Saxena, “AI ajanları dönüştürücüdür, ancak korumasız ajanlar yeni bir içeriden tehdit sınıfı sunuyor” dedi. “Tıpkı insan çalışanları gibi, gözetim ve çalışma zamanı uygulanması gerektiriyorlar. Harmony AI, geliştiricilere hız, güvenlik ekipleri kontrolü ve işletmelere AI’yi güvenli bir şekilde ölçeklendirme güvenini verirken, çalışma zamanında dijital işçileri güvence altına alarak eksik güven katmanını sağlıyor.”
Harmony AI kalkanları AI davranışı için modüler savunma sağlar
Harmony AI, herhangi bir model, ajan veya bulutta hem üretken AI hem de ajanik AI yığınlarını sabitleyen ve kontrol eden altı modüler kalkan aracılığıyla fiş ve koruyucu güvenlik sağlar.
Varsayılan olarak çalışma zamanı için oluşturulan ve ölçeklendirmek için tasarlanan aşağıdaki kalkanların her biri bağımsız olarak çalışabilir veya katmanlı bir savunma sistemi olarak birlikte çalışabilir, geliştiricilere ve güvenlik ekiplerine gerçek zamanlı olarak AI davranışı üzerinde tam görünürlük ve kontrol sağlar:
- MCP Kalkanı: Araç kötüye kullanımı ve yetkisiz otomasyonu engellemek için model bağlam protokollerini (MCP) kullanarak aracı tool yürütülmesini korur
- Hızlı kalkan: Dinamik Hızlı Seviye Korumalarla Enjeksiyon Saldırılarını, Halüsinasyonları ve Politika dışı Çıkışları Önler
- Uygunluk kalkanı: AI davranışını ISO 42001, NIST Risk Yönetimi Çerçevesi, AB AI ACT, HIPAA ve FCA dahil 17 küresel standartla hizalar
- Marka kalkan: Marka tonunu, kişiyi korur ve tüm ajan çıktılarında vaka disiplini kullanır
- Maliyet Kalkanı: Modeller arasında akıllıca yönlendirerek, token kullanımını kontrol ederek ve bütçe patlamalarını yönlendiren özyinelemeli döngüleri önleyerek işletme maliyetlerini azaltır
- Karbon kalkan: ISO/IEC 21031: 2024 SCI Standartları ile hizalanan enerji tasarruflu model seçimi, karbon farkında planlama ve gerçek zamanlı emisyon izleme yoluyla karbon ayak izini azaltır
“Geliştiriciler artık sadece metni güvence altına almıyor, eylemleri güvence altına alıyorlar,” dedi. “Bu, hem geliştiricilerin hem de güvenlik ekiplerinin ajanların nasıl düşündüklerini, karar verdiğini ve harekete geçmesine yardımcı olan gerçek zamanlı kontroller talep ediyor. Harmony AI bir çalışma zamanı kalkan görevi görüyor, doğrudan karar döngüsünde güvenlik ve kontrolü zorluyor ve ajanların yoldan çıkmadan önce kaymayı önlüyor.”
Harmony AI kalkanları, endüstriye özgü kırmızı takıming veri kümelerini, düşük gecikmeli performans için tasarlanmış küçük dil modellerini (SLMS), sentetik kişiler ve OWASP, ISO, NIST ve AB AI eyleminden 1.100’den fazla haritalı kontrolü birleştiren tescilli güvenilir AI-SPM motoru tarafından güçlendirilir.
Gerçek dünyadaki AI ortamları için inşa edilmiş
Harmony AI, en iyi finans ve sağlık işletmeleri ile üretimde yaşıyor ve şu anda güvenilir müşteriler ve OEM ortakları seçmek için özel önizlemede sunulmaktadır. Sorunsuz bir şekilde entegre olmak için inşa edilmiştir:
- Ajan çerçeveleri: Langgraph, Autogen, Crewai ve Langchain
- Temel Modeller: GPT-4O, Claude, Gemini, Lama 3 ve Mistral
- Altyapı: AWS, Azure, GCP, Şirket içi ve Edge