Inpher, büyük dil modellerinde kullanıcı girişlerinin gizliliğini ve güvenliğini koruyan bir çözüm olan SecurAI’yi piyasaya sürdü. SecurAI’nin bu sürümü, maksimum hız ve performans için NVIDIA H100 Tensor Core GPU’dan yararlanıyor.
NVIDIA Ürün Güvenliğinden Sorumlu Başkan Yardımcısı Daniel Rohrer, “Şirketlerin üretken yapay zekanın gücünden yararlanırken bunu iş süreçlerine sorunsuz ve güvenli bir şekilde dahil etmeleri gerekiyor” dedi. “Inpher’ın SecurAI’si, NVIDIA’nın gizli bilgi işlem teknolojisiyle birleştiğinde, kuruluşların gelişmiş veri kullanımı ve iş üretkenliği için gizli GPU’ları kullanmalarına olanak tanıyor.”
Gizli GPU’larla desteklenen SecurAI’nin merakla beklenen bu sürümü aynı zamanda erişimle artırılmış üretimi (RAG) de entegre ediyor. SecurAI, kullanıcı istemlerinin hiçbir zaman model sağlayıcıya maruz kalmamasını sağlarken kuruluşların Slack, Zendesk, Salesforce, Snowflake ve diğerleri gibi temel iş hizmetleri, veri kaynakları ve uygulamalarla sorunsuz bir şekilde entegre olarak model çıktılarını iyileştirmesine olanak tanır. SecurAI ayrıca kurumsal kullanıcıların, güvenli RAG’den yararlanarak kurumsal ihtiyaçlarına göre kendi dosyalarını yüklemelerine olanak tanır.
Inpher CEO’su Dr. Jordan Brandt, “Güvenlik, her işletmenin üretken bir yapay zeka dağıtım stratejisi oluştururken dikkate alması gereken kritik bir unsurdur” dedi. “Gizliliğe ve yapay zekanın sorumlu kullanımına olan bağlılığımız ekibimizin temelini oluşturuyor ve NVIDIA ile yakın işbirliği içinde çalışarak en sağlam, kurumsal kullanıma hazır üretken yapay zeka çözümünü sunuyoruz.”
Inpher SecurAI, kullanıcıların yapay zekadan ve istemlerin modelden ve/veya bulut hizmet sağlayıcısından korunması gereken hassas veriler içerebileceği açık modellerden yararlanmaya çalışırken karşılaştıkları gizlilik ve güvenlik endişelerini giderir. Alınan istemlerin karmaşık ayrıntıları ve ardından gelen veri işlemleri, temel altyapıdan izole edilmiş bir Güvenilir Yürütme Ortamı içerisinde gerçekleşir.
Bu izolasyon, hassas bilgileri koruyarak, özel iş verileri, kişisel ayrıntılar veya diğer gizli bilgiler gibi kullanıcı girdilerinin ayrıntılarının, SecurAI’nin kendi barındırma altyapısı da dahil olmak üzere harici kuruluşlar tarafından erişilemez kalmasını sağlar.
SecurAI, kullanıcı girişlerinin ve veri işlemenin karmaşık ayrıntılarını korumalı bir alanda tutarak veri ihlali, sızıntı veya yetkisiz erişim riskini önemli ölçüde azaltır ve bu da onu IP’nin ve gizliliğin korunması için güçlü bir seçim haline getirir. SecurAI’nin veri koruma ve gizliliğe ayrı bir şekilde odaklanması, verilerinin ve fikri mülkiyet haklarının gizliliğini vurgulayan kuruluşlar için güvenli bir seçim sunar. SecurAI ile kullanıcılar, gizlilikten ödün vermeden büyük dil modellerini kuruluşlarına dahil edebilir.