WhyLabs yeni bir tür yapay zeka operasyon platformu başlattı: Yapay Zeka Kontrol Merkezi. Ekiplere yapay zeka uygulamaları üzerinde gerçek zamanlı kontrol sunan yeni platform, geleneksel gözlemlenebilirlik araçlarını yapay zekanın sorumlu bir şekilde çalıştırılmasında yetersiz kılan GenAI’nin oluşturduğu artan güvenlik ve güvenilirlik tehditlerine yanıt olarak WhyLabs tarafından geliştirildi.
GenAI devrimi, işletmeler için bir dizi yeni zorluğu ve güvenlik açığını ortaya çıkardı. Ekipler, LLM’lerin anında enjekte edilmediğinden, gizli verileri sızdırmadığından ve güveni zedeleyebilecek yanıtlar üretmediğinden emin olmalıdır.
WhyLabs Yapay Zeka Kontrol Platformu, bu zorlukların üstesinden gelmek için kullanıcı istemlerinden, RAG bağlamından, LLM yanıtlarından ve uygulama meta verilerinden gelen verileri gerçek zamanlı olarak değerlendirerek potansiyel tehditleri ortaya çıkarır. WhyLabs, doğrudan çıkarım ortamlarında çalışacak şekilde optimize edilmiş düşük gecikme süreli tehdit algılayıcılarıyla ilgili maliyet, performans veya veri gizliliği endişeleri olmadan güvenliği en üst düzeye çıkarır.
WhyLabs CEO’su Alessya Visnjic, “Müşterilerimiz Üretken Yapay Zeka girişimlerini prototiplerden güvenlik ve kalitenin en önemli olduğu üretime taşıyor” dedi. “Pasif gözlemlenebilirlik araçları tek başına bu sıçrama için yeterli değil çünkü bir uygulamada jailbreak olayının meydana geldiğini öğrenmede 5 dakikalık bir gecikmeyi göze alamazsınız. Yeni güvenlik yeteneklerimiz, yapay zeka ekiplerine, %93 tehdit tespit doğruluğuyla 300 milisaniyenin altında bir sürede güvenli olmayan etkileşimleri önleyen korumalarla donatıyor.”
Yoodli CEO’su Varun Puri, “Yoodli, Üretken Yapay Zeka konuşma koçluğu uygulamamız aracılığıyla herkesin daha iyi bir iletişimci olabileceği bir gelecek inşa ediyor” dedi. “ WhyLabs Yapay Zeka Kontrol Platformu bize güvenebileceğimiz erişilebilir ve kolayca uyarlanabilir bir çözüm sunuyor. İletişim uygulamamız için yapay zeka kontrolünü beş kritik boyutta yürütmemize olanak tanıyan yeni yetenekler konusunda gerçekten heyecan duyuyoruz: kötü aktörlere karşı koruma, kötüye kullanım, kötü müşteri deneyimi, halüsinasyonlar ve maliyetler.”
“ WhyLabs, en önemli üretken yapay zeka girişimlerimizden bazılarında Glassdoor’un önemli bir ortağıdır. Glassdoor Makine Öğrenimi Mühendisliği, Platform ve Arama Direktörü Malathi Sankar, “LLM uygulamalarını güvenli ve güvenilir bir şekilde çalıştırmamıza olanak tanıyan WhyLabs Yapay Zeka Kontrol Platformunun piyasaya sürülmesinden heyecan duyuyoruz” dedi. “Sürekli izleme, güçlü korkuluklar ve LLM destekli uygulamalara ince ayar yapma yeteneğinin birleşimi, üretken yapay zeka yeteneklerini üretime getirmek için aradığımız türde bir yenilik.”
Şirketin birçok Fortune 500 şirketi tarafından kullanılan ve güvenilen gözlemlenebilirlik araçları üzerine inşa edilen yeni platform, yapay zeka uygulamaları üzerinde benzeri görülmemiş gerçek zamanlı kontrol sunuyor. Bu, mühendislik, güvenlik ve iş ekiplerinin üretken yapay zekanın sunduğu kritik riskleri önlemesine olanak tanır. Üretken yapay zeka uygulamaları için WhyLabs Yapay Zeka Kontrol Platformunu kullanan kuruluşlar aşağıdaki sonuçları elde ediyor:
- Güvenlik tehditlerinin önlenmesi: Kullanıcılar kötü aktörleri ve dışarıya dönük sohbet robotlarının ve Soru-Cevap uygulamalarının kötüye kullanımını tespit edebilir.
- Güvenli olmayan kullanıcı deneyimlerinin önlenmesi: Kullanıcılar yanlış, yanıltıcı, uygunsuz ve toksik çıktıları tespit edebilir.
- Kullanıma hazır ve özelleştirilebilir tehdit algılama kuralları: Özel olarak hazırlanmış kural setleri, kullanıcıların en gelişmiş tehdit algılayıcılarını dakikalar içinde çalıştırmasına olanak tanır. Bunun ötesinde, kullanıcılar tehdit algılayıcılarını özelleştirebilir, bunları sürekli olarak yeni örneklere göre ayarlayabilir ve uygulamayı güvenli davranışa yönlendiren sistem mesajlarını özelleştirebilir.
- Hızlı ve işbirliğine dayalı araştırmalar: Kullanıcılar, tespit edilen tehdit eğilimlerini ve açıklamalı uygulama izlerini analiz ederek sorunların temel nedenlerini belirleyebilir ve iyileştirme stratejileri geliştirebilir.
- Sürekli iyileştirmeleri destekleyin: Kullanıcılar, korumalar tarafından yakalanan ve açıklamalara eklenen uygulama etkileşimlerinden oluşturulan yüksek kaliteli veri kümeleri aracılığıyla model değerlendirmesini iyileştirebilir.
Bu yetenekler artık WhyLabs Yapay Zeka Kontrol Platformunda, tahmine dayalı model sağlığına yönelik mevcut çözümlerin yanı sıra mevcuttur. Block, Regions Bank ve Glassdoor gibi kuruluşlardan binlerce yapay zeka geliştiricisi, üretim makine öğrenimi modellerindeki sorunları önlemek ve yapay zeka destekli uygulamalarda yüksek kaliteli müşteri deneyimi sağlamak için WhyLabs’a güveniyor.