New Relic, yapay zeka uygulamaları geliştiren kuruluşların değişen ihtiyaçlarını karşılamak için bir dizi yeni özellik içeren New Relic yapay zeka izlemeyi duyurdu.
Yeni özellikler arasında, yapay zeka uygulama performansının, kalitesinin ve maliyetinin sürekli olarak iyileştirilmesine yardımcı olmak için gerçek zamanlı kullanıcı geri bildirimi ve model karşılaştırması ile birlikte derinlemesine yapay zeka yanıt izleme öngörüleri yer alıyor; tüm bunlar olurken veri güvenliği ve gizliliği de sağlanıyor.
60’tan fazla entegrasyonla New Relic AI izleme, kuruluşların AI uygulama sorunlarının temel nedenini daha hızlı bulmasına yardımcı olur, AI’yı benimsemelerini ilerletir ve onları AI yolculuklarının her aşamasında destekler.
New Relic Baş Müşteri Sorumlusu Arnie Lopez, “Müşteri tabanımızdaki CIO’lar, CTO’lar ve yöneticilerle yaptığım görüşmelere dayanarak, her şirketin işlerini yapay zeka ile nasıl ölçeklendireceğini düşündüğü açık” dedi. “Yapay zekanın benimsenmesi maliyetli olabilir ve yığınlarına karmaşıklık katabilir. BT ve teknoloji liderleri New Relic’e yöneliyor çünkü yapay zekanın heyecan verici geleceğinde güvenle gezinmelerine, performansı ve kaliteyi optimize etmelerine, maliyetleri kontrol etmelerine ve sonuçta olağanüstü müşteri deneyimleri sunmalarına yardımcı olmak için gözlemlenebilirlik çok önemli.”
Kuruluşlar, müşterilerine daha iyi dijital deneyimler sunmak için yapay zekayı benimseme konusunda istekli. Gartner’a göre işletmelerin %80’inden fazlası 2026 yılına kadar üretken yapay zeka API’leri kullanmış veya üretken yapay zeka destekli uygulamaları devreye almış olacak. Yapay zekaya yönelik güçlü ve büyüyen bir talep olmasına rağmen kuruluşlar, yapay zekanın karmaşıklığı nedeniyle yapay zekayı teknoloji yığınlarına dahil etmekte zorlanıyor. tanıtıyor.
Yeni Relic AI izleme, bu zorluğu doğrudan ele alıyor ve geri kalan performans verilerinin yanı sıra tüm AI ekosisteminin birleşik bir görünümünü sağlayarak kuruluşların AI yığınlarındaki karmaşıklıkları yönetmelerini kolaylaştırıyor.
Temel özellikler şunları içerir:
- Otomatik enstrümantasyon: Yeni Relic aracıları; Python, Node.js, Ruby, Go ve .NET dillerinde OpenAI, AWS Bedrock ve LangChain gibi popüler çerçeveler için kolay kurulum sunar.
- Tam AI yığın görünürlüğü: İstek sayısı, yanıt süresi ve belirteç kullanımı gibi yapay zeka ölçümleri de dahil olmak üzere uygulama, altyapı ve yapay zeka katmanı genelinde bütünsel görünüm.
- Son kullanıcı geri bildirimiyle yapay zeka yanıt görünümü: Yapay zeka yanıtlarındaki eğilimleri ve aykırı değerleri hızla belirleyin, duyarlılığı analiz edin ve tek bir birleştirilmiş görünümde kullanıcı geri bildirimlerini görün.
- Her yanıt için derin izleme öngörüleri: Önyargı, toksisite ve halüsinasyonlar gibi performans ve kalite sorunlarını düzeltmek için LangChain gibi araçlarla yapay zeka yanıtlarının yaşam döngüsünü izleyin.
- Gelişmiş veri güvenliği: Yapay zeka isteklerinizdeki ve yanıtlarınızdaki hassas verileri (PII) izlemenin dışında bırakarak kurumsal güvenlik ve uyumluluk politikalarınızı koruyun.
- Model karşılaştırması: İhtiyaçlarınıza en uygun modeli seçmek için üretimde çalışan temel modellerin performansını ve maliyetini tek bir görünümde karşılaştırın.
- Hızlı başlangıç entegrasyonları: NVIDIA GPU’lar gibi kritik bileşenler ve Pinecone, Weaviate ve daha fazlası gibi vektör veritabanları için 60 entegrasyonla AI ekosistemini izlemeye yönelik en kapsamlı çözümlerden biri.