Nutanix, hiper bütünleşik altyapıyı (HCI) ölçeklendirmek için temel modeller ve yapay zeka çerçeveleri gibi yapay zeka (AI) yazılım yığını öğeleri ekleyen bir paket hizmet olan GPT-in-a-Box’ı piyasaya sürdü.
GPT-in-a-Box ayrıca, müşterilerin donanım (örneğin, GPU özellikleri) ve yapay zeka bileşenleri gibi yazılımlar açısından doğru altyapı yapılandırmasını belirleyebilmeleri için danışmanlık da sunar.
Nutanix, ilk lansmanı doğrudan müşterilerin şirket içi kullanım örneklerini hedef alacak, ancak buna uç iş yükleri de dahil olacak ve daha sonra buluta genişletme yapılacak.
Temelde Nutanix, yazılım öğelerinin yanı sıra donanım eklentilerinin karmaşık bir karışımını içerebileceğinden ve yapay zeka uygulamalarında gizlilik ve yönetişimle ilgili endişelerin yaygın olduğundan, müşterilerin yapay zeka için bir altyapı belirleme konusunda yardıma ihtiyaç duyduğuna inanıyor.
Nutanix’in ürün yönetiminden sorumlu kıdemli başkan yardımcısı Thomas Cornely, “Pek çok veriyi tüketen, oluşturan ve üreten etkinliktir” dedi. “Şirket içinde neler yapabileceğinizle ilgili tartışmalar genellikle gizlilik ve yönetişim etrafında çözülür.”
Nutanix, müşterilerin modelleri eğitmek ve yeniden eğitmek ve sonuçları uygulama geliştiricilere sunabilmek için donanım ve yazılım dağıtmasını beklediği “tam yığın yapay zekaya hazır platform” adını verdiği bir platform sunacak.
GPT-in-a-Box paketleri; Nutanix HCI, Nvidia GPU donanımı veya önerileri, Nutanix AHV hipervizörü, bir Kubernetes kapsayıcı katmanı, AI temel modelleri, KubeFlow, Jupiter ve PyTorch’u içerebilecek açık kaynaklı AI çerçeveleri ve derlenmiş bir Llama2, Falcom GPT ve MosaicML dahil olmak üzere tümü uygulama geliştirme için sunulan çıktıları sağlayacak büyük dil modelleri seti.
Nutanix’in teklifi, depolama dizisi üreticilerinin AI/ML kullanım durumlarını hedeflemeye yönelik en son çabasıdır ve açıkça sohbet formatı AI’ya olan ilgideki artışı yakalamayı amaçlamaktadır. Tüm büyük depolama üreticileri, bir analitik işleme kaynağı olarak yapılandırılmamış verilerin öne çıkmasındaki artışı ele aldı, ancak hepsi ürün paketlerini hedeflemede o kadar açık olmadı. Bir istisna, yakın zamanda piyasaya sürülen Vast Data Platform’u yapay zeka öğrenme düğümlerinden oluşan beyin benzeri küresel bir ağ olarak oluşturmak isteyen Vast Data’dır.
Bu arada, Nutanix GPT-in-a-Box yalnızca bir self servis devreye al ve çalıştır teklifi değildir. Cornely, “Bu, paketlenmiş bir teklif ve ölçeği küçültüp büyütebilir,” dedi. “Ancak örneğin GPU’lar ve müşteri gereksinimlerini desteklemek için gereken yazılım öğeleri hakkında bir danışmanlık aşaması var.”
Bu, temel olarak çekirdek veri merkezi veya uç konumlardaki sıfırdan yapılan dağıtımlarda başlatılan bir tekliftir. Mevcut Nutanix müşterileri, teorik olarak yapay zekaya hazır altyapılar oluşturabilir ancak yine de, örneğin GPU boyutlandırma konusunda danışmaları gerekir. Cornely, “Farklı bileşenlere ihtiyaçları var” dedi.
“Kendi altyapılarını yükseltebilirler, ancak birçok müşterinin başlamak için zamanı yoktur” dedi. “Ve sistemin farklı bölümleri için farklı bileşenler var. [machine learning] işlem. Önceden çok fazla danışmanlık var, ancak Nutanix’in, ‘Bu konuşlandırma için gerekli olan şey bu’ diyebilmeleri için bu tür şeyleri ortaya koyan kuruluşların başkanları ve başkan yardımcıları var.”
Cornely’ye göre birçok müşteri, modellere giren veriler ve çıktıktan sonra nereye gittiğiyle ilgili politikalardan yoksundur, bu nedenle şimdilik bu teklif, gizlilik, telif hakkı ve yönetişim konularını basitleştirmek için şirket içi dağıtımları hedefliyor.
“Şirket içi ve uç noktayı açıkça hedef alıyor ve müşterilerin ne için ödeme yaptıkları ve içine hangi verilerin girdiği konusunda tam kontrol sahibi olmalarını sağlıyor” dedi. “Bulut unsuru, temel modelleri almak, LLM’lere kaydolmak vb. ile sınırlıdır.”