VMware, üretken yapay zeka (AI) çağına yönelik özel bulut altyapısını etkinleştirmek için Nvidia ile stratejik ortaklığını genişletti.
Yeni VMware Private AI Foundation’ı Nvidia ile birlikte, işletmelerin modelleri özelleştirmesine ve akıllı sohbet robotları, asistanlar, arama ve özetleme dahil olmak üzere üretken AI uygulamalarını çalıştırmasına olanak tanıyan bir platform olarak konumlandırıyor.
VMware, platformun kuruluşların VMware Cloud Foundation üzerine kurulu ve yapay zeka için optimize edilmiş Nvidia’nın hızlandırılmış bilişimini kullanarak veri merkezli temel modellerini özelleştirmesine olanak tanıdığını söyledi.
Şirketin VMware Explore 2023 etkinliğinde konuşan VMware CEO’su Raghu Raghuram, üretken yapay zeka ve çoklu bulutun mükemmel bir uyum olduğunu söyledi. “Nvidia ile birlikte, kurumsal veri gizliliği, güvenlik ve kontrol endişelerini giderirken, işletmelerin üretken yapay zeka iş yüklerini verilerinin yanında güvenle çalıştırmalarına olanak sağlayacağız” dedi.
Nvidia’nın kurucusu ve CEO’su Jensen Huang, şirketin BlueField-3 DPU’larının sanallaştırma, ağ oluşturma, depolama, güvenlik ve diğer bulut tabanlı yapay zeka hizmetlerinin bilgi işlem yükünü grafik işlem biriminden (GPU) veya merkezi işlemeden hızlandırdığını, boşalttığını ve izole ettiğini söyledi. birim.
“VMware ile genişletilmiş işbirliğimiz, finansal hizmetler, sağlık hizmetleri, üretim ve daha fazla alanda yüz binlerce müşteriye, kendi verileriyle oluşturulan özel uygulamaları kullanarak üretken yapay zeka potansiyelini açığa çıkarmak için ihtiyaç duydukları tam kapsamlı yazılım ve bilgi işlemi sunacak.” dedi.
Büyük dil modelleri genellikle hızlandırma için GPU’larla donatılmış birden fazla bilgisayarda çalıştığından, VMware ürün ailesi BT departmanlarına bu karmaşık dağıtılmış sistemlerdeki iş yüklerini düzenleme ve yönetme yolu sunar.
Platform, kuruluşların büyük dil modellerini özelleştirmesine olanak tanıyan üretken yapay zekaya yönelik bir yaklaşım olarak konumlandırılıyor; iç kullanımları için daha güvenli ve özel modeller üretebilecek; ve kullanıcılara bir hizmet olarak üretken yapay zeka sunuyoruz. Ayrıca çıkarım iş yüklerini güvenli bir ortamda geniş ölçekte çalıştırmak için tasarlanmıştır.
Platformun yanı sıra Nvidia, aralarında L40S GPU’lar, Nvidia BlueField-3 DPU’lar ve Nvidia AI Enterprise yazılımının da bulunduğu bir dizi yapay zekaya hazır sunucuyu duyurdu. Şirket, VMware Private AI Foundation’ı Nvidia ile güçlendirecek altyapı ve yazılımı sağlamanın yanı sıra, sunucuların üretken AI temel modellerine ince ayar yapmak ve akıllı sohbet robotları, arama ve özetleme araçları gibi üretken AI uygulamalarını dağıtmak için de kullanılabileceğini söyledi.
L40S GPU’lar, dördüncü nesil Tensor Çekirdekleri ve Nvidia’nın, A100 Tensor Core GPU’su ile karşılaştırıldığında 1,45 petaflop tensör işlem gücü ve 1,7 kata kadar eğitim performansı sunabildiğini iddia ettiği bir FP8 Transformer Engine’i içeriyor.
Akıllı sohbet robotları, asistanlar, arama ve özetleme gibi üretken yapay zeka uygulamaları için Nvidia, L40S’nin A100 GPU’ya göre 1,2 kata kadar daha üretken yapay zeka çıkarım performansı sağladığını söyledi.
Nvidia, BlueField DPU’larını entegre ederek sunucuların sanallaştırma, ağ oluşturma, depolama, güvenlik ve diğer bulut tabanlı yapay zeka hizmetlerinin bilgi işlem yükünü boşaltıp yalıtarak daha fazla hızlanma sunabileceğini söyledi.
Dell, HP ve Lenovo, VMware platformunu desteklemek için yeni donanımlar geliştirdiler. Nvidia yapay zekaya hazır sunucular arasında Dell PowerEdge R760xa, Nvidia ile VMware Private AI Foundation için HPE ProLiant Gen11 sunucuları ve Lenovo ThinkSystem SR675 V3 yer alıyor.