Nvidia CEO’su veri merkezlerinde ‘Yapay zeka üretim fabrikalarına’ geçiş görüyor


Nvidia’nın veri merkezi işi tek bir yılda %409 büyüme bildirdi. Şirketin CEO’su Jensen Huang, bunu veri merkezlerinin çalıştırılma biçimindeki bir değişim olarak gördüğü şeye bağlıyor.

28 Ocak 2024’te sona eren çeyreğe ilişkin kazanç çağrısı sırasında Huang, veri merkezlerinde genel amaçlı bilgi işlemden hızlandırılmış bilgi işleme geçişten bahsetti. Seeking Alpha’da yayınlanan kazanç açıklamasına göre Huang, genel amaçlı bilgisayarların gücünün tükendiğine inanıyor.

“CSP’lerden anlayabilirsiniz [cloud service providers] ve bizimki de dahil olmak üzere birçok veri merkezi amortismanı dört yıldan altı yıla çıkarıyor” dedi. “Eskiden olduğu gibi verimi temel ve önemli ölçüde artıramazsanız, daha fazla CPU ile güncelleme yapmanın hiçbir anlamı yok.”

Huang, yalnızca genel amaçlı bilgi işlem kullanarak gelişmiş verimi sürdürmenin artık mümkün olmadığını söyledi. Hızlandırılmış bilgi işlemin, veri merkezi operatörlerinin enerji verimliliğini ve veri işleme maliyetini 20’ye 1 oranında artırmasına olanak tanıdığını iddia etti.

Huang, üretken yapay zekanın (GenAI) veri merkezinde yeni bir uygulama olduğunu söyledi. “Yazılım yapmanın yeni bir yolunu mümkün kılıyor. Yeni yazılım türleri oluşturuluyor. Bu yeni bir hesaplama yöntemidir. Geleneksel genel amaçlı bilgi işlemde üretken yapay zeka yapamazsınız. Hızlandırmanız gerekiyor.

“İlk kez bir veri merkezi yalnızca veri hesaplamak, veri depolamak ve bir şirketin çalışanlarına hizmet vermekten ibaret değil. Artık yapay zeka üretimiyle ilgili yeni bir tür veri merkezimiz var: Yapay zeka üretim fabrikası.”

“Artık yapay zeka üretimiyle ilgili yeni bir tür veri merkezimiz var: Yapay zeka üretim fabrikası”

Jensen Huang, Nvidia

Huang’a göre, hızlandırılmış bilgi işlem talebi farklı endüstri sektörlerinde genişliyor. “Veri merkezi platformumuz, büyük bulut hizmet sağlayıcılarından ve GPU konusunda uzmanlaşmış sağlayıcıların yanı sıra kurumsal yazılım ve tüketici internet şirketlerinden gelen veri işleme, eğitim ve çıkarım talepleri gibi giderek daha fazla çeşitlilik gösteren faktörler tarafından desteklenmektedir. Otomotiv, finansal hizmetler ve sağlık hizmetlerinin başını çektiği dikey endüstriler artık milyarlarca dolar seviyesinde.”

Şirketin büyüme fırsatları arasında, grafik işlem birimlerini (GPU’lar) kullanarak hızlandırılmış bilgi işlem için bir yazılım platformu olan Nvidia AI Enterprise da yer alıyor. Huang’a göre GPU başına yıllık 4.500 dolar maliyeti var ve yıllık 1 milyar dolar kazanç elde etmesi bekleniyor.

“Tahminimce, tüm bulutlarda, özel bulutlarda ve şirket içinde yazılım dağıtan dünyadaki her kuruluş, her yazılım şirketi şirketi, Nvidia AI Enterprise üzerinde çalışacak” dedi.

Huang, işletmelerin yazılım yığınlarını genel bulutlarda, özel bulutlarda ve şirket içi veri merkezlerinde çalışacak şekilde muhafaza edebilecek ve optimize edebilecek kadar büyük mühendislik ekiplerine sahip olmadıklarını iddia etti. “Tüm yazılım yığınları için yönetimi, optimizasyonu, yamalamayı, ayarlamayı ve kurulu taban optimizasyonunu yapacağız. Ve bunları yığınımıza konteynırlara yerleştiriyoruz. Nvidia AI Enterprise, yapay zekaya yönelik bir işletim sistemi gibidir” diye ekledi.

Dördüncü çeyrek kayıtları, Nvidia’nın işini tek bir çeyrekte %22 artırarak 22 milyar dolara çıkardığını gösterdi; bu da bir önceki yıla göre %265 artış anlamına geliyor. Nvidia, 2024 mali yılı için %126 artışla 60,9 milyar dolar gelir bildirdi.

Üç aylık sonuçlar hakkında yorum yapan Nvidia’nın finans şefi Colette Kress, veri merkezi işinin performansındaki %409’luk artışın, büyük dil modellerinin eğitimi ve çıkarımı için kullanılan Nvidia Hopper GPU bilgi işlem platformunun daha fazla sevkiyatından kaynaklandığını söyledi. motorlar ve GenAI uygulamaları. Yüksek hızlı ara bağlantısı olan InfiniBand da veri merkezi işindeki büyümeye katkıda bulundu.

Kendisi yaptığı açıklamada, “Dördüncü çeyrekte büyük bulut sağlayıcıları veri merkezi gelirimizin yarısından fazlasını temsil ederek hem dahili iş yüklerini hem de harici müşterileri destekledi” dedi. “Güçlü talep, kurumsal yazılım ve tüketici internet uygulamalarının yanı sıra otomotiv, finansal hizmetler ve sağlık hizmetleri de dahil olmak üzere çok sayıda endüstri kolundan kaynaklandı.”

Kress, ABD’nin ihracat kısıtlamaları nedeniyle Çin’deki veri merkezi GPU satışlarının “önemli ölçüde düştüğünü” ekledi.



Source link