PC sunucu üreticilerinin en son mali sonuçları, satışların yapay zeka (AI) ile hızlandırılmış sunuculara olan talebin arttığını gösteriyor. Üreticiler tedarik zinciri sorunları yaşamaya devam ettikçe bastırılmış bir talep var, ancak yapay zeka ile hızlandırılmış sunucuların dağıtımına yönelik projelerin beklenenden daha uzun sürmesi nedeniyle bu durum müşteriler için bir engel gibi görünmüyor.
HPE'nin sonuçları, yapay zeka eğitim iş yükleri için çalıştırılması gereken grafik işleme birimi (GPU) destekli sunucuların üretiminde birikmiş iş olduğunu gösteriyor, ancak müşterilerin dağıtımı için hazır sunucuları var.
HPE'nin Seeking Alpha'da yayınlanan 2024 ilk çeyreği kazanç açıklamasının metnine göre CEO Antonio Neri şunları söyledi: “Müşterilerin veri merkezi alanını hazırlamak biraz daha uzun sürdüğünden, ilk çeyrekten gelecek çeyreklere kayan birkaç anlaşmamız oldu. gücü ve soğutmayı hazır hale getiriyoruz.”
GPU tedarik sorunlarını “sıkı bir ortam” olarak nitelendirdi ancak “bazı iyileştirmeler görüldüğünü” söyledi.
Neri'ye göre HPE'nin hâlihazırda oluşturulmuş bir GPU tabanlı sunucu stoğu var, ancak “müşterilerin bu sistemleri kabul etmesi zaman alacak”. Ancak ilk çeyreğin sonu itibarıyla 3 milyar dolarlık birikmiş iş olduğunu söyledi.
Neri, HPE müşterilerinin GPU donanımlı sunucular için 20 haftadan fazla teslim süresiyle karşı karşıya olduğunu söyledi. Özellikle müşterilerin önceki nesil Nvidia GPU'lar olan H100 mimarisiyle donatılmış sunucuları benimsediklerini söyledi. “Bugün talebin çoğunluğu H100'de. İleride Grace Hopper H200 ve diğerlerine sahip olacağız.” Bunlar arasında AMD'nin yakın zamanda tanıtılan GPU'su Radeon Instinct MI300X'in yer alacağını söyledi.
Dell Technologies ayrıca GPU destekli sunuculara olan talebin arzı geride bırakmaya devam ettiğini de gördü. Üçüncü çeyrek raporunda Dell, geleneksel sunucularda ardı ardına büyüme yaşadığını bildirdi.
Dell Technologies başkan yardımcısı Jeffery Clarke, çeyreğe ilişkin kazanç açıklamasına eşlik eden bir açıklamada şunları söyledi: “Yapay zekayla optimize edilmiş sunucu siparişleri sırayla yaklaşık %40 arttı. Yapay zeka için optimize edilmiş 800 milyon dolarlık sunucu gönderdik ve birikmiş birikimimiz art arda neredeyse ikiye katlanarak mali yılı 2,9 milyar dolarla kapattık. Ayrıca H200 ve MI300X dahil olmak üzere yeni nesil AI GPU'larla donatılmış, AI için optimize edilmiş sunuculara yönelik siparişlere de büyük ilgi görüyoruz.”
HPE gibi Dell'in müşterilerinin çoğu da yapay zeka yolculuklarının henüz ilk aşamalarında. Clarke, “Onların başlamalarına ve kullanım senaryoları, veri hazırlama, eğitim ve altyapı gereksinimleri üzerinde çalışmalarına yardımcı oluyoruz” dedi.
Dell'in ürün portföyü, danışmanlık ve finans işlerinde müşterileriyle nasıl etkileşim kurduğunu yansıtan ileri gitme fırsatını tartışırken şunları söyledi: “Bu alandaki ilerleme her zaman doğrusal olmayacak, ancak önümüzdeki fırsat konusunda heyecanlıyız.”
Yapay zeka, GPU'ların ötesinde kurumsal depolamaya yeni talepler getiriyor. Clarke, yapay zeka sistemleri oluşturan kuruluşların başlangıçta yapay zeka modellerini metin tabanlı verileri kullanarak eğittiklerini söyledi. Dell, müşterilerinin depolama stratejisiyle uyumlu, daha zengin kurumsal veri kümelerine geçmeleri konusunda bahse giriyor.
Yeni PowerEdge F710 ve 210 depolama ürünlerinin yüksek eş zamanlı, gecikmeye duyarlı iş yüklerinde artırılmış performans sunduğunu söyledi. “Bu, kuruluş içinde yaygınlaştıkça artan ihtiyaçla uyumlu” diye ekledi.
Tasarım ve dağıtım engelleri
Dell'Ora Group'un bir raporunda, artan yarı iletken termal tasarım gücünün ve büyük dil modelinin ve üretken yapay zeka uygulamalarının ortaya çıkmasının, raf güç yoğunluklarının önemli ölçüde artmasına yol açtığı belirtildi. Dell'Ora araştırma analisti Lucas Beran'a göre bu, hava bazlı termal yönetim sistemlerinden sıvı soğutmaya geçişe yol açıyor.
Yapay zeka için optimize edilmiş sunuculara yönelik talep mevcut ve artmaya hazırlanıyor. Ancak yapay zeka sistemlerini eğitmek için GPU destekli sunucular kurmayı planlayan kuruluşlar, hem veri merkezlerini yeniden yapılandırma ihtiyacı hem de tedarik sorunları nedeniyle bir dizi engelle karşı karşıya kalıyor
Beran'a göre hava soğutma, geçmişte 20kW/raf'a kadar raf yoğunluklarını desteklerken sıvı soğutma, 100kW+/raf'a kadar raf güç yoğunluklarını destekleyebiliyor.
Dell'Ora'dan alınan veriler, hızlandırılmış sunucuların her birinin 6kW'a kadar güç tüketebileceğini gösteriyor. Bu, bir veri merkezinin mevcut hava soğutma altyapısını kullanmak için raf başına yalnızca üç adet 6kW AI hızlandırmalı sunucunun kurulabileceğini, dolayısıyla bu sunucuları dağıtmayı düşünen kuruluşların soğutma gereksinimleriyle başa çıkmak için veri merkezlerini yeniden tasarlamak zorunda kalacağını gösteriyor.
Sunucu üreticilerinin en son üç aylık mali sonuçlarından açıkça anlaşılan şey, yapay zeka için optimize edilmiş sunuculara yönelik talebin mevcut olduğu ve artmaya hazır olduğudur. Ancak yapay zeka sistemlerini eğitmek için GPU destekli sunucular kullanmayı planlayan kuruluşlar, hem veri merkezlerini yeniden yapılandırma ihtiyacı hem de tedarik sorunları nedeniyle bir dizi engelle karşılaşıyor.
Analist firması Gartner, Kasım 2023'te, AI için optimize edilmiş sunucuların kurumsal sevkiyatlarının 2024'te neredeyse 460.000 birime ulaşacağını, 2027'de ise bu sayının 740.000'e çıkacağını tahmin etti. Bu, 2024'teki AI sunucu sevkiyatlarının %24'ünü ve 2027'deki %27'sini temsil ediyor.
Gartner'ın kıdemli direktör analisti Adrian O'Connell, raporunda şunları yazdı: “Kurumların 2024'te ve 2025'in ilk yarısında, GenAI kullanım senaryoları için AI için optimize edilmiş sunucuları benimsemeye yönelik büyük ölçüde keşif ve değerlendirme modunda harcama yapmalarını bekliyoruz.” Tahmin analizi: Dünya çapında yapay zekayla optimize edilmiş sunucular rapor.
O'Connell, devam eden yüksek enflasyondan kaynaklanan belirsiz ekonomik görünümün, ana akım şirketlerin yeni teknolojiye önemli miktarda harcama yapma yönünde zaten muhafazakar bir yaklaşım sergilemesinin muhtemel olduğunu belirtti. Gartner'a göre yapay zekayla optimize edilmiş bir sunucunun ortalama satış fiyatı 2024'te 32.300 dolar olacak. Bunun 2027'de 29.500 dolara düşmesi bekleniyor.
Genel olarak Gartner'ın tahmini, kuruluşların 2024 yılında yapay zeka için optimize edilmiş sunuculara 66 milyar dolar, genel amaçlı sunuculara ise 88 milyar dolar harcamasının beklendiğini gösteriyor.
Tedarik zinciri sorunları ve soğutma gereksinimleri, yapay zeka sunucularının dağıtımının sektörün istediği kadar hızlı ilerlemediği anlamına geliyor. Ancak yapay zekaya olan talep arttıkça sunucu üreticileri de bu fırsattan en iyi şekilde yararlanmak için yatırımlarını artırıyor.
Örneğin Lenovo, bütçe artışlarının yanı sıra araştırma ve geliştirme çalışan sayısında %25 artışla yapay zekaya destek sağladığını bildirdi. Şirket, üretken yapay zeka ürünlerinin sunucu işindeki büyümeye olumlu katkı sağlamaya başladığını iddia ediyor.