Veri işleme birimleri (DPU’lar), yapay zeka (AI) ve analitik işleme gibi ağır veri merkezli iş yüklerini çalıştıran ve depolama giriş/çıkışını (G/Ç) hızlandıran veri merkezleri için önemli bir dağıtım seçeneği olarak ortaya çıktı.
DPU’lar sunuculara dağıtılır ve iş yükünü merkezi işlem birimlerinden (CPU’lar) alan, onlara çekirdek uygulama döngülerine odaklanma ve buradaki performansı artırma özgürlüğü veren yük boşaltma donanımı evriminin en son ürünüdür.
Bu arada DPU’lar veri aktarımını, veri azaltmayı, güvenliği ve analitiği yönetebilir. DPU’nun yükselişi için belki de önemli olan, donanım bileşenlerinden altyapı kaynaklarını birleştiren şekillendirilebilir altyapı mimarilerine ne ölçüde uyum sağlayabilecekleridir.
DPU’lar büyüyen bir çekirdek donanım bileşeni olsa da, DPU yeteneği Amazon Web Services (AWS) ve Microsoft Azure gibi bulut hizmetlerine entegre ediliyor. Ayrıca VMware gibi temel ortamlar, müşterilerin DPU dağıtımından yararlanması için yeniden düzenlendi.
Bu makalede DPU’ların nereden geldiğine, DPU’ların ne işe yaradığına ve yararlarına, temel özelliklere ve önemli DPU tedarikçilerinin kim olduğuna bakıyoruz.
DPU’lar nereden geldi?
Veri işleme birimi fikri nispeten yeni olmasına rağmen, bunların evrimi, özellikle ağ hızlandırmada, uzun bir yük boşaltma kart serisinden kaynaklanmaktadır.
Bunlar, temel ağ arabirim kartları (NIC’ler) ile başladı; ağ trafiğini işlerken CPU döngülerini serbest bırakan “NIC’leri boşaltmaya”, işleri daha da yükseğe çıkaran ve programlanabilirlik unsuru getiren “akıllı NIC’lere” kadar uzanıyordu.
DPU’lar, akıllı NIC’lerin bir evrimidir ve şekillendirilebilir mimarilerin bir parçası olarak esnek programlanabilirliğin yanı sıra, artan boşaltma yetenekleri ve depolama ağı da dahil olmak üzere esnek programlanabilirlik sağlar.
DPU nedir ve faydaları nelerdir?
DPU’ları ve bu konuda grafiksel işlem birimlerini (GPU’lar) tasarlamanın yararlı bir yolu, merkezi olmayan yönetim fikridir. Yani, önceden merkezi olarak CPU tarafından gerçekleştirilecek olan görevlerin, belirli görevlere yönelik ek donanıma aktarılmasıdır. Bunu yaparak DPU’lar, veri merkezli hesaplama ve veri aktarımı iş yüklerindeki sunucu CPU verimsizliklerini telafi eder.
Konuya daha iyi bir nokta koymak için xPU değişkenlerinin her birinin ne kadar paralel olduğunu düşünmek faydalı olabilir.
CPU’lar aynı anda birkaç işlemi yürütmeyi amaçlayan nispeten az sayıda çekirdeğe sahiptir, GPU’lar daha fazla çekirdeğe sahiptir ve daha fazla işlemi gerçekleştirebilir ve DPU’lar çok daha fazla çekirdekten oluşur ve inanılmaz paralelleştirilmiş iş yükü kümelerini idare edecek şekilde üretilmiştir.
GPU öncelikle grafik oluşturma etrafında ağır hesaplamalar yürütmek için tasarlanmış olsa da (daha fazla amaçla kullanılmaya başlanmış olsa da), DPU, verilerin depolama ve ağ çevresinde taşınması gibi yoğun veri yoğunluklu görevlerin üstesinden gelmek için işleri bir adım daha ileri götürür. Yapay zeka ve analitik.
DPU genellikle çok çekirdekli bir CPU, bellek ve denetleyiciler, PCIe yuvaları ile ağ ve depolama yapısı arayüzlerinden oluşur. DPU’lar işlemci çekirdekleri ve donanım hızlandırma bloklarıyla tasarlanmıştır. DPU’lar, birincil işletim sistemiyle birleşmelerine ve şifreleme, silme kodlaması ve veri azaltma gibi işleri gerçekleştirmelerine olanak tanıyan kendi işletim sistemleriyle (OS) birlikte gelir.
DPU’lar, çok yüksek hızlı depolamaya hızlı erişim sağlamak için NVMe depolamaya ve yapılar üzerinden NVMe’ye yerel olarak bağlanabilir. Ayrıca genellikle kripto para birimi gibi belirli iş yükleri için yerel hızlandırma özelliğiyle birlikte gelirler.
DPU’lar ne tür özellikler sunuyor?
Bir DPU’dan alacağınız teknik özellikler, 400 Gbps’ye kadar Ethernet veya Infiniband bağlantısı, 32 şeritli PCIe Gen 5.0, 16’ya kadar ARM CPU çekirdeği, programlanabilir bir çekirdekte 16 çekirdek ile birlikte gelen Nvidia’nın BlueField 3’ünde görülebilir. veri yolu hızlandırıcı, 32 MB yerleşik DDR DRAM, AES şifreleme ve yapılar üzerinden NVMe/TCP üzerinden bağlantı.
DPU’ları kim yapar?
DPU donanımı aşağıdakileri içeren tedarikçilerden temin edilebilir:
- Ağustos 2021’de Google ile ortak geliştirilen Mount Evans DPU’sunu duyuran Intel, iki yıllık bir periyotla daha fazla yinelemeyi içeren bir yol haritasına sahip. Mount Evans daha sonra 2022’de piyasaya sürülen E2000 serisi oldu. Intel, DPU yerine altyapı işlem birimlerini (IPU) tercih ediyor gibi görünüyor.
- Nvidia, BlueField 3 ve 2 DPU’larının yanı sıra şirketin hibrit GPU/DPU Yakınsanmış Hızlandırıcılarıyla.
- Marvell, telekomünikasyon uygulamalarında kullanıma yönelik büyük bir eğilime sahip olan Octeon ve Armada DPU’larını tedarik ediyor.
- AMD, AMD Pensando Altyapı Hızlandırıcıları ile.
- Bu yıl Microsoft tarafından satın alınan Fungible, DPU’yu 2020’de gizlilikten çıktığında ağ oluşturma ve depolamayı amaçlayan ürünlerle pazara sundu. Microsoft’un satın alınması, Fungible’ın DPU’ların öncüsü olarak öne çıkmasının ve ardından pazardaki genişlemenin duraklaması nedeniyle sorunlarla karşılaşmasının ardından geldi. Satın alma sırasındaki piyasa yorumları, Microsoft’un Fungible IP’yi Azure’a dahil etme ihtimalinin yüksek olduğunu ve bunu yaparken de AWS’nin DPU yeteneklerini göz önünde bulundurduğunu gösteriyordu.
- AWS’nin Nitro kartları, EC2 hizmetleri için bilgi işlem, depolama, ağ iletişimi ve bellek sağlayan donanım ve yazılım yapı taşlarını içerir ve DPU seçeneklerini içerir. DPU’lar ayrıca şirketin veri ambarı iş yüklerini ayıklamayı, dönüştürmeyi ve yüklemeyi (ETL) amaçlayan sunucusuz bilgi işlem platformu olan AWS Glue’da da yer alıyor.