Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Yapay Zeka Hızlandırıcı Bağlantılarını Hızlandırmak için Nvidia NVLink’e UALink El Sanatları Alternatifi
David Perera (@daveperera), Rashmi Ramesh (raşmiramesh_) •
16 Ocak 2025
Cihaz üreticisi Apple, yapay zeka hızlandırıcı çip kümelerini veri merkezlerine doğrudan bağlamak için açık standartlar oluşturmayı amaçlayan yakın zamanda kurulmuş bir endüstri grubunun yönetim kuruluna katıldı.
Ayrıca bakınız: İkinci Yıllık Üretken Yapay Zeka Çalışması: İş Ödülleri ve Güvenlik Riskleri
Ultra Hızlandırıcı Bağlantı Konsorsiyumu, doğrudan iletişim kurabilmeleri için 1.024 hızlandırıcının (yapay zeka uygulamalarında uzmanlık için değiştirilmiş GPU yongaları) kablolanması için çipten bağımsız UALink spesifikasyonunu geliştirdi. Doğrudan bağlantı, GPU’ların büyük dil modellerini eğitmede verimli olmasını sağlayan paralel hesaplamayı ve yüksek veri akışını optimize eder. CPU’ları aracı olarak devre dışı bırakıyor veya bir konsorsiyum sözcüsünün bir e-postada ifade ettiği gibi: “widget sayısını” azaltıyor ve böylece gecikme ve bant genişliği sınırlarını azaltıyor.
Konsorsiyum, yapay zeka çipi devi Nvidia’nın kullandığı tescilli NVLink standardını devralmaya yönelik bir endüstri girişimi olarak görülüyor. Şartnameyi bu yılın ilk üç ayında kamuoyuna sunmayı taahhüt etti. Sözcü, spesifikasyonun Nvidia çipleriyle çalışabileceğini ancak NVLink ile uyumlu olmadığını söyledi.
Apple’ın platform mimarisi direktörü Becky Loop, “UALink, bağlantı zorluklarını çözme ve yapay zeka yeteneklerini ve taleplerini genişletmek için yeni fırsatlar yaratma konusunda büyük umut vaat ediyor” dedi.
Yapay zeka modelleri büyüdükçe daha fazla belleğe ve işlem gücüne ihtiyaç duyarlar; bu da işin bir gruba veya “pod”a bağlı birçok GPU’ya yayılması anlamına gelir. UALink spesifikasyonu kapsamında GPU’lar, UALink anahtarlarıyla bağlanır; bu, bir GPU’nun başka bir GPU’daki belleğe erişmesi gerektiğinde, anahtar üzerinden tek bir geçişle bunu hızlı bir şekilde yapabilmesini sağlar. Sözcü, anahtar bağlantısının 16 şeritli bir bağlantıdaki 128 gigabaytlık PCIe Gen5 hızlarından daha hızlı olduğunu söyledi.
GPU’lar arasında iletişim kurmak için CPU’dan geçmenin zorluğu, süreçteki her adımın gecikmeye neden olmasıdır. Bu adımlardan biri genellikle veri aktarımının genel hızını sınırlayan bir darboğaz haline gelir.
Apple, yeni yönetim kurulu pozisyonunu teknoloji devi Alibaba ve yarı iletken tasarım firması Synopsys ile paylaşıyor. Intel, AMD, Google, AWS, Microsoft ve Meta da 65’ten fazla üyeli konsorsiyumun bir parçası.
Apple’ın UALink’e katılımı, Apple Intelligence başlığı altında yapay zeka altyapısına artan yatırımlarının bir parçası gibi görünüyor. Bilgiler, Apple’ın yapay zeka hizmetlerine yönelik veri merkezi operasyonlarını artırması beklenen yeni bir sunucu çipi üzerinde çalıştığını bildirdi.