Meta Platforms, şirket içinde geliştirilmekte olan özel bir çip “ailesi” de dahil olmak üzere yapay zeka çalışmalarını daha iyi desteklemek için veri merkezi projeleriyle ilgili yeni ayrıntıları paylaştı.
Facebook ve Instagram sahibi, bir dizi blog gönderisinde 2020 yılında Meta Training and Inference Accelerator (MTIA) programının bir parçası olarak birinci nesil bir çip tasarladığını söyledi.
Amaç, haber akışlarındaki reklamları ve diğer içerikleri sunmak için kullandığı öneri modellerinin verimliliğini artırmaktı.
Reuters daha önce, şirketin ilk şirket içi yapay zeka çipini geniş çapta dağıtmayı planlamadığını ve halihazırda bir halefi üzerinde çalıştığını bildirmişti.
Blog gönderileri, ilk MTIA çipini bir öğrenme fırsatı olarak tasvir etti.
İlk MTIA çipi, yalnızca çıkarım adı verilen bir yapay zeka sürecine odaklanmıştı; bu süreçte, büyük miktarda veri üzerinde eğitilen algoritmalar, bir kullanıcının beslemesindeki, gönderilerdeki bir sonraki gönderi olarak örneğin bir dans videosunun veya bir kedi meminin gösterilip gösterilmeyeceği konusunda kararlar veriyor. söz konusu.
Meta’da bir yazılım mühendisi olan Joel Coburn, yeni çiple ilgili bir sunum sırasında Meta’nın başlangıçta çıkarım görevleri için grafik işlem birimlerine veya GPU’lara yöneldiğini, ancak bunların çıkarım çalışması için pek uygun olmadığını bulduğunu söyledi.
Coburn, “Önemli yazılım iyileştirmelerine rağmen gerçek modeller için verimlilikleri düşük. Bu, onları pratikte devreye almalarını zor ve pahalı hale getiriyor” dedi.
“İşte bu yüzden MTIA’ya ihtiyacımız var.”
Bir Meta sözcüsü, yeni çip için dağıtım zaman çizelgeleri hakkında yorum yapmaktan veya modelleri eğitebilecek çipler geliştirme planları hakkında ayrıntılı bilgi vermekten kaçındı.
Yöneticiler, yapay zeka destekli özellikler oluşturan ürün ekiplerinden gelen talebi desteklemek için donanım ve yazılımdan yoksun olduğunu fark ettikten sonra Meta, geçen yıl yapay zeka altyapısını yükseltmek için büyük bir projeye dahil oldu.
Sonuç olarak, şirket şirket içi bir çıkarım çipinin büyük ölçekli bir şekilde kullanıma sunulması planlarını rafa kaldırdı ve eğitim ve çıkarım yapabilen daha iddialı bir çip üzerinde çalışmaya başladı. Reuters bildirildi.
Meta’nın blog gönderileri, ilk MTIA çipinin yüksek karmaşıklıktaki yapay zeka modellerinde tökezlediğini kabul etti, ancak düşük ve orta karmaşıklıktaki modelleri rakip çiplerden daha verimli bir şekilde işlediğini kaydetti.
Meta, MTIA çipinin sadece 25 watt güç kullandığını – Nvidia gibi tedarikçilerin pazar lideri çiplerinin tükettiğinin bir kısmını – ve RISC-V adlı açık kaynaklı bir çip mimarisi kullandığını söyledi.
Meta ayrıca, veri merkezlerini daha modern yapay zeka odaklı ağ ve soğutma sistemleri etrafında yeniden tasarlama planları hakkında bir güncelleme sağladı ve bu yıl bu tür ilk tesisinin temelini atacağını söyledi.
Bir çalışan değişiklikleri açıklayan bir videoda, yeni tasarımın yüzde 31 daha ucuz olacağını ve şirketin mevcut veri merkezlerinden iki kat daha hızlı inşa edilebileceğini söyledi.
Meta, mühendislerinin Microsoft, Amazon.com ve Alphabet tarafından sunulan araçlara benzer şekilde bilgisayar kodu oluşturmasına yardımcı olacak yapay zeka destekli bir sisteme sahip olduğunu söyledi.