Sunucu üreticileri, genel bulut bilişimde fiziksel sunucuların düzgün bir şekilde doldurduğu boşluğun uzun süredir farkındadır. Bu, zamanla BT liderlerinin ve sektörün bazı iş yüklerinin her zaman şirket içinde çalıştırılacağının farkına varmasıyla gelişti; bazıları hem genel bulutta hem de şirket içinde çalışabilir, bazıları ise tamamen bulut tabanlı olabilir.
Yapay zeka (AI) çıkarımı, uç cihazlardan ve nesnelerin internetinden (IoT) AI verilerini işlerken veri kaybı, veri egemenliği ve potansiyel gecikme sorunlarıyla ilgili endişeleri gidermeye çalışan sunucu sağlayıcıları arasında artık ilgi çeken bir iş yüküdür. .
Dell Technologies, kuruluşların yapay zekayı uçta dağıtma, ölçeklendirme ve kullanma şeklini basitleştirmek için artık Dell NativeEdge uç işlemleri yazılım platformunu genişletti.
Dell platformu, şirketin “ölçekli cihaz katılımı”, uzaktan yönetim ve çoklu bulut uygulama orkestrasyonu olarak tanımladığı özellikleri sunuyor. Dell’e göre NativeEdge, ağ kesintileri veya cihaz arızalarından bağımsız olarak çalışmaya devam edebilen, kritik iş süreçlerini ve uç yapay zeka iş yüklerini sürdürmek için yüksek kullanılabilirlik özellikleri sunuyor. Platform aynı zamanda sanal makine (VM) geçişi ve otomatik uygulama, bilgi işlem ve depolama yük devretme olanağı da sunuyor; Dell, bunun kuruluşlara daha fazla güvenilirlik ve sürekli operasyon sağladığını söyledi.
Müşterilerinden biri olan Nature Fresh Farms, platformu 1.000’den fazla IoT özellikli tesisi yönetmek için kullanıyor. Nature Fresh Farms’ın bilgi teknolojisinden sorumlu başkan yardımcısı Keith Bradley, “Dell NativeEdge, gerçek zamanlı altyapı öğelerini izlememize, ürünlerimiz için en uygun koşulları sağlamamıza ve ürün paketleme operasyonlarımıza ilişkin kapsamlı bilgiler edinmemize yardımcı oluyor” dedi.
KubeCon Kuzey Amerika 2024 konferansıyla aynı zamana denk gelen Nutanix, yeni Nutanix Kurumsal Yapay Zeka (NAI) platformunu temel alan hibrit ve çoklu bulut yapay zeka desteğini duyurdu. Bu, herhangi bir Kubernetes platformunda, uçta, çekirdek veri merkezlerinde ve genel bulut hizmetlerinde devreye alınabilir.
Nutanix, NAI’nin hızlandırılmış yapay zeka iş yükleri için tutarlı bir hibrit çoklu bulut işletim modeli sunduğunu ve kuruluşların üretken yapay zeka (GenAI) uygulamalarının günlerce değil dakikalar içinde konuşlandırılmasını desteklemek için büyük dil modelleri (LLM’ler) için çıkarım uç noktalarını güvenli bir şekilde dağıtmasına, çalıştırmasına ve ölçeklendirmesine yardımcı olduğunu söyledi. veya haftalar.
HPE’de de benzer bir hikaye var. Şirketin Ekim ayındaki yapay zeka gününde HPE CEO’su Antony Neri, bazı kurumsal müşterilerinin küçük dilli yapay zeka modellerini nasıl dağıtmaları gerektiğini tartıştı.
“Genellikle raftan ihtiyaçlara uygun büyük bir dil modeli seçiyorlar ve benzersiz, çok özel verilerini kullanarak bu AI modellerine ince ayar yapıyorlar” dedi. “Veri egemenliği ve düzenlemesi, veri sızıntısı ve AI genel bulut API’lerinin güvenliği hakkındaki endişeleri göz önüne alındığında, bunların çoğunun müşterilerin verilerini kontrol ettiği şirket içi ve ortak konumlardaki yüklemeler olduğunu görüyoruz.”
Eylül ayında HPE, Nvidia ile bir işbirliğini duyurdu ve bunun sonucunda Neri’nin “her büyüklükteki işletmenin üretken yapay zeka uygulamaları geliştirmesini ve dağıtmasını kolaylaştıran tam anahtar teslimi özel bulut yığını” olarak tanımladığı şey ortaya çıktı.
Bir müşterinin, yalnızca üç tıklamayla ve dağıtımı 30 saniyeden kısa sürede, Nvidia hızlandırılmış bilgi işlem ağını ve yapay zeka yazılımını HPE’nin yapay zeka sunucusu, depolama ve bulut hizmetleriyle entegre eden bir HPE özel bulut yapay zekasını dağıtabileceğini söyledi.
Lenovo, Ekim ayındaki Tech World etkinliğinde, endüstrileşme ve güvenilirlik için optimize edilmiş tam kapsamlı yapay zeka yeteneklerini birleştirdiğini söylediği Nvidia ile Hibrit Yapay Zeka Avantajını tanıttı.
Paketin yapay zeka kısmı, Lenovo’nun “müşterilerin yatırım getirisi önündeki engelleri aşmasına yardımcı olan, özelleştirmeye hazır yapay zeka kullanım senaryosu çözümlerinden oluşan bir kitaplık” olarak adlandırdığı şeyi içeriyor [return on investment] AI’dan”.
İki şirket, Nvidia’nın hızlandırılmış bilgi işlem, ağ oluşturma, yazılım ve yapay zeka modellerini modüler Lenovo Hybrid AI Advantage’a entegre etmek için yakın bir ortaklık kurdu.
Hiper ölçekleyicilerle Edge AI
Genel bulut platformlarının tümü, GenAI, makine öğrenimi ve çıkarım iş yüklerinin çalıştırılması için zengin özelliklere sahip ortamlar sunar. Ayrıca IoT ve uç bilgi işlem cihazlarında yapay zeka çıkarımına yönelik ürün teklifleri de var.
Amazon Web Services, SageMaker Edge Agent’ı sunar; Azure IoT hub, Microsoft’un sunduğu karışımın bir parçasıdır; ve Google’ın Google Dağıtılmış Bulutu var. Bu tür teklifler genellikle, veri modelleri oluşturmak için ilgili genel bulutlarda mevcut olan kaynakları kullanarak, makine öğrenimi gibi ağır işleri yapmaya odaklanır. Bunlar daha sonra uçtaki çıkarım iş yüklerine güç sağlamak için dağıtılır.
Geleneksel sunucu şirketlerinde, bulut yapay zeka tehdidine yanıt olarak bir dizi fırsat görülüyor gibi görünüyor. BT departmanları şirket içi iş yüklerini satın almaya ve dağıtmaya devam edecek ve uçtaki yapay zeka da bu ilgi alanlarından biri. BT alıcılarını etkilemesi muhtemel ikinci faktör, kurumsal yapay zeka hedeflerine ulaşmalarına yardımcı olacak planların ve şablonların bulunmasıdır.
Analist Gartner’a göre, genel bulut sağlayıcıları yapay zeka ve GenAI ile mümkün olanın sanatını göstermede çok başarılı olsalar da, kuruluşların yapay zeka hedeflerine ulaşmalarına yardımcı olma konusunda özellikle iyi değiller.
Son Gartner Sempozyumu’nda konuşan Gartner’ın baş araştırma analisti Daryl Plummer, teknoloji sağlayıcılarının, müşterileri bu gelişmiş yapay zeka sistemlerinin hedeflerine ulaşma yolculuğuna çıkarmadan, yapay zekanın ilerlemesine kendi perspektiflerinden bakmaya fazlasıyla odaklandıkları konusunda uyardı. “Microsoft, Google, Amazon, Oracle, Meta ve OpenAI büyük bir hata yaptı; bize neler yapabileceğimizi gösteriyorlar, [but] bize ne yapmamız gerektiğini göstermiyorlar” dedi.
Eksik parçalar, müşterinin benzersiz gereksinimlerine göre uyarlanabilecek alan uzmanlığı ve BT ürünleri ve hizmetleriyle ilgilidir. Bu kesinlikle Dell, HPE ve Lenovo gibi şirketlerin BT danışmanlık firmalarıyla ortaklaşa büyümeye çalışacağı odak alanı gibi görünüyor.