Red Hat, kullanıcıların üretken yapay zeka (GenAI) modellerini daha sorunsuz bir şekilde geliştirmesine, test etmesine ve dağıtmasına olanak tanıyan bir temel model platformu olan Red Hat Enterprise Linux AI’yi (RHEL AI) başlattı. RHEL AI, IBM Research’ün açık kaynak lisanslı Granite büyük dil modeli (LLM) ailesini, LAB (chatBots için Büyük Ölçekli Hizalama) metodolojisini temel alan InstructLab model hizalama araçlarını ve InstructLab aracılığıyla model geliştirmeye yönelik topluluk odaklı bir yaklaşımı bir araya getiriyor proje.
Çözümün tamamı, hibrit bulut genelinde bireysel sunucu dağıtımları için optimize edilmiş, önyüklenebilir bir RHEL görüntüsü olarak paketlenmiştir ve aynı zamanda modelleri ve InstructLab’ı dağıtılmış platformlarda çalıştırmak için Red Hat’in hibrit makine öğrenimi işlemleri (MLOps) platformu olan OpenShift AI’nın bir parçası olarak dahil edilmiştir. küme ortamları.
ChatGPT’nin piyasaya sürülmesi, GenAI’ya büyük bir ilgi uyandırdı ve inovasyon hızı o zamandan beri daha da arttı. İşletmeler, GenAI hizmetlerinin erken değerlendirmelerinden yapay zeka destekli uygulamalar oluşturmaya doğru ilerlemeye başladı. Hızla büyüyen açık model seçenekleri ekosistemi, daha fazla yapay zeka inovasyonunu teşvik etti ve “hepsine hükmedecek tek bir model” olmayacağını gösterdi. Müşteriler, özel gereksinimleri karşılamaya yönelik bir dizi seçenekten yararlanacak ve bunların tümü yeniliğe açık bir yaklaşımla daha da hızlandırılacak.
Bir yapay zeka stratejisinin uygulanması, yalnızca bir model seçmekten daha fazlasını gerektirir; teknoloji kuruluşları, belirli bir modeli kendi özel kullanım durumlarına göre ayarlamak ve ayrıca yapay zeka uygulamasının önemli maliyetleriyle başa çıkmak için uzmanlığa ihtiyaç duyar. Veri bilimi becerilerinin azlığı, aşağıdakiler de dahil olmak üzere önemli finansal gereksinimlerle birleşiyor:
- Yapay zeka altyapısının tedarik edilmesi veya yapay zeka hizmetlerinin tüketilmesi
- Yapay zeka modellerini belirli iş ihtiyaçlarına göre ayarlamanın karmaşık süreci
- Yapay zekayı kurumsal uygulamalara entegre etme
- Hem uygulamanın hem de model yaşam döngüsünün yönetilmesi.
Yapay zeka inovasyonuna giriş engellerini gerçekten azaltmak için işletmelerin yapay zeka girişimlerinde kimlerin çalışabileceğinin listesini genişletirken aynı zamanda bu maliyetleri kontrol altına alabilmeleri gerekiyor. InstructLab hizalama araçları, Granite modelleri ve RHEL AI ile Red Hat, bu engelleri ortadan kaldırmak amacıyla gerçek açık kaynaklı projelerin (ücretsiz olarak erişilebilen, yeniden kullanılabilen, şeffaf ve katkılara açık) faydalarını GenAI’ye uygulamayı hedefliyor.
InstructLab ile açık alanda yapay zeka oluşturma
IBM Research, taksonomi destekli sentetik veri oluşturma ve yeni bir çok aşamalı ayarlama çerçevesini kullanan bir model hizalama yaklaşımı olan ChatBots için Büyük Ölçekli Hizalama (LAB) tekniğini yarattı. Bu yaklaşım, pahalı insan açıklamalarına ve özel modellere olan bağımlılığı azaltarak yapay zeka modeli geliştirmeyi tüm kullanıcılar için daha açık ve erişilebilir hale getirir. LAB yöntemini kullanarak modeller, bir taksonomiye bağlı bilgi ve becerileri belirleyerek, modeli etkileyecek ölçekte bu bilgilerden sentetik veriler üreterek ve oluşturulan verileri model eğitimi için kullanarak geliştirilebilir.
LAB yönteminin model performansını önemli ölçüde artırmaya yardımcı olabileceğini gördükten sonra IBM ve Red Hat, LAB yöntemi ve IBM’in açık kaynaklı Granite modelleri etrafında oluşturulmuş bir açık kaynak topluluğu olan InstructLab’ı başlatmaya karar verdi. InstructLab projesi, herhangi bir açık kaynak projesine katkıda bulunmak kadar basit bir şekilde LLM yaparak, inşa ederek ve ona katkıda bulunarak LLM gelişimini geliştiricilerin eline bırakmayı amaçlamaktadır.
InstructLab lansmanının bir parçası olarak IBM, aynı zamanda seçkin Granite İngilizce dili ve kod modellerinden oluşan bir aileyi de kullanıma sundu. Bu modeller, bu modelleri eğitmek için kullanılan veri kümeleri üzerinde şeffaflık sağlayan bir Apache lisansı altında yayınlanmaktadır. Granite 7B İngilizce dil modeli, InstructLab topluluğuna entegre edilmiştir; burada son kullanıcılar, tıpkı başka herhangi bir açık kaynak projesine katkıda bulunurken yapacakları gibi, bu modeli kolektif olarak geliştirmek için gereken beceri ve bilgilere katkıda bulunabilirler. InstructLab’daki Granite kod modelleri için de benzer destek yakında sunulacaktır.
“GenAI, işletmeler için devrim niteliğinde bir atılım sunuyor, ancak bu ancak teknoloji kuruluşlarının AI modellerini kendi özel iş ihtiyaçlarına uygun şekilde gerçekten dağıtıp kullanabilmesi durumunda mümkündür. RHEL AI ve InstructLab projesi, geniş ölçekte Red Hat OpenShift AI ile birleştiğinde, sınırlı veri bilimi becerilerinden gereken saf kaynaklara kadar hibrit bulutta GenAI’nın karşılaştığı birçok engeli azaltmak ve hem kurumsal dağıtımlarda hem de kurumsal dağıtımlarda yeniliği teşvik etmek için tasarlandı. yukarı havzadaki topluluklarda,” dedi Red Hat Kıdemli Başkan Yardımcısı ve CPO’su Ashesh Badani.
Güvenilir bir Linux omurgasında açık kaynaklı yapay zeka yeniliği
RHEL AI, hibrit bir altyapı ortamında dağıtımı basitleştirmek için InstructLab projesinin kurumsal kullanıma hazır bir versiyonunu ve Granite dil ve kod modellerini dünyanın önde gelen kurumsal Linux platformuyla birleştirerek yapay zeka inovasyonuna yönelik bu açık yaklaşımı temel alıyor. Bu, açık kaynak lisanslı GenAI modellerinin kuruluşa getirilmesi için bir temel model platformu oluşturur.
RHEL AI şunları içerir:
- Açık kaynak lisanslı Granite dili ve kod modelleri Red Hat tarafından desteklenen ve tazmin edilenler.
- InstructLab’ın desteklenen, yaşam döngülü dağıtımı LLM yeteneklerini geliştirmek ve bilgi ve beceri katkılarını çok daha geniş bir kullanıcı yelpazesi için erişilebilir kılmak için ölçeklenebilir, uygun maliyetli bir çözüm sağlar.
- Optimize edilmiş önyüklenebilir model çalışma zamanı örnekleri AMD Instinct MI300X, Intel ve NVIDIA GPU’lar ve NeMo çerçeveleri için optimize edilmiş Pytorch çalışma zamanı kitaplıkları ve hızlandırıcılar dahil olmak üzere, RHEL görüntü modu aracılığıyla önyüklenebilir RHEL görüntüleri olarak Granite modelleri ve InstructLab araç paketleri ile.
- Red Hat’in eksiksiz kurumsal desteği ve yaşam döngüsü vaadi Bu, güvenilir bir kurumsal ürün dağıtımı, 7/24 üretim desteği ve uzatılmış yaşam döngüsü desteğiyle başlar.
Kuruluşlar, RHEL AI üzerinde yeni AI modellerini deneyip ayarlarken, Red Hat OpenShift AI ile bu iş akışlarını ölçeklendirmek için RHEL AI’yi içerecek ve AI modellerini eğitmek ve sunmak için OpenShift’in Kubernetes motorundan yararlanabilecekleri hazır bir rampaya sahipler. model yaşam döngüsünü yönetmek için ölçeklendirme ve OpenShift AI’nin entegre MLOps yetenekleri. Bugün Red Hat OpenShift AI üzerine inşa edilen IBM’in watsonx.ai kurumsal stüdyosu, RHEL AI’nın kullanılabilir olması durumunda OpenShift AI’ye dahil edilmesinden yararlanacak ve kurumsal AI geliştirme, veri yönetimi, model yönetişimi ve iyileştirilmiş fiyat performansı için ek yetenekler getirecek.
“Yapay zeka modeli geliştirmeye gerçek açık kaynak yeniliğini getirmek ve geniş bir topluluğun gücünden yararlanmak, işletmelerin yapay zekayı benimseme ve ölçeklendirme planları hakkındaki düşüncelerini değiştirecek. IBM, Linux, Apache ve Eclipse gibi etkili toplulukları destekleyerek açık kaynağın güçlü bir destekçisi olmuştur ve Red Hat ile olan işbirliğimiz, güvenli, sorumlu ve etkili yapay zeka oluşturmaya yönelik açık yaklaşımımızda ileriye doğru atılmış bir adımı temsil etmektedir. RHEL AI ve InstructLab, IBM’in açık kaynak Granite model ailesiyle birleştiğinde, çeşitli hibrit bulut ortamlarında maliyeti en aza indirirken kendi verileriyle kullanım senaryolarını ele alan amaca uygun modeller oluşturmak isteyen müşterilere yeni değer ve seçenekler sunacak. ” dedi IBM Research Kıdemli Başkan Yardımcısı ve Direktörü Darío Gil.
Bulut hibrittir. Yapay zeka da öyle.
30 yılı aşkın bir süredir açık kaynak teknolojileri, hızlı inovasyonu büyük ölçüde azaltılmış BT maliyetleriyle ve inovasyonun önündeki engellerin azaltılmasıyla eşleştirdi. Red Hat, 2000’li yılların başında RHEL ile açık kurumsal Linux platformları sunmaktan, Red Hat OpenShift ile açık hibrit bulut ve bulut tabanlı bilgi işlemin temeli olarak konteynerleri ve Kubernetes’i kullanmaya kadar, neredeyse aynı uzunlukta bir süredir bu sorumluluğa öncülük ediyor.
Bu çaba, Red Hat’in açık hibrit bulutta AI/ML stratejilerini güçlendirmesiyle devam ediyor ve AI iş yüklerinin veri merkezinde, birden fazla genel bulutta veya uçta verinin bulunduğu yerde çalıştırılmasına olanak tanıyor. Red Hat’in yapay zekaya yönelik vizyonu, iş yüklerinin ötesinde, veri egemenliği, uyumluluk ve operasyonel bütünlük ile ilgili sınırlamaları daha iyi ele almak için model eğitimi ve aynı yolu ayarlamayı da beraberinde getiriyor. Red Hat platformlarının bu ortamlarda sağladığı tutarlılık, nerede çalışırlarsa çalışsınlar, yapay zeka inovasyonunun akışını sürdürmede çok önemli.
RHEL AI ve InstructLab topluluğu, bir sonraki akıllı iş yükleri dalgasını desteklemek için gereken araçları, verileri ve kavramları sağlarken, yapay zeka modelleri denemenin ve oluşturmanın önündeki birçok engeli ortadan kaldırarak bu vizyonu daha da ileriye taşıyor.
Kullanılabilirlik
Red Hat Enterprise Linux AI artık geliştirici önizlemesi olarak mevcut. Granite modellerini eğitmek ve InstructLab’ı desteklemek için kullanılan IBM Cloud’da bulunan GPU altyapısını temel alan IBM Cloud, artık RHEL AI ve OpenShift AI için destek ekleyecek. Bu entegrasyon, kuruluşların üretken yapay zekayı görev açısından kritik uygulamalarına daha kolay bir şekilde dağıtmasına olanak tanıyacak.