Red Hat Enterprise Linux (RHEL) AI, kullanıcıların kurumsal uygulamaları desteklemek için GenAI modelleri geliştirmesine, test etmesine ve çalıştırmasına olanak tanıyan Red Hat’in temel model platformudur.
Platform, açık kaynaklı lisanslı Granite LLM ailesini ve Büyük Ölçekli Hizalama for ChatBots (LAB) metodolojisine dayalı InstructLab model hizalama araçlarını bir araya getiriyor ve hibrit bulut genelindeki bireysel sunucu dağıtımları için optimize edilmiş, önyüklenebilir bir RHEL görüntüsü olarak paketleniyor.
GenAI’nin vaadi muazzam olsa da, LLM’leri tedarik etme, eğitme ve ince ayar yapma ile ilişkili maliyetler astronomik olabilir ve bazı önde gelen modellerin lansmandan önce eğitilmesi yaklaşık 200 milyon dolara mal olur. Bu, genellikle veri bilimcileri veya son derece uzmanlaşmış geliştiriciler gerektiren belirli bir organizasyonun belirli gereksinimleri veya verileri için hizalama maliyetini içermez. Belirli bir uygulama için seçilen model ne olursa olsun, onu şirket özelindeki veriler ve süreçlerle hizalamak için yine de hizalama gereklidir ve bu da gerçek üretim ortamlarında AI için verimliliği ve çevikliği önemli hale getirir.
Red Hat, daha küçük, daha verimli ve amaca yönelik AI modellerinin önümüzdeki on yılda bulut tabanlı uygulamalarla birlikte kurumsal BT yığınının önemli bir karışımını oluşturacağına inanıyor. Ancak bunu başarmak için GenAI’nin maliyetlerinden katkıda bulunanlara ve hibrit bulutta nerede çalışabileceğine kadar daha erişilebilir ve kullanılabilir olması gerekiyor. Açık kaynak toplulukları, onlarca yıldır çeşitli kullanıcı gruplarından gelen katkılarla karmaşık yazılım sorunları için benzer zorlukların çözülmesine yardımcı oldu; benzer bir yaklaşım, GenAI’yi etkili bir şekilde benimsemenin önündeki engelleri azaltabilir.
RHEL AI’nın ele almayı amaçladığı zorluklar şunlardır: GenAI’yi hibrit bulut genelinde CIO’lar ve kurumsal BT kuruluşları için daha erişilebilir, daha verimli ve daha esnek hale getirmek. RHEL AI şunlara yardımcı olur:
- Çeşitli GenAI kullanım durumlarıyla uyumlu, kurumsal düzeyde, açık kaynaklı lisanslı Granite modelleriyle GenAI inovasyonunu güçlendirin.
- InstructLab araçlarıyla GenAI modellerinin iş gereksinimlerine uyumunu kolaylaştırın; böylece bir organizasyondaki alan uzmanlarının ve geliştiricilerin, kapsamlı veri bilimi becerilerine sahip olmasalar bile modellerine benzersiz beceriler ve bilgiler katmalarını mümkün kılın.
- Üretim sunucuları için ilişkili verilerin bulunduğu her yerde modelleri ayarlamak ve dağıtmak için tüm araçları sağlayarak GenAI’yi hibrit bulutun her yerinde eğitin ve dağıtın. RHEL AI ayrıca, aynı araçları ve kavramları kullanırken bu modelleri ölçeklenebilir bir şekilde eğitmek, ayarlamak ve sunmak için Red Hat OpenShift AI’ya hazır bir rampa sağlar.
RHEL AI, bugün genel olarak Red Hat Müşteri Portalı üzerinden şirket içinde çalıştırmak veya AWS ve IBM Cloud’a “kendi aboneliğinizi getirin” (BYOS) teklifi olarak yüklemek için kullanılabilir. Azure ve Google Cloud’da bir BYOS teklifi 2024’ün 4. çeyreği için planlanıyor ve RHEL AI’nın bu yılın ilerleyen zamanlarında IBM Cloud’da bir hizmet olarak da kullanılabilir olması bekleniyor.