Test projesinden üretime geçişte yapay zeka (AI) ‘da en büyük engellerden ve başarısızlığın meydana gelebileceği kilit noktalardan biri. Ölçeklendirme depolama anahtardır, ancak tüm teknik ve organizasyonel parçaların bir araya gelmesini sağlamaktır.
Bu podcast’te, depolama dizisi üreticisi DDN’nin CTO Sven Oehme ile yapay zekayı üretime sokmanın temel teknik ve organizasyonel zorlukları, bu süreçte kilit roller ve kavram kanıtıdan (POC) yapay zeka üretimine kadar sorunsuz ilerlemenin nasıl sağlanacağı hakkında konuşuyoruz. Oehme, bunun anahtarı, BT altyapısının tüm alanlarını ve C seviyesindeki liderliği bir araya getirmek olduğunu söylüyor.
Yapay zeka üretime koymanın temel teknik engelleri nelerdir?
Yani, müşterilerle gördüğümüz şey, genellikle çok küçük bir POC ile başlamalarıdır. POC’lerin kurulması çok kolaydır. AI’nın etrafında dolaşan bir şey elde etmek için seçebileceğiniz çok sayıda satıcı var, ancak en büyük mücadeleyi gördüğümüz yerde, insanların POC veya test seviyesinden bir şeyleri tam üretime götürmeye çalıştıkları zamandır. Burası onlar için birçok zorluk ortaya çıkıyor.
Zorluklar performans etrafında olabilir – üretimde gitmeyi seçtikleri sistemler sadece gerçekleştirmiyor [well] yeterli. Var [also] Genellikle küçük ölçekte bir şey test ederseniz ölçeklenebilirlik etrafında sorunlar.
Bazı müşterilerin tam üretim ölçeğini almak için yaptığı gibi 100, 1000 veya on 1.000 GPU’ya gidecekseniz işler çok daha kolay. Büyük ölçekte birçok farklı sorun görürsünüz, bu yüzden kilit nokta, aslında başarılı bir şekilde konuşlandırılmış teknolojiyi çok büyük ölçekte seçmektir, çünkü tipik olarak üretime gittiğinizde, gerçek ölçeğin gerçekleştiği yerdir ve burada tipik sorunlar ortaya çıkar.
Yapay zeka üretimine sokmanın kilit organizasyon engelleri nelerdir?
Yapay zeka üretime alırsanız, örgütsel engeller tipik olarak birçok farklı şeyin bir araya gelmesidir. Tüketici veya son kullanıcının “Bu yeni uygulamaya yer almak istiyorum” veya “Bu ek iş paketinin benim için çalışmasını sağlamak” dediği projelerden farklı.
AI’nın daha fazla gereksinimi var [that need] Donanım ve ekosistem entegrasyonu açısından tüm altyapının çok sıkı entegrasyonu. [It is] Geleneksel BT projelerinden farklı – bir AI projesi, çeşitli yönleri arasında çok daha sıkı entegrasyona ihtiyaç duyar.
Ağ tarafından insanlara ihtiyacınız var; Depolama tarafı ve altyapının hesaplama tarafı ile ilgisi olan insanlar. Ve daha sonra genellikle son kullanıcılara, veri bilimcilerine veya AI altyapısını kullanan uygulamayı yazan kişilere ihtiyacınız vardır ve hepsini bir araya getirmeniz gerekir.
Dolayısıyla, gördüğümüz büyük organizasyonel engellerden biri, şirketlerde donanım ve yazılım tarafında altyapının alanlarını segmentlere ayırdıkları sınırlar olmasıdır. Yapay zeka projeleri için, başarılı bir dağıtım yapmak için tüm bu insanları bir masaya bir araya getirmek kesinlikle etkilidir.
AI pilot projeleri ile yapay zeka üretimdeki temel farklılıkları nasıl özetleyebiliriz?
Kilit olan şey, POC veya Pilot Stage’de gerçekte tam bir üretimde olduğundan çok daha basit görünen şeylerdir.
Yani, bir proje başlatırsanız, en başından beri tam üretimde nasıl görüneceğini anlamalısınız. [You should] Bir pilot yaptığınızda bunu amaçladığından, mimarinin ölçeklenebilir olduğundan ve konuşlandırdığınız şeyin küçük ölçekte değil, aynı zamanda çok büyük ölçekte çalışabileceğinden emin olun.
Müşterilerin AI projelerinde operasyona başarılı bir şekilde geçtiklerinden emin olmak için kullanabilecekleri teknik veya operasyonel bir şablon var mı?
Anahtar, proje için bir odak noktasına sahip olmaktır [that can] Çeşitli alanlardan kaynakları ve potansiyel müşterileri çekin. Bunu yapan bir bütünsel ekip oluşturamazsanız, en azından tüm doğru insanları düzenleyen ve masaya getiren sorumlu birine sahip olmanız gerekir.
AI tipik olarak birçok farklı altyapı alanına dokunur. Bu geleneksel bir BT projesi değildir ve bu nedenle başarılı bir sonuç elde etmek için çeşitli ekipler ve kuruluşlar arasında çok daha sıkı bir entegrasyona ihtiyacınız vardır.
Organizasyonda veya BT organizasyonunda hangi rolü üstlenir? Yoksa yeni roller mi oluşuyor?
Açıkça yeni roller ortaya çıkıyor. Ancak gördüğümüz şey, en başarılı olan projeler, iş değeri yaratma tarafından yönlendirilen projelerdir.
Yani, tipik olarak bu [would be] “Gerçek iş değeri yaratmak için AI’dan yararlanmak istiyoruz” diyen bir C seviyesi yönetici sponsoru. Bunlar tipik olarak en başarılı olanlardır, çünkü gelir karlılık perspektifinden kaynaklanırlar ve öncelikle yapıldığından emin olmak için doğru odağı, doğru yatırım seviyesini ve doğru yönetici sponsorluğunu verir.
Daha düşük bir seviyede çözülmesi çok daha zor olan organizasyonlar veya barikatlar içindeki engelleri çok kolayca aşabilirsiniz.