Değirmen veya elektrikten farklı olarak bulut, ChatGPT gibi geniş ve popüler sistemler sayesinde neredeyse herkesin AI’yı ve yapabileceklerini deneyimlemesini kolaylaştırdı. Ancak NVIDIA’da Çözüm Mimarisi ve Mühendisliği Başkan Yardımcısı Marc Hamilton, AI’nın genişletilmiş kullanımlarının hem daha zor hem de hayal ettiğimizden daha az anlaşılmış olduğunu düşünüyor.
Potansiyelini gerçekleştirmede kritik olan, hem Hamilton hem de CEO Jensen Huang’ın AI fabrikası olarak adlandırdığı bir kavramdır. Hamilton, “Bu, girdileri olması bakımından elektriğe biraz benziyor – bu durumda enerji ve veri – ve elektrik gibi pek çok kişi nasıl çalıştığını tam olarak bilmiyordu,” diyor. “Sadece bir soru sorabileceğimizi ve bunun gizemli bir şekilde cevap vereceğini biliyoruz.”
Şimdi şirket, yapay zekanın arkasındaki veri yönetimi, taşıma ve işleme süreçlerini ele alıp, geliştirirken iyileştirme misyonunda.
Yeni Dünya
Yapay zeka fabrikasını doğru yapmamızın sebebi devrimin derinliklerinde olmamızdır. Çok fazla şirket ve kullanıcı faydaları görüyor ve güvenlik, enerji ihtiyaçları ve çalışanların hepsi etkilenecek.
Bu, yanlış anlamalar hakkında eğitimin yenilikler kadar önemli olduğu anlamına gelir. Kaçınılmaz olarak yeniden beceri edinme olacak ve bazı işler kaybolacak, ancak çok daha fazla iş dönüştürülecek.
Hamilton, iki veya üç saatte bir ev ilanı yazabilecek bir emlakçı örneğini veriyor; doğru yapmak alıcıları çekmenin anahtarıdır. Alandaki bazıları Ai’den ilan yazmasını istedi, ancak hepimiz ‘yapay’ gibi görünen AI tarafından oluşturulmuş içerikler okuduk.
Hamilton, endüstrinin öğrendiği sırrın, bir sohbet robotuna ‘üç yatak odası’, ‘sahilde’ vb. gibi anahtar kelimeler vermek, yapay zekanın taslağı yazmasına izin vermek ve ardından üç saat sıfırdan yazmak yerine 20 dakika düzenleme stili ve tonu harcamak olduğunu söylüyor. Hiç kimsenin işi ortadan kalkmakla kalmıyor, yapay zekanın katılımı sayesinde sahip olduğumuz zamanla daha fazlasını yapabiliyoruz.
Hatta bölgeye özgü uygulamaları bile var. Araç içi AI asistanları, sürücünün uyuyup uyumadığını, şeritten çıkıp çıkmadığını vb. izleyebilir ve Avustralya’da güvenliği artırmak için bu tür teknolojilere benzersiz bir şekilde sahibiz. “Nüfus merkezleri ile kamyon rotaları arasındaki mesafeler göz önüne alındığında, özellikle Avustralya taşımacılığındaki müşterilerimiz ve kullanıcılarımız için oldukça yararlı,” diyor.
Bir diğer yanlış anlama da sektörünüze veya hatta sadece organizasyonunuza uygun alan-spesifik bir AI geliştirmenin önündeki engellerle ilgilidir. Hamilton, “Şirketler bize kendi büyük dil modellerini oluşturmak için 10.000 GPU’ları olmadığını veya bunları kiralamak için paraları olmadığını söylüyorlar” diyor.
Ancak, son teknoloji açık kaynaklı LLM’lerin ekosistemine atıfta bulunuyor. Teknik beceri ve alan bilgisinin doğru karışımıyla, kullanıcıların bunları genel amaçlı modeller kadar iyi veya daha iyi olacak şekilde yarattığını veya ince ayarladığını gördü. “ChatGPT çok iyi çünkü çok fazla bilgiye sahip – her şeyde iyi olmada en iyisi.”
Bunun iyi bir örneği Bloomberg’in yapay zeka sistemidir (Bloomberg GPT), sadece finans alanındaki verilere odaklanıyor ve daha genel sohbet robotlarına göre soruları yanıtlamada çok daha iyi iş çıkarıyor.
Yeni paradigmalar
Ancak yapay zeka, bizi bulut hakkında her zamankinden daha fazla düşünmeye sevk ederken, modern bilişimin sunduğu en acil iki zorluğu da daha da kötüleştirecek: güvenlik ve enerji.
Hamilton’un da dediği gibi, veri gizliliği sorunları nedeniyle herkes ChatGPT’yi kullanamaz. Herkese açık internet verileri üzerinde eğitilmiştir, ancak hassas bilgileri kontrol ediyorsanız, her zaman bağlı bulutlarda barındırılamaz.
Bir Microsoft ürünü olan ChatGPT, Azure’da da çalışır, bu nedenle verileriniz Google veya AWS’de barındırılıyorsa, bunları taşımak veya bağlamak mümkün olmayabilir. “Şirketlerin özel bulutlarda veya şirket içi ortamlarda çalışacak kendi LLMS’lerini oluşturmaları için artan bir ihtiyaç görüyoruz.”
Enerji söz konusu olduğunda, yapay zeka çağında veri merkezlerinin artan karbon ayak izi iyi belgelenmiştir. Ancak büyük nüfus veri teknolojisi merkezlerinde enerji kullanımını iyileştirmenin yanı sıra, daha az bilinen bir strateji de fazla enerjiyi daha küçük yerel ihtiyaçlara hizmet etmek için daha özel bölgesel veri ortamlarına güç sağlamak için kullanmaktır.
“Dünyanın herhangi bir yerindeki müşteriler için AI Fabrikaları yerleştirme yeteneği gördüğümüz yeni bir iş modelidir. Genel bir bulut kullanmak, tescilli olmayan verilerle teknolojiyi öğrenmeye başlamanın iyi bir yoludur, ancak açık kaynaklı bir model kullanan daha küçük bir operasyon maliyeti, güç gereksinimlerini ve esnekliği düşürebilir.”
Ancak yerelliğin ötesinde, genel olarak AI’daki işlemeyi kolaylaştırmamız gerekiyor ve buna verilecek yanıtlardan biri NVIDIA’nın özel AI platformu DGX aracılığıyla sunduğu hızlandırılmış bilgi işlemdir. “Veri işlemeyi daha enerji verimli hale getirmek çok önemlidir, çünkü LLM’lerin eğitimine giden enerjinin %80-90’ı sadece veri işlemedir. CPU’lardan GPU’lara ve diğer hızlandırıcılara geçmek enerji verimliliğine doğru önemli bir adımdır.”