Belçika’daki Üniversitelerarası Mikroelektronik Merkezi’nde (Imec) yapay zeka (AI) program yöneticisi Julie Moeyersoms, 2023’ün yapay zeka yılı olarak hatırlanacağına inanıyor.
ChatGPT yalnızca büyük bir sıçrama yapmakla kalmadı, aynı zamanda birçoğu küçük, gömülü cihazlar kullanan başka uygulamalar da çıkıyor. Moeyersoms, “Yapay zekanın iPhone moduna ulaştığını rahatlıkla söyleyebiliriz,” diyor. “Bu teknolojinin kitlesel olarak benimsenmesi yaklaşıyor ve çok hızlı bir şekilde atılımlar görüyoruz.”
AI, toplum üzerinde en az kişisel bilgisayar veya internet gibi önceki teknolojik buluşlar kadar etkiye sahip olacaktır. Ancak uygulamalardaki üstel büyüme, hesaplamalı iş yüklerinde üstel büyüme ile sonuçlanacaktır. Makine öğrenimi algoritmaları zaten milyarlarca işlem gerektiriyor ve geride çok büyük bir karbon ayak izi bırakıyor – ve sorun çok daha büyük, çok hızlı.
Günümüzün AI uygulamalarının çoğunu destekleyen son teknoloji ürünü süslü sinir ağları, hesaplama taleplerini her iki yılda bir 100 kat artırarak Moore Yasasını çok aşıyor. Moeyersoms, “Güç tüketimini ele almazsak, bir barikatla karşılaşacağımızdan eminiz” diye uyarıyor.
Imec’te AI araştırmalarına liderlik eden ve aynı zamanda Antwerp Üniversitesi’nde yarı zamanlı bir profesör olan Steven Latré, “Daha da zor olan şey, AI modellerinin yakın gelecekte gömülü cihazlarda çalışması gerekmesidir” diyor.
“Her sorgu için buluta gitmek istemezsiniz. Zekayı uçta yerleşik bir cihaza, bir akıllı telefona veya başka bir şeye aktarmanız gerekir. Uçta bu tür bir bilgi işlem gücünüz varsa, otomotivden yaşam bilimi uygulamalarına kadar yapabileceğiniz çok şey var.”
“Yapay zekanın iPhone moduna ulaştığını rahatlıkla söyleyebiliriz. Bu teknolojinin kitlesel olarak benimsenmesi yaklaşıyor ve çok hızlı bir şekilde atılımlar görüyoruz”
Julie Moeyersoms, İmec
Latré, “Elbette zorluk, güç verimliliğidir” diyor. “Mevcut sinir ağlarını bir uç cihaza getirirseniz, çok fazla enerji yakar. Aslında, uygulamayı bugün var olan herhangi bir tür pille çalıştırmak bile mümkün olmazdı.”
Darboğazın üstesinden gelmek
Imec araştırmacıları, sistem teknolojisinin birlikte optimize edilmesini sağlamak için uygulama yığını genelinde yeniliği içeren tam kapsamlı bir yaklaşım uygulayarak bu zorluğun üstesinden geliyor. Birlikte optimizasyon, iki veya daha fazla bileşenin birbirine bağlı bir şekilde optimize edilmesi anlamına gelir. Diğer bileşenlerin mevcut olacağı varsayımına dayalı olarak bir bileşende iyileştirmeler yapılır.
Belirli bir uygulamanın iş yükü hakkında iyi bir bilgi sahibi olan araştırmacılar, makine öğrenimi algoritmalarını ve donanım mimarisini uyarlar. Hem yazılım hem de donanım uygulamaya göre uyarlanmıştır. Ayrıca, yazılım belirli bir donanım üzerinde çalışacak şekilde optimize edilmiştir ve bunun tersi de geçerlidir.
“Genel amaçlı von Neumann mimarilerinden, özellikle bilgi işlem kaynaklarına yönelik yüksek bir talep olduğunda ve güç tüketimi yüksek olduğunda, daha etki alanına ve hatta uygulamaya özel mimarilere doğru yavaş yavaş uzaklaşıyoruz. Moeyersoms, örnek uygulamalar otomotiv, sağlık ve robot bilimidir” diyor.
“Yapay zeka teknolojisi hem bulutta hem de bu gömülü cihazlarda çalışıyor” diye ekliyor. “Her ortamın belirli bir mimariye ihtiyacı vardır. Gömülü bir cihazda ChatGPT’nin gücüne sahip olmak istiyoruz. Ve buna ihtiyaç duyulacak çünkü bu uç cihazların da katlanarak artan hesaplama gereksinimleri var.”
Gömülü yapay zeka gerektirecek uygulamalar, örneğin akıllı arabalara hizmet etmek için verilerin diğer sensör verileriyle birleştirilebilmesi için birden fazla sensörün ham verileri önceden işlediği karmaşık sensör füzyonunu içerir. İşbirlikçi robotlar (cobots) başka bir örnektir. Merkezi bir sistemi sorgulamak zorunda kalmadan çevreleriyle özgürce etkileşime girmeleri gerekiyor. Bu, yerleşik yapay zekaya ihtiyaç duydukları anlamına gelir.
Moeyersoms, “Cihazın kendisinde öğrenmenin yanı sıra çıkarım yapabilmek de birçok uygulamanın başarısı için çok önemli olacaktır” diyor.
Imec’in enerji tasarruflu yerleşik yapay zekaya yaklaşımı, çevik bir geliştirme yöntemi kullanan yoğun donanım ve yazılım ortak tasarımına dayanmaktadır. Gereken performans ve güç tüketimi seviyelerine ulaşmak için hem donanım hem de yazılım değiştirilir – ve daha da önemlisi, yazılım ve donanım, belirli bir uygulama için birbirine göre hassas bir şekilde ayarlanır.
Ancak Imec, gömülü yapay zekayı daha pratik hale getirebilecek bir yaklaşım olan nöromorfik hesaplama konusunda da uzmanlık geliştiriyor.
Gömülü yapay zekaya nöromorfik bilgi işlem uygulama
Latré, “İnsan beyni, 20 watt güçle bir exaflop yapabilir” diyor. “Bunu dünyanın en hızlı süper bilgisayarı olan Oakridge Ulusal Laboratuarlarındaki Frontier ile karşılaştırın – bir exaflop yapmak için Frontier’in 20 megawatt’a ihtiyacı var. Yani, çok temel bir anlamda, insan beyni dünyanın en hızlı süper bilgisayarından bir milyon kat daha fazla enerji verimlidir.”
Imec, insan beyninin nasıl çalıştığına dair bildiklerimize dayanarak nöromorfik hesaplama, yazılım ve donanım geliştirme üzerine pek çok araştırma ve geliştirme yapıyor. Akıllı sensörler için temel olarak zaten nöromorfik çipler kullanıyor.
Moeyersoms, “Her biri çip türüne göre uyarlanmış bir sinir ağı tarafından desteklenen birkaç tür nöromorfik çipimiz var” diyor. “Bu nöromorfik çipler, genel amaçlı yapay zeka hızlandırıcıları değil. Bunun yerine, çok özel duyusal girdileri işlemek için tasarlandılar.”
“Biyolojik sistemler, verileri beyne göndermeden önce uçta işler. Gelecekteki uygulamalar için aynı şeyi yapmamız gerekecek. Ham verileri buluta veya merkezi bir bilgisayara göndermeye devam edemezsiniz. Sensörler uçta bazı görevleri gerçekleştirmek için gömülü yapay zekaya ihtiyaç duyacak ve bu da ancak güç tüketimini düşürdüğümüzde mümkün olacak”
İlya Ocket, İmec
Akıllı sensörler, gelecekteki AI uygulamalarının önemli bir parçası olacak ve gömülü AI ve nöromorfik bilgi işlemin bir kombinasyonu ile uygulanacaktır. Tüm görüntüleri işlemek yerine, nöromorfik sensörler görüntünün yalnızca değişikliğin meydana geldiği kısımlarını işler. Bu ve zeka dağıtma kavramı, teknolojinin doğayı taklit etme biçiminin başka örnekleridir.
Imec’te nöromorfik bilgi işlem program yöneticisi Ilja Ocket, “Biyolojik sistemler verileri beyne göndermeden önce uçta işler,” diye açıklıyor. “Örneğin uçta algılama görevlerini yerine getiriyorlar.”
“Gelecekteki uygulamalar için aynı şeyi yapmamız gerekecek. Ham verileri buluta veya merkezi bir bilgisayara göndermeye devam edemezsiniz. Sensörler uçtaki bazı görevleri gerçekleştirmek için gömülü yapay zekaya ihtiyaç duyacak ve bu da ancak güç tüketimini düşürdüğümüzde mümkün olacak.”
Güç tüketimini düşürmeye yönelik yeni bir dizi numarayla, yapay zeka uygulamaları için gelecek daha iyi görünüyor.