Muhasebeci değilseniz, yıl sonu vergi beyannamesinin tamamı bir kabus olabilir. Beyannamenizi dört gözle bekliyor olabilirsiniz ancak muhtemelen bir vergi uzmanına para ödemek veya kendiniz birkaç saatinizi beyanname vermek için harcamak konusunda çok heyecanlı değilsinizdir. Peki ya tüm süreç akıllı telefonunuzdaki bir dijital asistanla tamamlanabilseydi? Böyle bir üretkenlik uygulamasının sağladığı zaman ve maliyet tasarrufu önemli olurdu. Cihaz üzerindeki yapay zekanın (YZ) potansiyel gücü budur.
Vergi beyannamesi örneği, cihaz üzerindeki AI’nın tüketicilere ve işletmelere zaman ve para kazandırabileceği birçok yoldan sadece biridir. Akıllı ev aletlerini optimize etmekten otomatik olarak bir müşteri sözleşmesi taslağı hazırlamaya kadar, cihaz üzerindeki üretken AI ve etkinleştirebileceği üretkenlik uygulamaları, akıllı telefon ve PC pazarlarında heyecan verici yeni bir çağın kilidini açmanın anahtarıdır.
Yapay zeka iş yükleri buluttan düşüyor
Kişisel cihazlar ve iş cihazları için yapay zeka yeni bir kavram değil ancak uygulamaların büyük çoğunluğu bulutta çalışıyor. Bulutu kullanmak kaynak kapasitesi ve depolama açısından harika olsa da bulut merkezli bir yapay zeka modeli, yüksek gecikme süresi ve ağ tıkanıklığı gibi teknik zorluklara sahiptir. Sonuç olarak, birçok bulut tabanlı yapay zeka uygulamasının kullanıcı deneyimi, müşterilerin beklediğinin altında kalıyor.
Bu teknik zorlukları çözmek için akıllı telefon üreticileri, yerel yapay zeka çıkarımını desteklemek amacıyla yapay zeka hızlandırıcılarını ileri teknoloji cihazlara yerleştirmeye başlıyor. Ancak cihazdaki yapay zeka uygulamaları öncelikle ses kontrolü, yapay zeka destekli görüntüleme ve diğer “deneyim odaklı” uygulamalarla sınırlıydı. Cihaz içi yapay zekanın değerinin ortaya çıkarılması, sıkıştırılmış üretken yapay zeka modelleri kullanılarak belirli kullanım örneklerine göre uyarlanmış geniş bir yelpazedeki üretkenlik yapay zeka uygulamalarının geliştirilmesini gerektirir.
Cihaz içi yapay zekanın değeri
ChatGPT, tüketiciler ve kuruluşlar arasında üretken yapay zeka için büyük bir heyecan döngüsü başlattı ve bu da çeşitli pazarlarda test ve dağıtıma yol açtı. Bu yapay zeka modellerinin çoğu genel bulutta konuşlandırıldığından, kullanıcılar ağ tıkanıklığı, veri gizliliği sorunları ve genişleyen kullanıcı tabanlarının bir sonucu olarak artan bulut faturaları yaşıyor. Buna karşılık, cihaz içi yapay zeka tarafından etkinleştirilen yerel yapay zeka iş yükleri, ağ gecikmesini ortadan kaldırarak, çeşitli masrafları azaltarak, gelecekteki yapay zeka yeteneklerini destekleyerek ve veri güvenliğini güçlendirerek kullanıcı deneyimini geliştirir. Bu faydalar aşağıda daha ayrıntılı olarak açıklanmaktadır.
- İyileştirilmiş ağ gecikmesi: Dijital asistanlar ve kurumsal Genişletilmiş Gerçeklik (XR) gibi yapay zeka uygulamaları, mümkün olan en doğal, kişiselleştirilmiş ve ilgi çekici etkileşimi sağlamak için düşük gecikmeler gerektirir. Yapay zeka çıkarımını cihaza getirmek, ağ gecikmesi riskini ortadan kaldırır ve yazılım geliştiricilerinin bulut merkezli bir yapay zeka mimarisiyle imkansız olacak “görev açısından kritik” uygulamalar için daha geniş bir üretkenlik uygulamaları yelpazesi oluşturmasını sağlar.
- Maliyet tasarrufları: AI dağıtımları artmaya devam ettikçe, ağlara ve bulut barındırmaya olan talep uygulama geliştiricileri ve işletmeler için maliyetleri daha da artıracaktır. Yerel AI işleme bu maliyetlerin çoğunu ortadan kaldırır ve ayrıca veri merkezi enerji kullanımını azaltır. Sıkıştırma ve niceleme gibi optimizasyon araçları, 15 milyardan az parametreye sahip doğru, düşük güç tüketimli AI modelleri geliştirerek cihaz üzerinde üretken AI’yı etkinleştirmede hayati bir rol oynayacaktır.
- Gelecekteki yapay zeka yetenekleri için destek: Hiç kimse bir veya iki yıl içinde geçerliliğini yitirecek bir cihaza yatırım yapmak istemez. Cihazdaki yapay zeka hızlandırıcıları, henüz piyasaya çıkmamış üretken yapay zeka modellerini ve uygulamalarını destekleyecek şekilde optimize edilebilir. Buna karşılık, akıllı telefon ve bilgisayar sahipleri yatırım getirilerini (ROI) en üst düzeye çıkarır.
- Gelişmiş veri güvenliği: Genel bulut hizmeti sağlayıcıları güvenlik önlemleri dağıtsa da, son yıllarda çeşitli kuruluşlarda bulut tabanlı ihlallerin kanıtladığı gibi, bunlar kurşun geçirmez değildir. Cihazdaki AI, kullanıcı verilerini ve sensör verilerini yerel tutarak kişisel bilgilerin veya Fikri Mülkiyetin (IP) tehlikeye atılma riskini en aza indirir. Ayrıca, cihazdaki AI modellerinin düşük gecikme yeteneklerinin tehdit algılamayı ve diğer siber güvenlik işlevlerini iyileştirdiğini belirtmekte fayda var.
- Model kişiselleştirme: AI modelleri genel bulutta kişiselleştirilebilirken, bu daha fazla veri gizliliği ve maliyet optimizasyonu için son kullanıcı taleplerine aykırıdır. Cihaz içi işleme, AI modellerinin son kullanıcı tercihlerine, davranışlarına ve uygulamalarına göre yerel olarak ince ayarlanmasını sağlar. Bu, özellikle değerlidir çünkü AI modellerinin Wi-Fi, GPS ve sensör verileri gibi çeşitli gelen sensör/kullanıcı verisi kaynaklarını kullanarak verimli bir şekilde kişiselleştirilmesini sağlar. Bunun, gelişmiş AI üretkenliği, iyileştirilmiş erişilebilirlik ve daha sezgisel ve otomatik etkileşimler/deneyimler gibi önemli avantajları vardır.
Cihaz İçi Yapay Zeka tüketicileri daha üretken hale getiriyor
Tüketiciler akıllı telefonlarını geçmiş yıllara göre daha yavaş bir oranda güncelliyor. Belki de pazar azalan getiri noktasına ulaştı. Örneğin, her yeni akıllı telefon yinelemesinin selefine kıyasla çok az veya hiç ek değere sahip olmadığı hissediliyor. ABI Research, akıllı telefonlar ve tabletlere yönelik tüketici talebinin cihaz içi AI ve üretkenliğe odaklı AI uygulamalarının bir kombinasyonu yoluyla teşvik edilebileceğine inanıyor.
Cihaz üreticileri bu cihaz içi yapay zeka uygulamalarıyla ölçülebilir yatırım getirisi (maliyet ve zaman tasarrufu) gösterirse tüketiciler, cihazlarını daha sık yükseltmeye teşvik edilecek. İster bir aile buluşmasının otomatik olarak planlanmasıyla sağlanan zaman tasarrufu, ister optimize edilmiş enerji kullanımından elde edilen enerji maliyeti tasarrufu olsun, tüketicilerin daha yeni akıllı telefon modelleri satın almak için yeni bir nedeni olacak. Dahası, üretkenlik yapay zeka uygulamaları potansiyel olarak bir sanatçının veya yapımcının yaratıcı bir fikri hayata geçirmesine yardımcı olabilir.
Pazar gidişatını örnekleyen Qualcomm ve Samsung, yakın zamanda Galaxy S24 Serisi için mobil yapay zeka yeteneklerini desteklemek üzere ortaklık kurdu. Üretkenlik yapay zeka uygulamaları yalnızca cihazın yenileme hızlarını düşürmekle kalmayacak, aynı zamanda yeni donanım, Samsung gibi cihaz üreticilerinin ürünlerinin perakende fiyatlarını artırmasını haklı çıkaracak.
Kuruluşlar cihazdaki yapay zekadan nasıl yararlanabilir?
Cihaz inovasyonu eksikliğinin PC’ler ve dizüstü bilgisayarlar için sevkiyat artışını durdurduğu kurumsal pazar için de hikaye farklı değil. Yapay zekanın bu cihazlara yerel olarak dağıtılması, çevrimdışı üretkenlikten, daha düşük gecikmelerden, gelişmiş veri gizliliğinden, gelişmiş kullanıcı-cihaz iletişiminden ve model kişiselleştirmeden elde edilen değer nedeniyle işletmeleri cezbedecektir. Cihaz içi üretkenlik Yapay zeka, yönetim görevlerini (örneğin planlama, sözleşme taslağı hazırlama, not alma vb.) otomatikleştirerek ve kullanıcıların cihazları çevrimdışıyken bile üretken olmalarını sağlayarak şirketlerin zamandan ve paradan tasarruf etmesini sağlar. Bu yeni üretken yapay zeka uygulamalarından yararlanan kuruluşlar, her çalışandan yılda binlerce dolar tasarruf edebilir ve çalışanların hareket halindeyken (örneğin, müşteri sitelerine seyahat ederken) Microsoft Copilot gibi üretken yapay zeka destekli uygulamalardan yararlanmasına olanak tanır.
ABI Research, kuruluş içindeki cihaz üstü AI’nın en erken dağıtımlarının arka uç operasyonlarında, ofislerde ve profesyonel hizmet sektörlerinde gerçekleştiğini gördü, çünkü erken uygulamalar (Microsoft Copilot gibi) net bir yatırım getirisi sunuyor. Ancak, cihaz üstü AI üretkenlik AI uygulamaları ve farklı form faktörleri için destekle olgunlaştıkça, üretim, sağlık, lojistik ve taşımacılık ve telekomünikasyon gibi diğer dikeylerin benimsemeyi artırmasını bekleyin.
Akıllı telefonlar ve bilgisayarlar, işletmeler için cihaz içi AI tartışmasının aslan payını elinde tutarken, aynı faydalar otomotiv, XR ve Nesnelerin İnterneti (IoT)/giyilebilir cihazlar alanlarına da uygulanabilir. Gerçekten de, azaltılmış gecikmeler araç içi dijital asistan yeteneklerini geliştirir ve veri gizliliği bulut bilişim maliyetlerini ortadan kaldırırken sağlık hizmeti hastalarının veya üreticilerin hassas verilerini korur. Dahası, madencilik ve lojistik firmaları, ağ kesintilerine eğilimli uzak bölgelerde XR ve IoT cihazlarını kullanırken cihaz içi AI’nın yüksek güvenilirliğini takdir edeceklerdir. Tüketici segmentinde olduğu gibi, uygun üretkenlik AI uygulamalarına sahip cihaz içi AI donanımının, bir sonraki “katil uygulamayı” ararken işletmeler arasında cihaz yenileme hızlarını düşürmesi bekleniyor.
Cihaz içi yapay zekanın geleceği
Son trendlerden oluşan bir dalga, cihaz içi yapay zekayı desteklemenin ayrılmaz bir parçası oldu. Qualcomm’un PC’ler için Snapdragon X Elite’i gibi heterojen yonga setleri, Grafik İşlem Birimi’ni (GPU), Merkezi İşlem Birimi’ni (CPU) ve Sinir İşleme Birimi’ni (NPU) tek bir Çip Üzerinde Sistem’de (SoC) birleştirir. Bu, AI iş yükünün daha verimli çalışmasını sağlar ve uygulamanın performansını artırır. Bunun yanı sıra, yüksek güç, bellek ve bilgi işlem gereksinimleri olmadan çok daha büyük modellerin doğruluğunu, performansını ve bilgisini eşleştirebilen, yüksek düzeyde optimize edilmiş, cihaza hazır küçük üretken yapay zeka modelleri oluşturmaya yönelik büyük bir baskı var. Bu yazılım yeniliği, düşük giriş engellerini (Qualcomm AI Stack gibi Yazılım Geliştirme Kitleri (SDK’ler) ve kodsuz/düşük kodlu platformlar aracılığıyla) birleştirmek ve üretkenlik yapay zeka uygulamalarının geliştirilmesini hızlandırmak için kilit paydaşlar arasındaki artan işbirliğiyle tamamlandı.
Cihaz içi yapay zeka pazarının kaderi üç önemli paydaşın omuzlarına düşüyor:
- Bağımsız Yazılım Satıcıları (ISV’ler), temeldeki donanıma göre optimize edilmiş yapay zeka uygulamaları oluşturmak için mevcut yapay zeka modellerinden ve araçlarından yararlanır.
- Yonga seti satıcıları, SDK’lar sunarak yonga setinin cihazda AI çalıştırabilmesini ve uygulama geliştirmeyi kolaylaştırmasını sağlar. Yonga seti satıcılarının cihaz sınırlamalarını ele almak için silikon yeteneklerini garantilemesi de hayati önem taşır.
- Orijinal Ekipman Üreticileri (OEM’ler) çeşitli bileşenleri tek bir cihazda birleştirir ve uygulamaları tüketici/kurumsal sorunların ve donanımların ihtiyaçlarına göre düzenler.
Bu şirketler arasındaki yakın işbirliği sayesinde, cihaz içi üretkenlik yapay zekası aracılığıyla sürdürülebilir uzun vadeli gelir akışları sağlamak için inovasyon daha da ileri götürülebilir. Örneğin, Ray-Ban Meta akıllı gözlük koleksiyonu, ağ gecikmelerini ve gerçek zamanlı çeviri yeteneklerini azaltarak gözlük üzerinde yapay zeka sağlamak için Qualcomm yonga setlerini kullanıyor. Bir zamanlar “eğlence” cihazları olarak algılanan cihazlar, gelişmiş fotoğrafçılığın veya genel sesli asistanların ötesinde değer sunan temel “üretkenlik” cihazları olarak kabul edilecek.
Kapanışta ABI Research, pazarın yavaş yavaş “hibrit yapay zeka” yaklaşımını benimseyeceğini öngörüyor. Hibrit bir yapay zeka mimarisiyle yapay zeka iş yükleri, ticari ve teknik önceliklere bağlı olarak uçta, bulutta veya cihazda bulunur. Örneğin, son derece veriye duyarlı uygulamalarda model eğitimi bulutta gerçekleştirilirken, kullanıcı verilerinden yararlanan bu modellerin çıkarımları ve ince ayarları maksimum gizliliği sağlamak için cihaz üzerinde gerçekleştirilebilir. Kullanıcılar, hibrit bir yapay zeka yaklaşımını benimseyerek güç tüketimini dağıtabilir, bellek darboğazlarını azaltabilir ve fiyat-performans oranlarını en üst düzeye çıkarabilir
Reece Hayden, ABI Research’te baş analisttir ve analist firmasının yapay zeka ve makine öğrenimi araştırma hizmetini yönetmektedir.