Microsoft, yapay zeka ile çalışan PC uygulamaları için Windows AI Foundry’yi açıklar

Microsoft, geliştiricilerin uygulamalarında AI deneyimleri ile kullanıcılar oluşturmalarına, denemelerine ve ulaşmalarına yardımcı olmak için ‘Copilot Çalışma Zamanı’nı Windows AI Foundry ile değiştiriyor.

Windows AI Foundry sadece Microsoft’un modelini değil, NVIDIA’dan NVIDIA NIM gibi de dahil olmak üzere diğer açık kaynak modellerini de içerecek.

Bu modellerle, geliştiriciler yeni AI deneyimlerini ve modellerini uygulamalarına entegre edebilirler.

Microsoft bir blog yazısında, “Buna ek olarak, Windows AI Foundry, metin zekası, resim açıklaması, metin tanıma, özel istemi ve nesne silme gibi anahtar dil ve vizyon görevleri için Copilot+ PC’lerde Windows Gelen Kutusu modelleri tarafından desteklenen kullanıma hazır AI API’leri sunuyor.”

“Gelen kutumuz SLM, Phi Silika’yı özel verilerle finetunlamak için Lora (düşük rütbeli adaption) gibi yeni yetenekleri duyuruyoruz. Ayrıca, geliştiricilerin özel verileriyle doğal dil arama ve rag (geri çekilme artışı) senaryoları oluşturabilmeleri için yeni API’leri duyuruyoruz.”

AI Foundry, PC’leri için yeni AI modelleri oluşturmaya yardımcı olur

Windows’taki AI Foundry, geliştiricilerin çok fazla kurulum veya optimizasyona ihtiyaç duymadan PC’lerinde güçlü AI modellerini kullanmalarını kolaylaştırır. Bilgisayarınızın ne tür bir donanıma sahip olduğunu kontrol eder ve sonra hangi AI modellerinin en iyi şekilde çalışacağını gösterir.

Örneğin, AI Foundry modelleri otomatik olarak cihazınızın donanımıyla eşleştirir, bu nedenle bir geliştiriciyseniz, bunu çözmeniz gerekmez.

İşte özelliklerin tam listesi:

• Kullanıma hazır modeller: Geliştiricilere, bir CPU, GPU veya NPU (nöral işleme ünitesi) olsun, zaten farklı bilgisayar donanımında sorunsuz çalışacak şekilde optimize edilmiş olan önceden eğitilmiş açık kaynaklı AI modellerine (Ollama, Nvidia ve diğerleri gibi) erişim sağlar.
• Foundry Yerel: TPC’niz için doğru modelleri bulmaya ve kullanmaya yardımcı olur. Basit bir komut kullanarak yükleyebilirsiniz (Winget Microsoft.foundryLocal).
• Geliştirici Araçları: Geliştiriciler ayrıca bu modelleri kolayca test etmek ve uygulamalarına eklemek için bir komut satırı aracı (CLI) ve bir SDK (yazılım kiti) alırlar.

Tüm bu özellikler yakında doğrudan Windows 11 ve Windows App SDK’ya oluşturulacaktır.