Microsoft, DeepSeek 7B ve 14B Yapay Zeka Modellerini Copilot+ PC’lere Getiriyor

Şimdi ise Microsoft, Azure AI Foundry aracılığıyla Copilot+ PC’ler için DeepSeek R1 7B ve 14B damıtılmış modellerinin kullanılabilirliğini duyurdu. 7B ve 14B modellerini Copilot+ PC’lerde yerel olarak çalıştırma yeteneği, geliştiricilerin daha önce mümkün olmayan yeni türde yapay zeka destekli uygulamalar oluşturmasını sağlayacak.

Modeller NPU’larda çalıştığı için kullanıcılar, PC pil ömrü ve termal performansı üzerinde daha az etkiyle sürdürülebilir Ayrıca, CPU ve GPU’ları diğer görevleri gerçekleştirmek için kullanılabilir olacak.

Microsoft, tüm DeepSeek model varyantlarını int4 ağırlıklarına nicelemek için dahili bir otomatik niceleme aracı olan Aqua’yı kullandığını vurguladı. Öte yandan, model belirteci hızı oldukça düşük. Microsoft, 14B modelinde yalnızca 8 tok/sn ve 1.5B modelinde 40 tok/sn’ye yakın olduğunu bildiriyor. Şirket, hızı iyileştirmek için daha fazla optimizasyon üzerinde çalıştığını belirtti. Microsoft performansı optimize etmeye devam ettikçe, bu modellerin Copilot+ PC’ler üzerindeki etkisinin önemli ölçüde artması bekleniyor.

İlgilenen geliştiriciler, DeepSeek modellerinin 1.5B, 7B ve 14B varyantlarını AI Toolkit VS Code uzantısı aracılığıyla Copilot+ PC’lere indirip çalıştırabilir. Bu modeller gelecekte Intel Core Ultra 200V ve AMD Ryzen işlemcilerle çalışan Copilot+ PC’lere de gelecek.

Microsoft, Ocak ayında DeepSeek-R1 modelinin NPU için optimize edilmiş sürümlerini Qualcomm Snapdragon X işlemcilerle çalışan Copilot+ PC’lere doğrudan getirme planlarını duyurdu. Şubat ayında ise DeepSeek-R1-Distill-Qwen-1.5B ilk olarak AIToolkit for VSCode’da kullanıma sunuldu.