Windows 11 İçerisine Entegre Edilmiş Mu Adlı Cihaz İçi Küçük Dil Modeli Duyuruldu

Microsoft tarafından Windows 11 işletim sistemine yerleştirilmiş yeni bir cihaz içi küçük dil modeli olan Mu duyuruldu. Şirketin hedefi, Ayarlar uygulamasında bir kullanıcının doğal dil sorgularını anlayabilen ve bunu sorunsuz bir kullanıcı deneyimi için mevcut arama kutusuna entegre edebilen yapay zeka destekli bir aracı oluşturmaktı. Bu nedenle Microsoft, yakın zamanda Copilot+ PC‘lerle Dev Channel’da Windows Insider’lara sunulan Ayarlar uygulamasındaki yeni aracı özelliğini desteklemek için yeni Mu modelini kullanıyor.

Phi-Silica gibi, Mu da yerel olarak çalışırken saniyede 100’den fazla belirteç sunarak NPU’larda verimli bir şekilde çalışmak üzere tasarlanmış durumda. Microsoft, Mu dil modelini nasıl tasarladıklarını ve eğittiklerini açıklamayı da ihmal etmedi. Mu dil modelinin genel görünümü şu şekilde:

• Mu, 330M kodlayıcı-kod çözücü dil modelidir.
• Kodlayıcı-kod çözücü yaklaşımı, benzer boyuttaki yalnızca kod çözücü modeline kıyasla yaklaşık %47 daha düşük ilk belirteç gecikmesi ve 4,7 kat daha yüksek kod çözme hızı elde etti.
• Mu, toplam parametre sayısını azaltmak için belirli bileşenlerde ağırlık paylaşımını kullanır.
• Microsoft, Azure Machine Learning’te NVIDIA A100 GPU’larını kullanarak Mu’yu eğitti.
• Mu, boyutunun onda biri olmasına rağmen, benzer şekilde ince ayarlanmış bir Phi-3.5-mini ile performans açısından neredeyse karşılaştırılabilir.

Model, çok sözcüklü sorgular için daha uygun. Bu nedenle, kısa veya kısmi sözcük girişleri için Ayarlar uygulaması, arama kutusunda sözcüksel ve anlamsal arama sonuçlarını göstermeye devam edecek. İlgilenen kullanıcılar, Windows Ayarları uygulamasında bu yeni yapay zeka destekli aracı denemek için Windows 11 Build 26120.3964 (KB5058496) veya üzeri sürümü indirebilirler.