Microsoft, DeepSeek R1 Modelini Copilot+ Bilgisayarlara Getiriyor
Merhaba teknoloji dostları! Microsoft, yine bir yenilik peşinde. Mobil dünyayı fetheden DeepSeek, şimdi de Windows'a genişliyor. Üstelik bu genişlemeye Microsoft'un tam desteğiyle gerçekleşiyor. Öyle ki, Microsoft, dün DeepSeek R1 modelini Azure AI Foundry'ye ekleyerek, geliştiricilerin bu model ile bulut tabanlı uygulamalar ve hizmetler oluşturmasına ve test etmesine olanak sağladı. Bugün de Microsoft, bu modelin sadeleştirilmiş versiyonlarını Copilot+ bilgisayarlarına getireceğini duyurdu.
Bu sadeleştirilmiş modeller ilk olarak Snapdragon X çipli cihazlarda, Intel Core Ultra 200V işlemcilere sahip olanlarda ve ardından AMD Ryzen AI 9 tabanlı bilgisayarlarda kullanılabilir olacak. İlk model, DeepSeek-R1-Distill-Qwen-1.5B olacak. Daha büyük ve daha yetenekli 7B ve 14B modelleri ise yakında gelecek. Bu modeller, Microsoft'un AI Toolkit'inden indirilebilecek.
Microsoft, bu modelleri NPU'lu cihazlarda çalışacak şekilde optimize etmek için biraz uğraştı. Bellek erişimine ağırlık veren işlemler CPU üzerinde, dönüştürücü blok gibi hesaplama yoğunluğu olan işlemler ise NPU üzerinde çalışacak. Bu optimizasyonlar sayesinde Microsoft, ilk tokene hızlı bir şekilde (130ms) ulaşmayı ve kısa istekler için saniyede 16 token verimlilik elde etmeyi başardı. Burada "token" kavramı, genellikle bir karakterden uzun olan bir ünlüye benzer.
Microsoft, ChatGPT ve GPT-4o'nun üreticisi olan OpenAI'ın güçlü bir destekçisi ve derinlemesine yatırımcısıdır. Ancak görünüşe göre Microsoft, favori oyununu oynamıyor - Azure Playground, GPT modelleri (OpenAI), Llama (Meta), Mistral (bir AI şirketi) ve şimdi de DeepSeek'i içeriyor.
Eğer yerel AI konusunda daha çok ilgileniyorsanız, öncelikle AI Toolkit'ini VS Code için indirin. Oradan, modeli yerel olarak indirebilmeniz mümkün olacak (örneğin, "deepseek_r1_1_5" 1.5B modelidir). Son olarak, Playground'da Try (Deneyin) butonuna tıklayın ve bu R1 modelinin ne kadar akıllı olduğunu görün.
"Model distilasyonu" veya bazen "bilgi distilasyonu" olarak adlandırılan işlem, büyük bir AI modelinden (tam DeepSeek R1 modeli 671 milyar parametreye sahiptir) olabildiğince çok bilgiyi daha küçük bir modele (örneğin 1.5 milyar parametre) aktarma sürecidir. Bu süreç mükemmel olmasa da, distile edilmiş modelin daha küçük boyutu, onun tüketici donanımlarında doğrudan çalışmasına olanak sağlar (on binlerce dolar maliyetli özel AI donanımı yerine).
Kaynak
MEDYA:
Görseller:
https://fdn.gsmarena.com/imgroot/news/25/01/microsoft-deepseek-model-on-copilot-plus-pcs/inline/-1200/gsmarena_002.jpg
https://fdn.gsmarena.com/imgroot/news/25/01/microsoft-deepseek-model-on-copilot-plus-pcs/inline/-1200/gsmarena_001.jpg
https://fdn.gsmarena.com/imgroot/news/25/01/deepseek-n1-app-store/-184x111/gsmarena_000.jpg
https://fdn.gsmarena.com/imgroot/news/25/01/huawei-deepseek-ai-chips/-184x111/gsmarena_001.jpg
https://fdn.gsmarena.com/imgroot/news/24/05/microsoft-launcher-copilot/-184x111/gsmarena_000.jpg
https://fdn.gsmarena.com/imgroot/news/24/05/microsoft-surface-laptop-announcement/-184x111/gsmarena_000.jpg
