En janvier, Microsoft a annoncé son intention d'apporter des versions optimisées NPU du modèle DeepSeek-R1 directement aux ordinateurs Copilot+ fonctionnant sur des processeurs Qualcomm Snapdragon X. En février, DeepSeek-R1-Distill-Qwen-1.5B a été publié pour la première fois dans AIToolkit pour VSCode.
Aujourd'hui, la société de Redmond a officiellement annoncé la disponibilité de ses modèles DeepSeek R1 7B et 14B raffinés pour la plateforme informatique Copilot+ via Azure AI Foundry. La possibilité d'exécuter des modèles 7B et 14B directement sur l'appareil Copilot+ permettra aux développeurs de créer des applications d'IA plus puissantes qui n'étaient pas possibles auparavant.
Étant donné que ces modèles fonctionnent sur des NPU, les utilisateurs peuvent s’attendre à des performances d’IA stables avec peu d’impact sur la durée de vie de la batterie et les performances thermiques de l’ordinateur. De plus, le CPU et le GPU seront libérés pour effectuer d’autres tâches plus importantes sur le système.
Microsoft souligne qu'ils ont utilisé Aqua, un outil de quantification automatique interne, pour quantifier toutes les variantes du modèle DeepSeek jusqu'à int4. Cependant, la vitesse de traitement des jetons du modèle est assez faible. Microsoft rapporte seulement 8 jetons/seconde avec le modèle 14B et près de 40 jetons/seconde avec le modèle 1,5B. Microsoft affirme qu'il continue d'optimiser les améliorations de vitesse. Alors que Microsoft continue d’améliorer les performances, l’impact de ces modèles sur les ordinateurs Copilot+ devrait augmenter considérablement.
Les développeurs intéressés peuvent télécharger et exécuter les variantes 1.5B, 7B et 14B du modèle DeepSeek sur les ordinateurs Copilot+ via l'extension AI Toolkit pour VS Code. Le modèle DeepSeek est optimisé au format ONNX QDQ et téléchargé directement depuis Azure AI Foundry. Ces modèles apparaîtront également sur les futurs ordinateurs Copilot+ équipés de processeurs Intel Core Ultra 200V et AMD Ryzen.
Beaucoup de gens pensent que Microsoft prend un risque en s’associant à DeepSeek. L'intégration de DeepSeek dans l'écosystème Windows pourrait causer des ennuis à Microsoft si les allégations de vol de technologie s'avéraient fondées. Cependant, il est indéniable que DeepSeek fait un grand pas en avant sur le marché de l’IA. La décision de Microsoft marque une avancée vers des capacités d'IA sur les appareils plus puissantes, ouvrant de nouvelles perspectives pour les applications basées sur l'IA.