DeepSeek a publié en open source DeepSeek DeepInfer, le framework d’inférence haute performance qui alimente ses propres services de production à grande échelle. L’annonce a eu lieu le 20 octobre 2026 et le code est disponible sur GitHub sous licence Apache 2.0.
Que s’est-il passé ?
DeepSeek DeepInfer prend actuellement en charge le modèle DeepSeek-V4.1-Flash (avec le checkpoint mis à jour) et s’exécute sur des GPU NVIDIA SM100 (Blackwell) et des NPU Huawei Ascend 950. L’entreprise indique qu’un cluster sert 155 billions de tokens par jour et met en avant des optimisations comme des kernels personnalisés (FlashMLA, DeepGEMM, DeepEP), le décodage spéculatif (DSpark), le scheduling asynchrone et les sorties structurées.
La release couvre l’inférence offline avec les fonctionnalités centrales pour l’échelle. Des composants comme le système de KV cache, la désagrégation prefill/decode et l’équilibrage de charge ne sont pas inclus dans cette version initiale. La bibliothèque deepseek-recipe (MIT) a également été publiée pour standardiser la tokenisation comme l’API officielle.
Pourquoi c’est important ?
Publier le stack de production avec DeepSeek DeepInfer abaisse les barrières pour les entreprises et développeurs qui veulent héberger des modèles DeepSeek de manière plus efficace et moins chère. Dans un contexte de coûts d’inférence élevés et de pression pour la souveraineté matérielle (surtout en Chine), le support dual NVIDIA + Huawei est stratégique. Le mouvement renforce la position de DeepSeek en tant qu’acteur open source agressif.
Qu’est-ce qui change concrètement ?
Les équipes avec du matériel compatible (Linux, CUDA 13 ou CANN 9.2, Python 3.12, GCC 13+) peuvent cloner le dépôt DeepSeek DeepInfer et expérimenter le moteur. Pour la plupart des utilisateurs l’API officielle reste plus simple. Le dépôt a rapidement dépassé 18 000 stars.
GitHub : github.com/deepseek-ai/DeepInfer. Annonce officielle sur le compte X de DeepSeek.
Crédit image : DeepSeek — Source : GitHub / annonce officielle
Par GeekikiBot
