# DeepInfer : le moteur d'inférence open source de Deepseek > DeepInfer, moteur d'inférence open source de Deepseek bâti sur vLLM : ce qu'il fait, quelles puces il vise et ce qu'il faut pour l'héberger. - Type : actu de l'IA - Famille : LLM locaux · Moteur d'inférence - Habitat : Serveurs de centre de données · GPU - Niveau : avancé - Source : https://the-decoder.com/deepseek-open-sources-the-inference-engine-that-powers-its-fastest-and-cheapest-ai-model/ - Publié le : 24 octobre 2026 - Page : https://geekus.fr/projets/deepinfer/ DeepInfer est le moteur d'inférence qui fait tourner en production le modèle DeepSeek-V4.1-Flash. Deepseek en a publié le code en open source le 20 octobre 2026, sous licence Apache 2.0. Le dépôt est ciblé : un seul modèle, des puces précises, et des briques de service qui restent en partie internes. ## En bref - Code publié sous licence Apache 2.0, construit sur vLLM avec des noyaux de calcul optimisés. - Un seul modèle pris en charge : DeepSeek-V4.1-Flash. - Puces visées : Blackwell de centre de données (SM100) et Ascend 950 de Huawei. - Cache KV et équilibrage de charge ne sont pas tous ouverts. - Le dépôt deepseek-recipe aligne le comportement de l'API sur celle de Deepseek. ## Qu'est-ce que DeepInfer ? L'inférence est la phase où un modèle d'IA déjà entraîné reçoit des requêtes et génère des réponses. DeepInfer est le logiciel de service qui permet à Deepseek de produire les réponses de V4.1-Flash rapidement et à grande échelle. Selon The Decoder, l'entreprise le présente comme un moyen d'aider la communauté à baisser les coûts de calcul, réduire la consommation d'énergie et rendre l'IA plus abordable. Le code de DeepInfer est publié sous licence Apache 2.0. Deepseek indique aussi que le code d'inférence de ses prochains modèles sera lui aussi publié en open source. ## Comment fonctionne DeepInfer DeepInfer s'appuie sur vLLM, un projet libre pour servir des modèles de langage. Il y ajoute des noyaux de calcul optimisés, un traitement distribué sur plusieurs puces et des techniques pour générer le texte plus vite. Son README cite vLLM comme base d'origine, avec SGLang et TensorRT-LLM comme sources d'inspiration. Le README décrit cette publication comme de l'inférence hors ligne, d'après ActuIA : le moteur, les noyaux de calcul et l'ordonnanceur sont là, mais aucun serveur d'API n'est documenté. Les chiffres de performance ne sont donnés que sous forme de deux graphiques, mesurés sur des puces NVIDIA, sans valeurs dans le texte. ## Quels modèles et quelles puces sont pris en charge Le dépôt ne gère qu'un modèle, DeepSeek-V4.1-Flash. Côté matériel, il vise les puces Blackwell de centre de données de NVIDIA (architecture SM100) et les Ascend 950 de Huawei. Les H100 et H200 ne figurent pas dans la liste. Le support n'est pas identique des deux côtés. Pour Huawei, DeepInfer demande la boîte à outils CANN 9.2. L'inférence invariante au batch, où un même prompt donne la même sortie quel que soit le lot de requêtes traité, et l'échantillonnage déterministe ne sont disponibles que sur NVIDIA. - Modèle : DeepSeek-V4.1-Flash uniquement - NVIDIA : Blackwell de centre de données (SM100) - Huawei : Ascend 950, avec CANN 9.2 - Cartes grand public comme la RTX 5090 : non prises en charge ## Que contient deepseek-recipe ? Deepseek publie en parallèle deepseek-recipe, un ensemble de bibliothèques Rust. Il convertit les requêtes des API Chat Completions, Responses et Messages en séquences de tokens, et analyse les sorties du modèle, raisonnement et appels d'outils compris. Deepseek affirme que sa logique est alignée sur l'API officielle, pour qu'une installation auto-hébergée se comporte de la même façon. L'hébergeur doit encore fournir lui-même l'inférence, l'exécution des outils et le transport HTTP, précise ActuIA. ## Ce qu'il faut pour héberger DeepInfer soi-même Le README liste ce qu'il faut ajouter au moteur pour un service complet : un cache KV, la séparation des phases sur des machines distinctes et l'équilibrage de charge entre réplicas. Le prefill traite le prompt d'entrée, le decode génère la réponse token par token. Deepseek écrit que la plupart des fonctionnalités moteur nécessaires à la séparation des phases sont déjà implémentées, mais que le cache KV et l'équilibrage de charge sont étroitement couplés à son infrastructure interne et pas encore entièrement ouverts. L'un des quatre équilibreurs, celui des experts, figure dans le code publié. Le déploiement demande au minimum une instance de prefill et une instance de decode. La configuration recommandée répartit les experts sur 64 à 128 GPU en decode, avec un ratio prefill/decode d'environ 1 pour 1. La plus petite unité efficace est donc de 64 GPU pour chaque phase, avec environ 400 Gbit/s d'interconnexion par groupe de huit GPU. Ce n'est pas un outil pour une machine personnelle. - Cache KV : repose sur 3FS, le système de fichiers distribué que Deepseek a ouvert en février 2025 - Séparation des phases : fonctionnalités moteur en grande partie présentes - Équilibrage de charge : seul l'équilibreur des experts est publié ## Les chiffres de coût annoncés par Deepseek Dans un document de questions-réponses publié avec le code, Deepseek indique qu'un seul cluster sert 155 000 milliards de tokens par jour, pour un revenu de 38 dollars par GPU-heure au tarif des heures creuses. Frandroid et ActuIA rappellent que c'est un revenu, pas une marge, et que ces chiffres n'ont fait l'objet d'aucun audit extérieur. Le document ne précise ni la taille du cluster, ni la puce utilisée, ni si ce revenu est facturé ou théorique. Selon Bloomberg, cité par ActuIA, aucun benchmark indépendant n'était publié le 20 octobre. La page Hugging Face du modèle détaille de son côté un déploiement avec vLLM et SGLang, sans citer DeepInfer. ## Quelques repères - **Inférence** : Phase d'utilisation d'un modèle d'IA déjà entraîné : il reçoit une demande et produit une réponse. Elle s'oppose à l'entraînement, qui construit le modèle. - **Token** : Petit morceau de texte, mot ou fragment de mot, que traite un modèle de langage. Les volumes lus et générés se comptent en tokens. - **Cache KV** : Mémoire où un modèle conserve des calculs déjà faits sur un texte. Elle évite de tout recalculer quand la même séquence revient. ## Questions fréquentes ### DeepInfer est-il open source ? Oui, DeepInfer est publié sous licence Apache 2.0. Deepseek précise toutefois que le code du cache KV et de l'équilibrage de charge, trop liés à son infrastructure interne, n'est pas encore entièrement ouvert. ### DeepInfer fonctionne-t-il avec d'autres modèles que DeepSeek-V4.1-Flash ? Non, DeepInfer ne prend en charge qu'un seul modèle, DeepSeek-V4.1-Flash. Deepseek dit que le code d'inférence de ses prochains modèles sera aussi publié. ### Quelles cartes graphiques DeepInfer supporte-t-il ? DeepInfer vise les puces Blackwell de centre de données de NVIDIA (SM100) et les Ascend 950 de Huawei. Les H100, les H200 et la RTX 5090 ne sont pas pris en charge. ### Peut-on faire tourner DeepInfer chez soi ? En pratique, non. La plus petite unité efficace décrite par Deepseek est de 64 GPU pour le prefill et 64 pour le decode. ## À retenir DeepInfer ouvre le moteur d'inférence de DeepSeek-V4.1-Flash sous licence Apache 2.0, mais pour un seul modèle, des puces de centre de données et un service dont le cache KV et l'équilibrage de charge ne sont pas tous publiés. Les chiffres de revenu annoncés par Deepseek restent déclaratifs, sans audit ni benchmark indépendant à la date de publication. Sources : - [The Decoder](https://the-decoder.com/deepseek-open-sources-the-inference-engine-that-powers-its-fastest-and-cheapest-ai-model/) (article de presse) - [Frandroid](https://www.frandroid.com/culture-tech/intelligence-artificielle/3294869_deepseek-gagne-38-de-lheure-par-carte-pourquoi-gpt-et-claude-perdent-des-milliards) (article de presse) - [ActuIA](https://www.actuia.com/actualite/deepseek-publie-le-moteur-dinference-quil-avait-renonce-a-ouvrir-en-2025/) (article de presse) Mots-clés : deepseek, inférence, vllm, open source, gpu --- Fiche publiée par Geekus : https://geekus.fr/projets/deepinfer/