Aller au contenu
geekus
ActuLLM locaux·6 min de lecture

Inkling 2 Mini : un modèle d'IA local qui tourne sur laptop

Inkling 2 Mini tient dans environ 20 Go de mémoire et tourne sur un laptop. C'est un modèle de 26,4 milliards de paramètres, dont 3,4 actifs. Ses couches centrales tournent trois fois par token. Poids ouverts, support de transformers, llama.cpp et MLX.

huggingface.co/blog/inkling2mini
Capture de la page de Inkling 2 Mini
Sommaire10 parties

Inkling 2 Mini est un modèle de langage multimodal à poids ouverts, publié par Thinking Machines Lab et présenté par Hugging Face le 20 novembre 2026. Il compte 26,4 milliards de paramètres au total, dont 3,4 actifs, et occupe environ 20 Go de mémoire. Son principe : répéter trois fois ses couches centrales pour raisonner davantage sans grossir.

En bref

  • 26,4 milliards de paramètres, 3,4 actifs par token, environ 20 Go en mémoire
  • Les 12 couches centrales sont répétées trois fois pour chaque token
  • Texte et images en entrée, contexte de 1 million de tokens
  • Utilisable avec transformers, llama.cpp, MLX et SGLang
  • Plus faible en conversation longue et en consignes très contraintes

Qu’est-ce qu’Inkling 2 Mini ?

Inkling 2 Mini est le petit modèle de la famille Inkling 2 de Thinking Machines Lab. Il est présenté comme assez compact pour tourner sur un ordinateur portable, alors que son grand frère, Inkling 2 Small, vise le matériel de centre de données. Selon Hugging Face, il accepte du texte et des images et gère un contexte de 1 million de tokens.

C’est un modèle à mélange d’experts : à chaque token, seule une partie du réseau travaille. Thinking Machines Lab annonce 26,4 milliards de paramètres au total, 3,4 milliards actifs, et 5,4 milliards de poids sollicités par token si l’on compte la répétition des couches. Les poids sont publiés en accès ouvert, et le modèle est aussi disponible sur Tinker, la plateforme de l’éditeur, pour l’inférence et la personnalisation.

Comment fonctionne Inkling 2 Mini : des couches répétées en boucle

Le modèle compte 24 couches, réparties en quatre blocs de six. Le premier et le dernier bloc passent une seule fois. Les deux blocs du milieu, soit 12 couches, sont parcourus trois fois avec les mêmes poids : le modèle effectue donc 48 passages de couches par token, avec seulement 24 couches stockées.

Entre deux passages, une information circule : chaque couche de la boucle lit un « message » issu de la passe précédente. Une porte apprise décide de ce qu’il faut oublier de l’entrée courante et de ce qu’il faut ajouter du message. Au début de l’entraînement, cette porte bloque tout le message, ce qui rend l’introduction de la boucle stable, explique l’éditeur.

Selon Thinking Machines Lab, cette boucle permet de raisonner plus longtemps sans écrire son raisonnement, avec moins de tokens. Dans ses essais, boucler les couches du milieu a donné de meilleurs gains que boucler les dernières, sur 27 évaluations sur 28.

Faire tourner Inkling 2 Mini en local sur un Mac ou un PC

Les poids sont entraînés et livrés dans un format mixte : NVFP4 (4 bits) pour 20 couches, MXFP8 (8 bits) pour les 4 dernières. L’éditeur indique qu’il n’y a donc pas de perte liée à une conversion, et que l’empreinte mémoire totale est d’environ 20 Go. Ses chercheurs l’ont fait tourner hors ligne, en mode avion, sur un MacBook Pro (M5 Pro, 48 Go) pour créer un simulateur de vol jouable en quelques minutes.

Hugging Face fournit un support dans transformers, dans llama.cpp et son application Llama App (macOS et Windows), et dans MLX pour les Mac. Des versions GGUF en 4 bits (IQ4_NL) et en 8 bits (Q8_0) sont disponibles. Pour servir le modèle en ligne de commande, par exemple sous Linux :

Pour charger les poids en 8 bits, il suffit de remplacer le suffixe par :Q8_0. SGLang le prend aussi en charge pour la production sur du matériel de centre de données ; son exemple exige un GPU de type SM103. La documentation ne donne pas de configuration minimale précise au-delà de ces chiffres de mémoire.

llama serve -hf ggml-org/Inkling-2-Mini-GGUF:IQ4_NL

Inkling 2 Mini pour coder et travailler avec des outils

Thinking Machines Lab affirme que le modèle devance tous les modèles à poids ouverts de moins de 100 milliards de paramètres sur DeepSWE v1.1 (48,2 %) et Vals Index v2.2 (46,5 %). Hugging Face, de son côté, le compare à Gemma 4 31B, Muse Glimmer, Qwen3.8-27B et Nemotron 3.5 Super VL, et indique qu’il passe en tête sur 32 benchmarks sur 48. Ce sont des chiffres de l’éditeur et de ses relais, et Hugging Face précise que davantage de validation est nécessaire.

Le modèle fait aussi bien dans l’usage d’outils : l’éditeur cite BrowseComp (79,0 % avec compaction), DeepSearchQA (85,3 %) et MCP Atlas (82,7 %). Dans les tests de Hugging Face, il a généré un site web complet et une application de partage de dépenses à partir d’un croquis. L’éditeur montre aussi 20 villageois simulés pilotés par un seul modèle sur un MacBook hors ligne.

Régler l’effort de raisonnement et la variante à boucles variables

Avec transformers, le paramètre reasoning_effort règle l’effort de réflexion : none, minimal, low, medium, high (valeur par défaut), xhigh et max, ou un nombre entre 0,0 et 0,99. Le modèle gère aussi l’appel d’outils : il demande lui-même l’exécution d’une fonction, puis exploite son résultat.

Thinking Machines Lab publie en parallèle une variante de recherche, TML-d24-varloop-research, entraînée pour accepter un nombre variable de passes. Avec une ou deux passes au lieu de trois, l’inférence est plus rapide, mais la qualité peut baisser légèrement. Hugging Face l’a testée sans l’évaluer en profondeur.

Limites d’Inkling 2 Mini

L’éditeur le dit lui-même : Inkling 2 Mini n’est pas le meilleur petit modèle pour la conversation à plusieurs tours ni pour les consignes à nombreuses contraintes. Il obtient 50,0 % sur MultiChallenge et 33,4 % sur ComplexConstraints v1.1, derrière Qwen3.8-27B sur les deux. Il reste aussi en retrait des modèles plus grands sur des tests de raisonnement comme CritPt v2 et HLE-Diamond.

La boucle n’aide pas la mémoire des faits : la connaissance dépend surtout du nombre total de paramètres. Sur AA-Omniscience, le modèle se situe au niveau des modèles de même taille. Thinking Machines Lab ne précise pas ici la licence exacte ni de tarif sur Tinker.

Quelques repères

  • Poids ouverts : Les paramètres appris par le modèle sont publiés et téléchargeables. On peut ainsi l’exécuter soi-même, sans passer par un service en ligne.
  • Mélange d’experts : Architecture où le réseau est divisé en plusieurs sous-réseaux spécialisés, les experts. Pour chaque token, seuls quelques-uns sont activés, ce qui réduit le calcul.
  • Quantification : Technique qui stocke les paramètres d’un modèle avec moins de bits. Le modèle occupe moins de mémoire et tourne plus vite, au prix d’une éventuelle perte de précision.

Questions fréquentes

Inkling 2 Mini peut-il tourner sur un laptop ?

Oui, selon Thinking Machines Lab : son empreinte mémoire est d’environ 20 Go. L’éditeur l’a fait tourner hors ligne sur un MacBook Pro (M5 Pro, 48 Go).

Inkling 2 Mini accepte-t-il les images ?

Oui, Inkling 2 Mini accepte des entrées texte et image. Hugging Face fournit un exemple de requête avec une image dans transformers et le support multimodal dans MLX.

Comment installer Inkling 2 Mini avec llama.cpp ?

Il suffit de lancer la commande llama serve -hf ggml-org/Inkling-2-Mini-GGUF:IQ4_NL pour la version 4 bits. Le suffixe :Q8_0 charge la version 8 bits.

Inkling 2 Mini est-il bon pour coder ?

Selon son éditeur, oui : il obtient 48,2 % sur DeepSWE v1.1, devant les modèles à poids ouverts de moins de 100 milliards de paramètres. Il reste derrière Qwen3.8-27B sur certains autres tests.

À retenir

Inkling 2 Mini répète ses couches centrales trois fois par token pour raisonner davantage avec environ 20 Go de mémoire, et se destine surtout au code et aux tâches avec outils en local. Ses résultats viennent de l’éditeur et de Hugging Face, qui demande davantage de validation, et il reste moins à l’aise en conversation longue et en consignes très contraintes.

Sources

llm localmoemultimodalpoids ouvertshugging face
Dans le même genre

Des fiches proches.

toute la famille
À lire aussi

Les dernières fiches.

tout l'annuaire

Le Carnet de Geekus · chaque vendredi

Les trouvailles de la semaine, dans ta boîte mail.

Un email, cinq minutes de lecture. En français, gratuit, sans publicité.

S'inscrire au Carnet →
  1. Le spécimen de la semaine, expliqué à fond
  2. L'actu IA en bref
  3. Les autres trouvailles et le mot de la semaine