Aller au contenu
geekus
ActuLLM locaux·6 min de lecture

LFM2.5-24B-A2B : un modèle de raisonnement pour agents en local

LFM2.5-24B-A2B fait tourner un agent qui raisonne sur ta machine, avec 2B paramètres actifs. Il sort 184 tokens/s sur un Apple M5 Max. Poids ouverts sur Hugging Face.

huggingface.co/blog/LiquidAI/lfm25-24b-a2b
Capture de la page de LFM2.5-24B-A2B
Sommaire10 parties

LFM2.5-24B-A2B est un modèle de raisonnement de Liquid AI, publié en poids ouverts, qui compte 24B paramètres dont seulement 2B actifs par token. Il réfléchit avant de répondre, appelle des outils et enchaîne des tâches en plusieurs étapes. L’idée : faire tourner un agent en continu sur ton propre matériel, sans envoyer tes données dans le cloud.

En bref

  • 24B paramètres au total, 2B actifs par token : chaque étape de raisonnement coûte peu
  • 184 tokens/s sur un Apple M5 Max, 114 sur un AMD Ryzen AI Max+ 395
  • Contexte de 131K tokens, compatible llama.cpp, MLX, vLLM, SGLang et ONNX
  • Poids ouverts sur Hugging Face, dans une version de base et une version post-entraînée

Qu’est-ce que LFM2.5-24B-A2B ?

LFM2.5-24B-A2B a été annoncé le 13 octobre 2026. C’est le plus grand et le dernier modèle de la famille LFM2.5 de Liquid AI, qui s’étend désormais de LFM2.5-230M à LFM2.5-24B-A2B. Contrairement à LFM2-24B-A2B, son prédécesseur, il est uniquement un modèle de raisonnement : il produit une chaîne de pensée explicite avant sa réponse finale.

Liquid AI explique ce choix par la vitesse de décodage élevée du modèle, qui permet de raisonner sans que cela coûte trop cher, et par une meilleure qualité des réponses. Comme seuls 2B paramètres sont actifs par token, l’éditeur présente le modèle comme adapté à des agents qui tournent en continu sur du matériel personnel.

Comment fonctionne LFM2.5-24B-A2B

Le modèle garde l’architecture de LFM2-24B-A2B : 40 couches, 64 experts par bloc MoE avec un routage top-4, et le même mélange de convolutions courtes à porte et de GQA. Deux choses changent. La fenêtre de contexte passe de 32K à 131K tokens, et le vocabulaire double, de 65K à 128K tokens, pour mieux découper les écritures non latines.

Le pré-entraînement passe de 17T à 33T tokens. Un entraînement intermédiaire ajoute ensuite 2T tokens à 32K de contexte, orientés raisonnement, maths, code, consignes et texte multilingue, puis 300B tokens à 131K de contexte, orientés contexte long. Des appels d’outils et des échanges en plusieurs tours apparaissent dans les deux phases.

  • Fine-tuning supervisé (SFT)
  • Spécialisation de modèles enseignants
  • Distillation multi-domaines on-policy (MOPD) sur les tâches non agentiques
  • Seconde distillation MOPD, centrée sur les tâches agentiques
  • Apprentissage par renforcement agentique, dans des harnais comme OpenClaw, Hermes Agent, Pi et OpenCode

Résultats : outils et consignes, pas la connaissance pure

Liquid AI compare LFM2.5-24B-A2B à Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it et Nemotron-3.5-Lightning sur 16 benchmarks. C’est le plus petit modèle du groupe, mais il mène ou égale ses concurrents sur cinq des huit benchmarks d’outils et d’agents. Il obtient par exemple 48.09 sur LiveClaw contre 38.19 pour Qwen3.6-35B-A3B, et 27.69 sur AutomationBench contre 8.72, soit plus de trois fois le meilleur suivant. Il mène aussi sur les trois benchmarks de suivi de consignes.

Les modèles plus grands gardent l’avantage sur les benchmarks de connaissances (GPQA Diamond, HLE, AA-Omniscience) et de code (SWE-Bench Verified avec OpenCode, SciCode). Pour les usages qui demandent beaucoup de connaissances, Liquid AI recommande d’associer le modèle à une recherche documentaire ou web. Ces mesures viennent de l’éditeur lui-même, avec vLLM et les paramètres de génération recommandés pour chaque benchmark.

Vitesse sur ordinateur et sur GPU

Sur machine personnelle, Liquid AI annonce 184 tokens/s en décodage sur un Apple M5 Max et 114 tokens/s sur un AMD Ryzen AI Max+ 395. Ce serait jusqu’à 1.7x plus rapide que le meilleur modèle comparé, avec la mémoire la plus faible. Le modèle est compatible dès sa sortie avec llama.cpp, MLX, vLLM, SGLang et ONNX.

Côté serveur, l’éditeur mesure le débit sur un seul GPU NVIDIA B300 avec SGLang, en BF16. Il dépasse 21K tokens de sortie par seconde à forte concurrence, ce qui en ferait le plus rapide de sa catégorie de taille.

Installer LFM2.5-24B-A2B et le brancher à un agent

Pour l’essayer avec la bibliothèque transformers, il faut une version récente, compatible avec transformers›=5.0.0. L’annonce fournit ensuite un exemple complet de chargement du modèle LiquidAI/LFM2.5-24B-A2B et de génération.

Pour un agent, le modèle se sert localement derrière un backend compatible OpenAI, puis le harnais pointe vers lui. L’annonce donne l’exemple de Hermes Agent. Le port dépend du backend : 8080 pour llama.cpp et MLX, 8000 pour vLLM, 30000 pour SGLang et 1234 pour LM Studio. La fiche du modèle détaille aussi les configurations pour OpenClaw et Pi.

pip install -U transformers
hermes config set model.provider custom
hermes config set model.base_url http://localhost:8080/v1
hermes config set model.default LFM2.5-24B-A2B
hermes config set model.context_length 131072
hermes config set model.api_mode chat_completions
hermes config set agent.tool_use_enforcement true

Prix, licence et disponibilité de LFM2.5-24B-A2B

La version de base (LFM2.5-24B-A2B-Base) et la version post-entraînée sont en poids ouverts sur Hugging Face, et la seconde est aussi testable dans le Playground de Liquid AI. Des tutoriels de fine-tuning sont proposés pour l’adapter à une tâche. Les conditions précises figurent dans la licence du modèle, que l’annonce ne détaille pas.

Pour passer par une API, Liquid Console offre 2 $ de crédit au départ. La sortie est facturée $1.00 par 1M de tokens, l’entrée coûte moins cher, avec un tarif réduit pour l’entrée mise en cache. L’annonce ne donne pas de configuration minimale pour faire tourner le modèle en local.

Quelques repères

  • MoE (mélange d’experts) : Architecture de modèle où le réseau est divisé en plusieurs sous-réseaux appelés experts. Pour chaque élément traité, seule une petite partie d’entre eux est sollicitée, ce qui réduit le calcul nécessaire.
  • Token : Unité de texte manipulée par un modèle de langage : un mot, un morceau de mot ou un signe de ponctuation. La vitesse et les tarifs se mesurent souvent en tokens.
  • Poids ouverts : Le modèle entraîné est téléchargeable, ce qui permet de l’exécuter soi-même et de l’adapter. Cela ne signifie pas forcément que toutes les données ou le code d’entraînement sont publiés.

Questions fréquentes

LFM2.5-24B-A2B peut-il tourner en local ?

Oui. Liquid AI annonce 184 tokens/s sur un Apple M5 Max et 114 tokens/s sur un AMD Ryzen AI Max+ 395, avec une compatibilité llama.cpp, MLX, vLLM, SGLang et ONNX. L’annonce ne donne pas de configuration minimale.

LFM2.5-24B-A2B est-il open source ?

Les poids sont ouverts : la version de base et la version post-entraînée se téléchargent sur Hugging Face. Liquid AI renvoie à une licence du modèle pour les conditions d’usage, que l’annonce ne détaille pas.

Que signifie 24B-A2B pour LFM2.5-24B-A2B ?

Le modèle compte 24B paramètres au total, mais seulement 2B sont actifs pour chaque token. C’est ce qui rend chaque token de raisonnement peu coûteux.

Combien coûte l’API de LFM2.5-24B-A2B ?

Liquid Console offre 2 $ de crédit au départ. La sortie est facturée $1.00 par 1M de tokens, avec un tarif d’entrée moins élevé et une remise pour l’entrée en cache.

À retenir

LFM2.5-24B-A2B est un modèle de raisonnement en poids ouverts dont les points forts, selon Liquid AI, sont l’appel d’outils et le suivi de consignes, avec seulement 2B paramètres actifs par token. Les modèles plus grands gardent l’avantage sur les connaissances et le code, et tous les chiffres cités viennent des mesures de l’éditeur.

Sources

llmagentson-devicemoeopen-weight
Dans le même genre

Des fiches proches.

toute la famille
À lire aussi

Les dernières fiches.

tout l'annuaire

Le Carnet de Geekus · chaque vendredi

Les trouvailles de la semaine, dans ta boîte mail.

Un email, cinq minutes de lecture. En français, gratuit, sans publicité.

S'inscrire au Carnet →
  1. Le spécimen de la semaine, expliqué à fond
  2. L'actu IA en bref
  3. Les autres trouvailles et le mot de la semaine