Strands Decider 2B : un modèle de décision open source

Strands Decider 2B est un modèle de décision open source publié par Strands Labs, l’organisation d’Amazon Web Services consacrée aux agents IA. Il ne rédige pas de texte : il choisit une réponse parmi des options prédéfinies et indique à quel point il est sûr de son choix. Assez petit pour tourner sur un ordinateur personnel, il vise les étapes simples des workflows d’agents.

En bref

• Strands Decider 2B choisit parmi des options et donne un score de confiance.
• Il repose sur Qwen3.5-2B, dont la partie qui génère du texte a été retirée.
• Il tourne en local, avec une latence médiane d’environ 115 ms sur une RTX 3090.
• Code, poids, données d’entraînement et scripts d’entraînement sont publiés.
• Il ne convient ni aux chatbots, ni au code, ni au résumé de documents.

Qu’est-ce que Strands Decider 2B ?

Strands Decider 2B fait partie d’une nouvelle classe de modèles, appelés modèles de décision ou modèles « system one ». Un grand modèle de langage produit du texte libre. Un modèle de décision, lui, tranche entre des options fournies à l’avance, ou attribue un score simple, par exemple entre 0 et 1 pour juger si une phrase exprime un sentiment positif.

Selon TechCrunch, Amazon l’a publié la même semaine qu’une offre similaire annoncée par OpenAI, dans le sillage de Jev, le modèle lancé par TypeSafe AI. L’idée vient de Marc Brooker, ingénieur émérite chez Amazon. Il a d’abord construit sa propre version, qui a brièvement pris la première place du classement JevBench pour les modèles de sa taille, avant que ses collègues la nettoient et la publient.

Comment fonctionne Strands Decider 2B

Le projet part d’un grand modèle de langage préentraîné, Qwen3.5-2B, dont il garde le « torse ». Sa tête de génération de texte est retirée et remplacée par une « tête pointeur », qui note les réponses proposées pour chaque option. Cette tête est petite, un peu plus d’un million de paramètres, et le reste du modèle est affiné avec un adaptateur LoRA de rang 16.

Tout est calculé en une seule passe parallèle, ce qui explique la vitesse. Le modèle publié est la version 19 : une première architecture, avec une « tête à emplacements », donnait de moins bons résultats, et l’historique de chaque changement est documenté dans le dépôt.

Vitesse, précision et fiabilité du score

Le projet suit trois critères : la précision, la calibration (la fiabilité du score de confiance, mesurée par le score de Brier) et la latence. Sur le jeu public de JevBench, Strands Decider 2B se classe 3e sur 33 dans la catégorie des modèles de 2 milliards de paramètres, et 1er sur 30 si l’on exclut ceux qui dépassent légèrement cette taille. Il réussit toutes les tâches faciles de JevBench.

Côté vitesse, la latence médiane est d’environ 115 ms sur du matériel courant. Les mesures du graphique viennent d’une carte Nvidia RTX 3090, et un MacBook M3 affiche une médiane d’environ 153 ms pour les petites tâches. Le temps augmente à peu près linéairement avec la taille de la tâche.

Installer et essayer Strands Decider 2B

Le plus simple est de passer par l’outil en ligne de commande strands-decider, installé avec pip. Une commande ask prend un état, c’est-à-dire un contexte, et une question avec ses choix possibles.

Dans l’exemple de la documentation, un message signale des paiements en échec depuis trois jours, et le modèle doit choisir entre trois équipes. Il répond billing avec une confiance de 0,768, et détaille les scores : 0,845 pour billing, 0,091 pour retail et 0,064 pour sales.

À quoi sert un modèle de décision dans un agent

Amazon cite plusieurs usages observés : aiguiller vers un modèle, choisir un outil, évaluer, poser des garde-fous, gérer la mémoire et le contexte, classer des demandes selon une politique. Les agents hybrides combinent un grand modèle pour les décisions difficiles et un modèle de décision pour les choix routiniers, afin de réduire coût et latence.

Le dépôt contient un exemple dans examples/strands/. Un agent, qui a un outil de météo et tend à deviner une ville, est contrôlé avant chaque appel d’outil : le modèle répond à deux questions par oui ou non, pour savoir si les arguments viennent bien de l’utilisateur et si l’appel est prématuré. L’agent demande alors quelle ville est visée. Amazon précise que cet exemple illustre le principe sans constituer une recommandation.

Limites et ouverture du projet

Cette approche coûte en flexibilité. Selon Amazon, le modèle résout nettement moins bien les problèmes complexes que les modèles de raisonnement, et comme il ne génère pas de texte, il ne convient ni au code, ni aux chatbots, ni au résumé de documents.

Le code est sur GitHub et les poids sur Hugging Face, avec toutes les données d’entraînement et les scripts utilisés. Le modèle peut aussi être entraîné sur du matériel déjà disponible. L’équipe prépare des bibliothèques d’intégration, sans date annoncée.

Quelques repères

• Paramètres : Ce sont les valeurs numériques apprises par un modèle pendant son entraînement. Leur nombre donne une idée de sa taille et des ressources nécessaires pour le faire tourner.
• LoRA : Technique d’ajustement d’un modèle qui n’entraîne qu’un petit module ajouté, au lieu de modifier tous les paramètres d’origine. Elle réduit le coût de l’entraînement.

Questions fréquentes

Strands Decider 2B est-il open source ?

Oui. Amazon a publié le code sur GitHub et les poids sur Hugging Face, avec les données d’entraînement et les scripts utilisés. Le modèle est disponible au téléchargement.

Strands Decider 2B peut-il tourner en local ?

Oui. Avec 2 milliards de paramètres, il est conçu pour un CPU ou un GPU local. La latence médiane est d’environ 115 ms sur une RTX 3090 et d’environ 153 ms sur un MacBook M3 pour les petites tâches.

Strands Decider 2B peut-il servir de chatbot ?

Non. Sa tête de génération de texte a été retirée : il ne fait que choisir parmi des options ou attribuer un score. Amazon le déconseille pour le code, les chatbots et le résumé de documents.

Comment installer Strands Decider 2B ?

Avec pip, en installant le paquet strands-decider, qui fournit une commande en ligne de commande pour poser une question avec des choix. L’installation est détaillée dans la documentation du projet.

À retenir

Strands Decider 2B est un petit modèle open source qui choisit parmi des options et chiffre sa confiance, pour des étapes d’agent rapides exécutées en local. Il ne génère pas de texte et ne remplace pas un grand modèle de langage pour les tâches complexes.