Edge0-145B : un grand modèle d'IA open source en local

Edge0-145B est un modèle de langage open source de 145 milliards de paramètres, pensé pour tourner en local sur un ordinateur portable compatible. Son éditeur, Edge0, annonce 29 Go de mémoire au pic et plus de 80 tokens par seconde en génération. Les poids du modèle, le framework d’inférence et une application sont publiés en même temps.

En bref

29 Go de mémoire au pic et plus de 80 tokens par seconde, sur un portable compatible comme un MacBook Pro
Un agent qui planifie, écrit et exécute du code, corrige ses erreurs et vérifie le résultat à l’écran
Pas de frais de token ni d’API pour l’inférence locale, données sur la machine, usage possible hors ligne
Poids, framework d’inférence et application publiés ; les scores viennent des évaluations internes d’Edge0

Ce qu’Edge0 publie avec Edge0-145B

Edge0 ouvre deux modèles, Edge0-145B et Edge0-120B, ainsi que son framework d’inférence unifié et ses outils de déploiement. L’éditeur présente Edge0-145B comme le premier modèle open source embarqué à 145 milliards de paramètres. Il vise le code, le raisonnement et les tâches d’agent, c’est-à-dire des travaux menés de bout en bout par le modèle.

L’objectif affiché est de laisser les développeurs reproduire les résultats, évaluer ou affiner les modèles, et les intégrer à leurs propres produits. Trois accès sont proposés : les poids du modèle, le framework d’inférence et l’application Edge0. La source ne précise pas la licence de publication.

Faire tourner un gros modèle en local : mémoire, vitesse, puissance

Pour qu’un modèle soit utilisable sur un portable, il doit tenir en mémoire, traiter les requêtes sans attendre, générer assez vite et ne pas faire chauffer la machine. Edge0 rapporte ses mesures sur un portable compatible, comme un MacBook Pro, sans serveur.

Les chiffres sont ceux de l’éditeur, relevés dans son montage de test.

Mémoire : 29 Go au pic
Traitement du prompt : plus de 1 100 tokens par seconde
Génération : plus de 80 tokens par seconde, soit plus vite qu’une personne ne lit
Puissance : environ 120 W en usage typique, sans bridage dans le montage de test
Longues tâches : contexte de 128K–256K, avec essentiellement la même vitesse

Comment fonctionne Edge0-145B

Edge0 explique avoir conçu le modèle et son moteur d’inférence ensemble. Le modèle est dit « parcimonieux » : sur ses 145 milliards de paramètres, seuls environ 10 milliards servent à chaque étape de calcul. Chaque groupe de 64 experts partage deux grandes matrices, et chaque expert garde un petit jeu de paramètres propres. Auparavant, chaque expert stockait un jeu complet.

Le modèle est entraîné dès le départ dans cette architecture locale, plutôt que compressé après coup à partir d’un modèle pensé pour le cloud. Le chargement répartit les données sur trois niveaux : les experts les plus utilisés restent dans la mémoire du GPU, une bibliothèque d’environ 40 Go se trouve en mémoire système, et environ 48 Go de vocabulaire sont lus à la demande sur le SSD.

Côté calcul, le GPU traite les experts en cache pendant que le CPU s’occupe du reste. Un décodage spéculatif vérifie plusieurs mots candidats à la fois, ce qui répartit le coût de lecture des poids sur davantage de sortie.

Les résultats annoncés face aux autres modèles

Edge0 compare son modèle à Qwen3.8-Flash-Next, DeepSeek-V4-Flash-0731 et Claude-Opus-4.6 (Max). Ces résultats proviennent des évaluations internes d’Edge0, dont la configuration complète et les instructions de reproduction doivent paraître avec un rapport technique. Les comparaisons ne valent que pour les modèles et tests nommés.

Edge0-145B obtient 64,6 sur DeepSWE 1.1, contre 58,7 pour Qwen3.8-Flash-Next et 54,4 pour DeepSeek-V4-Flash-0731. Sur Terminal-Bench 2.1, il fait 86,52, contre 83,3, 82,7 et 78,2 pour Claude. Sur GPQA-Diamond, il atteint 90,4, près de DeepSeek (90,8) et de Claude (91,3). Il reste derrière Qwen3.8-Flash-Next sur GPQA-Diamond et sur HLE (35,4 contre 35,9), et derrière Claude sur HLE (40,0).

Face à Qwen3.8-27B, présenté comme un modèle local de référence, l’éditeur annonce 18,5 % de mieux sur Terminal-Bench et 53,1 % sur DeepSWE. Sur six tests, la moyenne d’Edge0-145B est de 72,8, contre 71,7 pour Qwen3.8-Flash-Next, dont l’empreinte mémoire est estimée à environ 70 Go en 4 bits. Ces estimations de référence n’ont pas encore été mesurées.

Un agent local qui planifie, code et vérifie

À partir d’une seule demande en langage naturel, le modèle découpe le besoin, planifie, écrit du code et appelle des outils pour l’exécuter. Si une erreur survient, il la corrige, puis prend des captures d’écran pour inspecter le résultat et poursuit jusqu’à la fin. Ces projets demandent souvent des dizaines de tours, sans frais de token ni d’API pour l’inférence locale.

Edge0 présente plusieurs démonstrations réalisées en local :

Une vidéo explicative sur le vol possible du Roadster de Tesla, générée en moins d’une heure
Une scène 3D de Manhattan dans Blender, construite en moins d’une heure
Une capitale médiévale pour un jeu de rôle, avec un survol de 20 secondes
Un programme pour un vrai drone, qui a trouvé un sac à dos rouge après avoir évité des obstacles
Une carte électronique conçue dans KiCad, puis animée dans Unreal Engine 5

Coûts, confidentialité et usage hors ligne

L’inférence locale n’entraîne ni frais de token ni frais d’API de modèle cloud. Les données, y compris le code ou les plans de cartes électroniques, peuvent rester sur la machine, et les capacités de base fonctionnent hors ligne. Edge0 rappelle toutefois que le matériel et l’électricité ont un coût.

Pour la mémoire, l’éditeur indique qu’un portable de 48 Go suffit, et marque aussi une station de 64 Go sur son graphique. Le projet ne donne pas ici de liste précise de machines compatibles, hormis l’exemple d’un MacBook Pro. Edge0 ne communique pas non plus de prix pour l’application.

Quelques repères

Inférence : C’est la phase où un modèle déjà entraîné produit des réponses à partir de ce qu’on lui demande. Elle s’oppose à l’entraînement, où le modèle apprend.
Token : Un token est un morceau de texte, souvent un mot ou une partie de mot, que le modèle lit ou produit. On mesure la vitesse d’un modèle en tokens par seconde.
Paramètres : Ce sont les valeurs numériques apprises pendant l’entraînement et qui forment le modèle. Plus il y en a, plus le modèle est gros et demande de mémoire.

Questions fréquentes

Edge0-145B peut-il tourner sur un ordinateur portable ?

Oui, sur un portable compatible. Edge0 rapporte 29 Go de mémoire au pic et plus de 80 tokens par seconde, avec l’exemple d’un MacBook Pro, et indique qu’un portable de 48 Go suffit.

Edge0-145B fonctionne-t-il sans connexion internet ?

Oui, les capacités de base fonctionnent hors ligne, selon Edge0. Les données peuvent aussi rester sur l’ordinateur.

Edge0-145B est-il gratuit, sans frais d’API ?

L’inférence locale n’entraîne ni frais de token ni frais d’API de modèle cloud, selon Edge0. Le matériel et l’électricité restent à ta charge, et l’éditeur n’annonce pas de prix pour l’application.

Edge0-145B est-il vraiment open source ?

Edge0 annonce l’ouverture des poids du modèle et du framework d’inférence. La licence exacte n’est pas précisée dans l’annonce.

À retenir

Edge0-145B vise à faire tourner en local, sur un portable compatible, un modèle de 145 milliards de paramètres capable de coder et d’agir, avec 29 Go de mémoire au pic. Les scores et les démonstrations viennent d’Edge0 lui-même, et le rapport technique censé détailler la reproduction reste à publier.