Famille · 31 fiches
LLM locaux
Tout ce qui fait tourner un modèle de langage sur ta propre machine : Ollama, llama.cpp, format GGUF, moteurs d'inférence et quantification.
SpécimenHarbor
Lance une pile LLM locale complète et pré-reliée avec la commande harbor up.
LLM locaux★ 3 280
ActuEdge0-145B
Modèle ouvert de 145 milliards de paramètres qui tourne en local sur un portable compatible.
LLM locaux
ActuInferSSD
Fait tourner de gros modèles MoE plus grands que la RAM ou la VRAM, en lisant les experts sur le SSD.
LLM locaux★ 1 173
SpécimenPocketPal AI
Fait tourner des modèles de langage directement sur ton téléphone, sans compte ni connexion.
LLM locaux★ 9 205
SpécimenFreeToken
Sert des modèles MoE géants sur PC grand public en partageant le travail entre GPU, CPU et mémoire.
LLM locaux★ 16 667
Actullama-modchip
Fait tourner de gros modèles MoE, dont un de 284B, sur processeur seul, sans GPU.
LLM locaux★ 1 260
SpécimenPolyStrata
Fait tourner de gros modèles d'IA sur ton PC, avec une API locale compatible OpenAI et Anthropic.
LLM locaux★ 828
Spécimencolibri
Fait tourner de très gros modèles MoE en gardant l'utile en RAM et le reste sur le disque.
LLM locaux★ 47 493
ActuWebAI
Fait tourner un modèle d'IA dans le navigateur, sans cloud, pour les sites et les extensions.
LLM locaux
SpécimenJan
Télécharge et fait tourner des LLM sur ton ordinateur, comme une alternative open source à ChatGPT.
LLM locaux★ 45 542
ActuMing Voice
Assistant vocal temps réel qui tourne sur ton GPU et répond à voix haute, sans envoyer ton audio ailleurs.
LLM locaux★ 446
ActuSurvival LLM
Assistant IA et bibliothèque d'urgence qui répondent sans internet, en citant leurs sources.
LLM locaux
ActuHob
Fait tourner des modèles open-weight sur ton ordinateur, comme alternative gratuite à Claude et ChatGPT.
LLM locaux★ 530
SpécimenoMLX
Serveur d'inférence LLM pour Mac Apple Silicon, avec batching continu, géré depuis la barre des menus.
LLM locaux★ 23 651
ActuDeepInfer
Moteur d'inférence interne de Deepseek, basé sur vLLM, qui sert son modèle V4.1-Flash.
LLM locaux
SpécimenPage Assist
Extension qui ouvre une barre latérale et une interface web pour discuter avec ton modèle d'IA local.
LLM locaux★ 8 336
ActuFlint
Modèle de code gratuit, assez léger pour tourner hors ligne sur un portable.
LLM locaux
SpécimenHyperQwen
Sert Qwen3.8-27B avec vLLM sur une carte de 24 Go, via une API compatible OpenAI.
LLM locaux★ 2 720
SpécimenLocalAI
Fait tourner LLM, vision, voix, image et vidéo sur ton matériel, derrière une seule API.
LLM locaux★ 50 375
ActuPolyStrata
Fait tourner de gros modèles d'IA en local sur ton PC, avec une API compatible OpenAI et Anthropic.
LLM locaux★ 798
ActuLFM2.5-24B-A2B
Modèle de 24B paramètres dont 2B actifs, qui raisonne et appelle des outils pour faire tourner des agents en local.
LLM locaux
Spécimenllama-swap
Charge et décharge à la demande plusieurs modèles IA locaux derrière une seule API compatible OpenAI et Anthropic.
LLM locaux★ 6 082
ActuLlama Windows
Télécharge et exécute des modèles d'IA en local sur Windows 11, sans ligne de commande, grâce à llama.cpp.
LLM locaux
ActuProject Maya
Fait tourner GLM-5.3-Flash (321 B) en privé sur tes GPU, avec chat, moniteur et API.
LLM locaux★ 2 926
ActuSurface Laptop Ultra
Portable Surface de 15 pouces avec puce Nvidia RTX Spark, pensé pour l'IA locale et le jeu.
LLM locaux
Spécimenunsloth
Appli de bureau pour lancer et entraîner des LLM et des modèles de diffusion en local.
LLM locaux★ 79 559
Spécimenllmfit
Détecte ton matériel et indique quels modèles de langage open source tournent bien dessus.
LLM locaux★ 38 910
ActuStrata
Fait tourner un modèle de 125 milliards de paramètres sur un PC de jeu, avec une API locale.
LLM locaux★ 10 132
SpécimenOllama
Lance des modèles ouverts comme Gemma ou DeepSeek et les relie à tes outils de code ou à ton code.
LLM locaux★ 186 928
SpécimenMagnitude
Moteur d'inférence open source qui règle ses kernels sur ta machine pour faire tourner les modèles ouverts.
LLM locaux★ 7 626
SpécimenDynamo
Coordonne des moteurs comme vLLM sur plusieurs GPU ou nœuds pour servir des LLM à grande échelle.
LLM locaux★ 8 376