# Harbor : une pile LLM locale prête à l'emploi avec Docker

> Harbor lance en une commande une pile LLM locale (Open WebUI, llama.cpp, Ollama, SearXNG) déjà reliée, pour tester des modèles chez soi.

- Type : projet open source
- Famille : LLM locaux · Pile LLM locale
- Habitat : Terminal · Docker
- Niveau : intermédiaire
- Langage : Python
- Licence : Apache-2.0
- Étoiles GitHub : 3280 (relevé le 15 novembre 2026)
- Source : https://github.com/av/harbor
- Publié le : 15 novembre 2026
- Page : https://geekus.fr/projets/harbor/

Harbor est une interface en ligne de commande, accompagnée d'une application, qui monte une pile LLM locale complète avec une seule commande. Il se charge de l'orchestration Docker Compose et des connexions entre les services : modèles, interface de chat, recherche web, voix ou images. Tu choisis ce que tu veux lancer, Harbor règle le reste.

## En bref

- `harbor up` démarre [Open WebUI](https://geekus.fr/projets/open-webui/) et llama.cpp déjà configurés
- Les services s'ajoutent en les nommant : SearXNG, Speaches, [ComfyUI](https://geekus.fr/projets/comfyui/), vLLM…
- Harbor gère Docker Compose et les liens entre services
- `harbor eject` exporte ta configuration en fichier Docker Compose autonome
- Licence Apache-2.0, 3280 étoiles sur GitHub au 15 novembre 2026

![Harbor en image (tirée de la page du projet)](/illustrations/harbor-2.webp?v=6af9cdb2)

## Harbor, une pile LLM locale en une commande

Faire tourner un modèle de langage chez soi demande d'assembler plusieurs briques : un moteur qui exécute le modèle, une interface pour discuter, parfois un moteur de recherche, un module de voix. Chacune a sa configuration, et il faut les faire se parler. Harbor propose de court-circuiter cette étape : tu nommes les services voulus, il les lance déjà branchés les uns aux autres.

Le projet est écrit par av et publié sous licence Apache-2.0. Son README le présente comme un outil pour que tu passes moins de temps à configurer et plus de temps à utiliser tes modèles.

## Comment fonctionne Harbor

Harbor repose sur Docker Compose. Chaque service est décrit dans un fichier Compose, et la commande `harbor` démarre, arrête et relie ces services. Le README précise que l'outil gère l'orchestration, la configuration et la connectivité entre services.

Les services se rangent en grandes familles : des backends ([Ollama](https://geekus.fr/projets/ollama/), llama.cpp, vLLM, entre autres), des interfaces comme Open WebUI, et des services annexes que le projet appelle « satellites » (SearXNG pour la recherche web, Speaches pour la voix, ComfyUI pour les images). Les backends sont préconnectés à Open WebUI.

![Harbor : autre image tirée de la page du projet](/illustrations/harbor-3.webp?v=6af9cdb2)

## Ce que Harbor sait faire

Le README détaille plusieurs usages, chacun lancé par une commande `harbor up` suivie du nom du service. Le catalogue complet des services se trouve dans la documentation du projet.

Quelques usages mis en avant :

- Modèles locaux : Ollama, llama.cpp ou vLLM, ainsi que des moteurs exécutés directement sur macOS avec accélération Metal (dmr, mlx, omlx)
- Recherche web pour ton modèle : SearXNG est préconnecté à Open WebUI, Perplexica, Morphic ou Local Deep Research
- Chat vocal : Speaches fournit la reconnaissance et la synthèse vocales, reliées à Open WebUI
- Génération d'images : ComfyUI avec Flux et Open WebUI
- Outils MCP : MetaMCP et mcpo pour connecter des outils à Open WebUI
- Workflows : Dify, n8n, Flowise ou LangFlow

```bash
# Starts fully configured Open WebUI and llama.cpp
harbor up
# Now, Open WebUI can do Web RAG and TTS/STT
harbor up searxng speaches
```

## Installer et essayer Harbor

Le README ne reproduit pas la procédure d'installation : elle est détaillée dans le guide « Installing Harbor » du wiki, qui couvre la CLI et l'application. La documentation renvoie aussi vers un prompt d'installation destiné à des agents comme Claude Code ou [Codex](https://geekus.fr/projets/codex/). Ni le README ni la documentation fournie ne donnent de configuration minimale en mémoire ou en processeur.

Une fois Harbor installé, `harbor up` suffit pour démarrer. Tu peux ensuite choisir ton backend et fixer ses réglages, que Harbor retient.

```bash
# All backends are pre-connected to Open WebUI
harbor up ollama
harbor up llamacpp
harbor up vllm
# Set and remember args for llama.cpp
harbor llamacpp args -ngl 32
```

## Utiliser Harbor avec des outils de code et le téléphone

La commande `harbor launch` démarre ou détecte un backend compatible OpenAI, branche le modèle choisi dans un outil installé sur ta machine, puis le laisse tourner dans ton dossier de projet. Le README cite notamment `claude`, `codex`, `copilot`, `opencode` et `vscode`. Harbor Boost, un proxy d'optimisation intégré, ajoute des étapes comme la recherche web avant la réponse.

Pour consulter tes services depuis un téléphone, `harbor qr` affiche un QR code. La commande `harbor tunnel` expose un service sur Internet, mais le README prévient que c'est risqué et qu'il faut configurer une authentification.

```bash
# Run Codex against an explicit Harbor backend and model
harbor launch --backend ollama --model qwen3.5:4b codex
# Print a QR code to open the service on your phone
harbor qr
```

## Profils, historique et sortie de Harbor

Harbor enregistre des profils de configuration, par exemple pour garder des réglages différents selon le modèle. Il tient aussi un historique local des commandes `harbor`, séparé de celui de ton shell.

Si tu veux quitter Harbor, `harbor eject` produit un fichier Docker Compose qui reproduit ta configuration, sans dépendre de l'outil.

```bash
harbor profile save llama4
harbor profile use default
harbor eject searxng llamacpp > docker-compose.harbor.yml
```

## Où en est le projet Harbor

Au 15 novembre 2026, le dépôt compte 3280 étoiles, 241 forks, 28 contributeurs et 7 tickets ou demandes de fusion ouverts. Il a été créé le 27 juillet 2024, et le code est en Python (51 %), Shell (21 %), TypeScript (16 %) et HTML (7 %).

La version v0.5.20, publiée le 11 novembre 2026, donne à Open WebUI une clé de signature aléatoire pour les nouvelles installations, au lieu d'une valeur publique par défaut. Les installations existantes gardent leur valeur : `harbor doctor` et `harbor up webui` les avertissent, car changer la clé déconnecte tous les utilisateurs et réinitialise l'inscription MFA. La version v0.5.18 corrige une faille de déni de service dans le module `discussurl` de Boost.

## Quelques repères

- **Conteneur** : Un conteneur est un environnement isolé qui embarque un logiciel avec ce dont il a besoin pour fonctionner. Il permet de lancer des applications sans les installer directement sur le système.
- **RAG** : Le RAG consiste à chercher des informations dans des documents ou sur le web, puis à les donner au modèle de langage pour qu'il en tienne compte dans sa réponse.
- **Backend** : Dans ce contexte, un backend est le logiciel qui exécute le modèle de langage et répond aux requêtes. L'interface de chat s'y connecte pour envoyer les questions.

## Questions fréquentes

### Harbor est-il gratuit et open source ?

Oui, Harbor est publié sous licence Apache-2.0. Le README ne mentionne aucun prix.

### Comment lancer un LLM en local avec Harbor ?

Une fois Harbor installé, la commande `harbor up` démarre Open WebUI et llama.cpp déjà configurés. Tu peux aussi lancer `harbor up ollama` ou `harbor up vllm` pour choisir un autre backend.

### Harbor permet-il de faire de la recherche web avec un modèle local ?

Oui, `harbor up searxng` ajoute SearXNG, préconnecté à Open WebUI et à d'autres services comme Perplexica ou Morphic.

### Peut-on quitter Harbor et garder sa configuration ?

Oui, `harbor eject` exporte les services et variables choisis dans un fichier Docker Compose autonome.

## À retenir

Harbor réunit backends, interfaces et services annexes dans une pile LLM locale que `harbor up` démarre déjà configurée, avec une sortie possible vers un fichier Docker Compose autonome. Le projet est sous licence Apache-2.0 et sa dernière version, v0.5.20, date du 11 novembre 2026.

Sources :

- [av](https://github.com/av/harbor) (README)
- [docs/README.md](https://github.com/av/harbor/blob/HEAD/docs/README.md) (documentation officielle)
- [GitHub](https://github.com/av/harbor/releases) (notes de version)

Mots-clés : llm, docker, local, cli, open webui

---

Fiche publiée par Geekus : https://geekus.fr/projets/harbor/
