PocketPal AI : une IA hors ligne sur ton téléphone

PocketPal AI est une application open source, sous licence MIT, qui fait tourner des modèles de langage directement sur un iPhone ou un téléphone Android. Une fois un modèle téléchargé, elle fonctionne sans compte et sans connexion internet. Elle ajoute au chat une voix, la dictée et quelques outils que le modèle peut appeler.

En bref

• Des modèles GGUF (Gemma, Qwen, Phi, Llama) qui tournent hors ligne sur le téléphone
• Pas de compte : les conversations restent sur l’appareil, sauf fonction en ligne activée
• Voix synthétisée et dictée Whisper, toutes deux sur l’appareil
• Téléchargement de modèles depuis Hugging Face et benchmark intégré
• Gratuite, sous licence MIT ; un achat Plus optionnel ajoute la voix mains libres

PocketPal AI, un assistant qui vit sur le téléphone

Beaucoup d’applications d’IA ne sont qu’une fenêtre ouverte sur le serveur de quelqu’un d’autre : chaque message part ailleurs pour être traité. PocketPal AI prend le contre-pied : le modèle de langage tourne sur le téléphone, et les conversations y restent, sauf si tu actives une fonction en ligne.

Le projet est publié par a-ghorbani sur GitHub sous licence MIT. Sa documentation précise que c’est un projet personnel, développé sur du temps libre, et qu’il n’a pas été testé sur tous les appareils.

Comment fonctionne PocketPal AI sur un téléphone

Le README décrit une pile à quatre couches. En haut, l’application React Native, qui gère l’interface et le déroulement de chaque échange. Dessous, des modules natifs font le lien avec les moteurs d’inférence, c’est-à-dire les programmes qui exécutent réellement les modèles.

Le moteur llama.cpp exécute les modèles de langage au format GGUF, whisper.cpp s’occupe de la reconnaissance vocale, et ONNX Runtime fait tourner plusieurs modèles de voix. Côté matériel, l’application vise le processeur, le processeur graphique (Metal sur iOS, OpenCL sur les puces Qualcomm Adreno pour Android) et le NPU, une puce dédiée à l’IA (Qualcomm Hexagon). Elle replie sur un autre mode quand un des chemins n’est pas disponible.

Ce que sait faire PocketPal AI

Le cœur de l’appli est le chat avec des modèles GGUF comme Gemma, Qwen, Phi ou Llama, entièrement hors ligne. Autour, le README liste plusieurs fonctions.

• Synthèse vocale sur l’appareil (voix Kokoro, Kitten, Supertonic, et Phonon sur les appareils compatibles) ou voix système du téléphone
• Dictée vocale avec Whisper, via whisper.cpp
• Pals : des assistants personnalisés, avec leur propre modèle, leur consigne système et leur personnalité (types Assistant et Roleplay), et PalsHub pour installer ceux de la communauté
• Talents : des outils appelables par le modèle, comme la calculatrice, la date et l’heure, l’affichage de HTML, et en option la recherche web et la lecture de pages
• Benchmark qui mesure les tokens par seconde et la mémoire, avec un classement facultatif, l’AI Phone Leaderboard
• Interface disponible en 16 langues, sur téléphone et tablette, iPad compris

Installer PocketPal AI et lancer un premier chat

L’application s’installe depuis l’App Store sur iPhone et iPad, ou depuis Google Play sur Android. Ensuite, trois étapes suffisent : ouvrir le menu, aller dans Models, choisir un modèle adapté à ton téléphone et le télécharger, puis le charger et écrire.

La documentation cite des modèles proposés d’emblée (Danube 2 et 3, Phi, Gemma 2, Qwen), mais prévient qu’une partie de son guide est dépassée. Tu peux aussi ajouter un modèle GGUF depuis Hugging Face ou le stockage local, y compris des modèles à accès restreint en renseignant ton jeton d’accès dans Settings, Set Token. Pour un modèle Hugging Face, il faut choisir une quantification qui tient dans la mémoire et le stockage de l’appareil. Le projet ne donne pas de configuration minimale.

Réglages utiles pour les modèles locaux

Sur iOS, l’API graphique d’Apple (Metal) est activée par défaut. La documentation conseille de la désactiver en cas de saccades. L’option Auto Offload/Load, active par défaut, retire le modèle de la mémoire quand l’application passe en arrière-plan et le recharge au retour, ce qui prend quelques secondes pour les gros modèles.

Le chevron donne accès aux réglages avancés, comme la température, le jeton BOS ou les options de modèle de conversation. Dans le chat, un appui long sur un de tes messages permet de le modifier, et la réponse est régénérée à partir de ta correction.

Vie privée, gratuité et limites à connaître

Les conversations et documents ne quittent l’appareil que par les fonctions que tu actives : recherche web et lecture de pages, serveur distant, ou voix système exécutée en ligne par ton téléphone. Les autres usages du réseau (téléchargement de modèles et de voix, PalsHub, achats, règles de compatibilité des appareils, classement facultatif, retours envoyés) n’attachent jamais tes chats, d’après le README.

L’application est gratuite et sans publicité. Les versions des boutiques proposent un achat unique optionnel, PocketPal Plus, qui ajoute la conversation vocale mains libres ; les versions compilées depuis le code source l’incluent. Le README ne donne pas son prix. La documentation signale aussi que copier du texte formaté, Markdown compris, reste imparfait : on copie un paragraphe par appui long, ou la réponse entière avec l’icône de copie.

Où en est le projet

Au 10 novembre 2026, le dépôt compte 9163 étoiles, 1064 copies, 52 contributeurs et 126 tickets et demandes de fusion ouverts. Il a été créé le 25 août 2024, et le code est écrit à 92 % en TypeScript.

La version v1.23.0, publiée le 10 novembre 2026, mentionne un serveur d’API local compatible OpenAI, présenté comme une preuve de concept, ainsi qu’un correctif de plantage du GPU OpenCL sur Adreno 730. La v1.22.0 avait apporté une nouvelle icône, avec prise en charge des icônes thématiques Android. La feuille de route du README mise sur davantage de Talents, pour que les Pals fassent plus de choses entièrement sur l’appareil.

git clone https://github.com/a-ghorbani/pocketpal-ai
cd pocketpal-ai
yarn install
yarn start
yarn ios
yarn android

Quelques repères

• Modèle de langage : Programme entraîné sur de grandes quantités de textes pour comprendre une question et produire une réponse rédigée. C’est la brique qui fait fonctionner un chatbot.
• GGUF : Format de fichier qui regroupe un modèle de langage sous une forme compacte, pensée pour tourner sur des machines modestes. Il existe souvent en plusieurs versions plus ou moins compressées.
• Quantification : Technique qui réduit la précision des nombres d’un modèle pour qu’il prenne moins de place en mémoire. Le fichier est plus léger, au prix d’une qualité parfois un peu moindre.

Questions fréquentes

PocketPal AI fonctionne-t-il sans connexion internet ?

Oui, une fois un modèle téléchargé, PocketPal AI fonctionne hors ligne et sans compte. Internet ne sert qu’au téléchargement des modèles et aux fonctions que tu actives, comme la recherche web.

PocketPal AI est-il gratuit ?

Oui, le chat, les modèles, les voix et les outils sont gratuits, sans compte ni publicité, sous licence MIT. Les versions des boutiques proposent un achat unique optionnel, PocketPal Plus, pour la voix mains libres ; le README n’en donne pas le prix.

Quels modèles peut-on utiliser avec PocketPal AI ?

PocketPal AI exécute des modèles de langage au format GGUF, dont Gemma, Qwen, Phi et Llama. Tu peux les télécharger depuis l’application ou en ajouter depuis Hugging Face.

Les conversations de PocketPal AI restent-elles sur le téléphone ?

Oui, par défaut : prompts, réponses et documents restent sur l’appareil. Ils en sortent seulement si tu actives la recherche web, un serveur distant ou une voix système qui fonctionne en ligne.

À retenir

PocketPal AI fait tourner des modèles GGUF sur iPhone et Android, hors ligne et sans compte, avec voix, dictée et outils en option. Le projet est gratuit et sous licence MIT, mais ne donne ni le prix de l’achat Plus ni de configuration minimale.