Sur cette page
Ton téléphone Android a un GPU plus puissant que la plupart des ordinateurs portables de 2018. Les puces Snapdragon récentes ont des accélérateurs d’IA dédiés qui restent inutilisés pendant que tu paies 20 $ par mois pour faire tourner une IA sur le serveur de quelqu’un d’autre. Ça change.
Off Grid est une application gratuite et open source qui fait tourner des modèles d’IA en local sur ton téléphone Android. Pas besoin d’internet après le premier téléchargement du modèle. Pas de compte. Aucune donnée ne quitte ton appareil. Ce guide explique comment l’installer, quels modèles choisir et quelles performances attendre sur ton matériel.
| Play Store | GitHub |
Ce qu’il te faut
Minimum : 6 Go de RAM et un processeur ARM64 (n’importe quel téléphone des quatre ou cinq dernières années). Tu peux commencer avec des modèles de 80 Mo.
Recommandé : 8 Go de RAM ou plus, Snapdragon 8 Gen 2 ou plus récent. Tu peux alors utiliser des modèles de 3 à 7 milliards de paramètres qui donnent des réponses vraiment utiles.
La différence avec l’IA dans le cloud : ChatGPT et Claude font tourner des modèles de centaines de milliards de paramètres sur des GPU de data center. En local sur ton téléphone, les modèles sont plus petits (1 à 7 milliards de paramètres). Ils sont moins forts pour les raisonnements complexes, mais pour le quotidien (questions rapides, résumés, brouillons, analyse de documents), ils sont étonnamment capables.
Ce que fait Off Grid
Off Grid n’est pas qu’un chatbot texte. L’application réunit six fonctions d’IA, toutes sur ton appareil :
Exemple de chat (iPhone)
|
Génération d'images (sur iPhone)
|
Modèles disponibles (iPhone)
|
Documents de projet (iPhone)
|
Génération de texte. Qwen 3, Llama 3.2, Gemma 3, Phi-4 ou n’importe quel modèle GGUF. Les réponses s’affichent au fil de l’eau, avec le markdown. De 15 à 30 tokens par seconde sur les téléphones haut de gamme, de 5 à 15 en milieu de gamme.
Génération d’images. Stable Diffusion en local, avec aperçu en temps réel. Accélérée par la NPU sur Snapdragon (5 à 10 secondes par image). Plus de 20 modèles, dont Absolute Reality, DreamShaper et Anything V5.
Vision. Pointe l’appareil photo sur quelque chose ou joins une image, puis pose tes questions. SmolVLM et Qwen3-VL répondent en 7 secondes environ sur haut de gamme.
Transcription vocale. Whisper transforme ta voix en texte, en local. Maintiens pour enregistrer, le texte apparaît pendant que tu parles. Aucun son ne quitte ton téléphone.
Outils. Les modèles compatibles avec l’appel de fonctions utilisent des outils intégrés : recherche web, calculatrice, date et heure, infos sur l’appareil. Le modèle les enchaîne automatiquement, avec une protection contre les boucles sans fin.
Analyse de documents. Joins des PDF, du code, des CSV et plus encore à tes conversations.
Quels modèles choisir
Le catalogue d’Off Grid filtre selon la RAM de ton appareil, pour que tu ne télécharges jamais un modèle que ton téléphone ne peut pas faire tourner. Voici ce qui marche sur du vrai matériel :
Téléphones avec 6 Go de RAM : reste sur des modèles de 1 à 2 milliards de paramètres. Qwen 3 0.6B ou SmolLM3 sont de bons points de départ. Compte 5 à 10 tokens par seconde, bien pour des réponses courtes et des tâches simples.
Téléphones avec 8 Go de RAM : le meilleur compromis. Qwen 3 1.5B ou Phi-4 Mini donnent des réponses nettement meilleures. De 10 à 20 tokens par seconde sur les Snapdragon récents.
Téléphones avec 12 Go de RAM ou plus : tu peux faire tourner des modèles 7B comme Llama 3.2 7B ou Qwen 3 4B. Pour beaucoup de tâches, ils approchent le premier ChatGPT. De 15 à 30 tokens par seconde sur Snapdragon 8 Gen 3.
La quantification compte. Un modèle quantifié en Q4_K_M utilise environ deux fois moins de mémoire que la version complète, avec une perte de qualité minime. Sur mobile, prends toujours du Q4 ou du Q5.
Si tu as déjà des modèles, tu peux importer tes propres fichiers .gguf depuis le stockage de l’appareil.
Comment l’IA locale fonctionne sur ton téléphone
Avec une IA locale, les poids du modèle sont chargés dans la RAM du téléphone et les calculs tournent sur ton processeur. Aucun serveur n’intervient. Une fois le modèle téléchargé depuis Hugging Face, tout se passe sur ton appareil.
Off Grid utilise llama.cpp, le même moteur que la plupart des IA locales sur ordinateur. Il est compilé pour ARM64 et utilise l’accélération disponible sur ton téléphone : la NPU de Qualcomm via QNN, le GPU Adreno via OpenCL, ou le CPU avec les instructions ARM NEON.
Tes conversations, tes documents et tes images ne touchent donc jamais le réseau. Tu peux le vérifier en activant le mode avion : tout continue de marcher.
Accélération matérielle
Off Grid détecte ton matériel et choisit automatiquement le chemin le plus rapide :
Snapdragon 8 Gen 1 ou plus récent avec QNN : la NPU dédiée est bien plus rapide et plus économe que le CPU ou le GPU. Avec un Snapdragon 8 Gen 2 ou Gen 3, c’est l’option la plus rapide. Off Grid utilise QNN automatiquement quand c’est possible.
GPU Adreno via OpenCL : disponible sur la plupart des téléphones Snapdragon. Plus rapide que le CPU seul, une bonne solution pour les Snapdragon plus anciens.
CPU seul : marche partout. Plus lent, mais utilisable avec les petits modèles.
L’astuce du cache KV qui triple la vitesse
C’est le plus gros gain de performance, et la plupart des gens passent à côté. Le cache KV garde le contexte de ta conversation. Par défaut, il est en f16 (virgule flottante 16 bits). Dans les réglages d’Off Grid, tu peux passer en q4_0 (quantification 4 bits).
Passer de f16 à q4_0 triple à peu près la vitesse, avec un impact minime sur la qualité pour la plupart des modèles. L’application te le propose après ta première réponse.
La mémoire, la vraie limite
Ton téléphone a 8 Go de RAM, mais le système en occupe 3 à 4. Il te reste donc environ 4 Go pour l’IA.
Règle approximative : taille du fichier du modèle × 1,5 = RAM nécessaire pendant l’utilisation (le surplus sert au cache KV et aux calculs intermédiaires). Un modèle de 4 Go demande donc environ 6 Go de RAM libre.
Off Grid vérifie la RAM disponible avant chaque chargement et te prévient si un modèle ne tient pas. Ça évite le plantage silencieux quand le système ferme une application trop gourmande. Tu vois un avertissement clair au lieu d’une application qui se ferme sans raison.
Pourquoi en local plutôt que dans le cloud
L’IA locale sur ton téléphone te libère de trois choses à la fois.
Pas d’abonnement. L’IA dans le cloud coûte 20 $ par mois et plus. L’IA locale est gratuite après le téléchargement unique du modèle.
Pas d’internet. Les modèles locaux marchent en avion, dans un sous-sol, dans un pays où internet est restreint. Sans connexion, pas de coupure.
Pas de fuite de données. Ce que tu tapes dans une IA en ligne est stocké sur un serveur que tu ne contrôles pas. En local, tes questions de santé, tes documents juridiques, ton journal intime et tes notes de travail confidentielles ne quittent jamais ton appareil. Off Grid est open source : pas besoin de croire qui que ce soit sur parole. Lis le code toi-même.
Pour commencer
- Installe Off Grid depuis le Play Store
- Ouvre le catalogue et choisis un modèle recommandé pour la RAM de ton appareil
- Télécharge le modèle en Wi-Fi (de 80 Mo à plus de 4 Go)
- Active le mode avion pour vérifier que tout tourne en local
- Commence à discuter
La première réponse est plus lente, le temps de charger le modèle en mémoire. Les suivantes vont plus vite. Dans les réglages, passe le cache KV en q4_0 pour la meilleure vitesse.
Et ensuite
La prochaine génération de Snapdragon de Qualcomm devrait atteindre 200 tokens par seconde en IA locale. Le Galaxy S26 de Samsung arrive avec de l’IA intégrée sur l’appareil. Et les techniques d’optimisation tirent toujours plus de qualité de modèles toujours plus petits.
Off Grid évolue activement, avec de nouvelles fonctions chaque semaine. Le mode vocal, les outils, le cache KV réglable et la vision sont tous arrivés le mois dernier. Les dernières versions sont sur GitHub.
Dans un an, faire tourner une IA en local sur ton téléphone ne sera plus une astuce de spécialiste. Ce sera la norme.
Exemple de chat (iPhone)
Génération d'images (sur iPhone)
Modèles disponibles (iPhone)
Documents de projet (iPhone)