Sur cette page
Faire tourner des LLM en local sur ton téléphone Android en 2026 (sans cloud, sans compte)
Chaque question posée à ChatGPT est enregistrée sur un serveur : ta requête, la réponse, l’heure, ton compte. Conservée sans limite de durée. Ces données servent à améliorer les modèles, à cibler la publicité et à répondre aux demandes des autorités.
Off Grid AI supprime toute cette couche. Le modèle tourne dans la RAM de ton téléphone via llama.cpp sur ARM64. Tes prompts ne partent nulle part.
Voici comment le mettre en place.
Ce qu’il te faut
- Un téléphone Android avec 4 Go de RAM ou plus (Android 10 ou plus récent)
- 2 à 5 Go libres selon le modèle choisi
- Internet une fois pour le premier téléchargement, puis plus jamais
Étape 1 : télécharger Off Grid AI
Télécharger Off Grid AI sur Google Play
Étape 2 : choisir un modèle
Tous les modèles utilisent par défaut la quantification Q4_K_M, le meilleur compromis entre qualité et taille sur mobile.
| Modèle | RAM min. | Taille | Idéal pour |
|---|---|---|---|
| Qwen 3.5 0.8B | 3GB | ~0.8GB | Ultra rapide, contexte de 262K, appareils d’entrée de gamme |
| Qwen 3.5 2B | 4GB | ~1.7GB | Le meilleur pour les appareils de 4 à 6 Go de RAM, contexte de 262K |
| Gemma 4 E2B | 4GB | ~1.5GB | Vision et mode réflexion, architecture MoE |
| Mistral 7B | 6GB | ~4.1GB | Rapide et fiable pour tout |
| Gemma 4 E4B | 6GB | ~2.5GB | Bon raisonnement et vision, mode réflexion |
| Qwen 3.5 9B | 8GB | ~5.5GB | La meilleure qualité sur l’appareil |
Avec 4 à 6 Go, commence par Qwen 3.5 2B. Avec 8 Go de RAM ou plus, commence par Qwen 3.5 9B.
Étape 3 : télécharger et charger
- Ouvre Off Grid AI → touche Models
- Choisis ton modèle → touche Download
- Une fois téléchargé, touche Load
- Ouvre Chat et commence
À partir de là, le modèle tourne entièrement sur ton appareil. Aucune requête réseau.
Étape 4 : passer hors ligne
Active le mode avion. Ouvre une conversation. Ça marche toujours.
Tout est là. Tu as maintenant un assistant IA compétent qui fonctionne sans connexion, sur n’importe quel réseau, dans n’importe quel pays, sans facture mensuelle.
Performances par appareil
Off Grid AI utilise llama.cpp sur ARM64 avec les instructions SIMD NEON, i8mm et dotprod. Sur les GPU Qualcomm Adreno, le déchargement GPU via OpenCL est disponible en option.
| Appareil | RAM | Modèle conseillé | Tokens/s env. |
|---|---|---|---|
| Pixel 9 Pro | 16GB | Qwen 3.5 9B | 15–25 |
| Samsung Galaxy S25 | 12GB | Qwen 3.5 9B | 15–25 |
| Pixel 8 Pro | 12GB | Qwen 3.5 9B | 12–20 |
| Samsung S24 | 8GB | Qwen 3.5 9B ou Gemma 4 E4B | 10–18 |
| Pixel 7 | 8GB | Qwen 3.5 9B | 8–15 |
| OnePlus 12 | 12GB | Qwen 3.5 9B | 12–20 |
| Samsung A55 | 8GB | Qwen 3.5 2B | 15–25 |
| Appareil d’entrée de gamme 4 Go | 4GB | Qwen 3.5 0.8B | 20–35 |
Pourquoi faire tourner des LLM en local plutôt que dans le cloud ?
Confidentialité. Tes requêtes ne quittent jamais ton appareil.
Gratuit. Pas de frais d’API, pas d’abonnement. Le modèle se télécharge gratuitement et tourne pour toujours.
Hors ligne. Marche en avion, avec un mauvais réseau et dans les pays où les services d’IA en ligne sont restreints.
Rapidité. Pour les requêtes courtes, l’inférence locale sur les puces ARM récentes est étonnamment rapide, souvent plus qu’attendre une réponse du cloud sur une connexion lente.
Autres guides
- Faire tourner des LLM en local sur ton iPhone en 2026
- Quel modèle choisir ?
- Faire tourner Stable Diffusion sur ton téléphone Android
- Utiliser Ollama depuis ton téléphone Android en 2026
- Utiliser Off Grid AI Desktop depuis ton téléphone en 2026
- IA de vision : analyser des images sur l’appareil