GuideModèles et performancesAndroid3 min de lecture

Sur cette page
  1. Ce qu’il te faut
  2. Étape 1 : télécharger Off Grid AI
  3. Étape 2 : choisir un modèle
  4. Étape 3 : télécharger et charger
  5. Étape 4 : passer hors ligne
  6. Performances par appareil
  7. Pourquoi faire tourner des LLM en local plutôt que dans le cloud ?
  8. Autres guides
  9. Off Grid AI face aux autres

Faire tourner des LLM en local sur ton téléphone Android en 2026 (sans cloud, sans compte)

Chaque question posée à ChatGPT est enregistrée sur un serveur : ta requête, la réponse, l’heure, ton compte. Conservée sans limite de durée. Ces données servent à améliorer les modèles, à cibler la publicité et à répondre aux demandes des autorités.

Off Grid AI supprime toute cette couche. Le modèle tourne dans la RAM de ton téléphone via llama.cpp sur ARM64. Tes prompts ne partent nulle part.

Voici comment le mettre en place.


Ce qu’il te faut

  • Un téléphone Android avec 4 Go de RAM ou plus (Android 10 ou plus récent)
  • 2 à 5 Go libres selon le modèle choisi
  • Internet une fois pour le premier téléchargement, puis plus jamais

Étape 1 : télécharger Off Grid AI

Télécharger Off Grid AI sur Google Play


Étape 2 : choisir un modèle

Tous les modèles utilisent par défaut la quantification Q4_K_M, le meilleur compromis entre qualité et taille sur mobile.

Modèle RAM min. Taille Idéal pour
Qwen 3.5 0.8B 3GB ~0.8GB Ultra rapide, contexte de 262K, appareils d’entrée de gamme
Qwen 3.5 2B 4GB ~1.7GB Le meilleur pour les appareils de 4 à 6 Go de RAM, contexte de 262K
Gemma 4 E2B 4GB ~1.5GB Vision et mode réflexion, architecture MoE
Mistral 7B 6GB ~4.1GB Rapide et fiable pour tout
Gemma 4 E4B 6GB ~2.5GB Bon raisonnement et vision, mode réflexion
Qwen 3.5 9B 8GB ~5.5GB La meilleure qualité sur l’appareil

Avec 4 à 6 Go, commence par Qwen 3.5 2B. Avec 8 Go de RAM ou plus, commence par Qwen 3.5 9B.


Étape 3 : télécharger et charger

  1. Ouvre Off Grid AI → touche Models
  2. Choisis ton modèle → touche Download
  3. Une fois téléchargé, touche Load
  4. Ouvre Chat et commence

À partir de là, le modèle tourne entièrement sur ton appareil. Aucune requête réseau.


Étape 4 : passer hors ligne

Active le mode avion. Ouvre une conversation. Ça marche toujours.

Tout est là. Tu as maintenant un assistant IA compétent qui fonctionne sans connexion, sur n’importe quel réseau, dans n’importe quel pays, sans facture mensuelle.


Performances par appareil

Off Grid AI utilise llama.cpp sur ARM64 avec les instructions SIMD NEON, i8mm et dotprod. Sur les GPU Qualcomm Adreno, le déchargement GPU via OpenCL est disponible en option.

Appareil RAM Modèle conseillé Tokens/s env.
Pixel 9 Pro 16GB Qwen 3.5 9B 15–25
Samsung Galaxy S25 12GB Qwen 3.5 9B 15–25
Pixel 8 Pro 12GB Qwen 3.5 9B 12–20
Samsung S24 8GB Qwen 3.5 9B ou Gemma 4 E4B 10–18
Pixel 7 8GB Qwen 3.5 9B 8–15
OnePlus 12 12GB Qwen 3.5 9B 12–20
Samsung A55 8GB Qwen 3.5 2B 15–25
Appareil d’entrée de gamme 4 Go 4GB Qwen 3.5 0.8B 20–35

Pourquoi faire tourner des LLM en local plutôt que dans le cloud ?

Confidentialité. Tes requêtes ne quittent jamais ton appareil.

Gratuit. Pas de frais d’API, pas d’abonnement. Le modèle se télécharge gratuitement et tourne pour toujours.

Hors ligne. Marche en avion, avec un mauvais réseau et dans les pays où les services d’IA en ligne sont restreints.

Rapidité. Pour les requêtes courtes, l’inférence locale sur les puces ARM récentes est étonnamment rapide, souvent plus qu’attendre une réponse du cloud sur une connexion lente.


Autres guides

Off Grid AI face aux autres

CELA VOUS A AIDÉ ?
NOUVELLES DU CRÉATEUR