Sur cette page
Quel modèle choisir ?
Ces recommandations portent sur les modèles fournis dans Off Grid AI, pas sur des suggestions génériques, et viennent directement du catalogue de modèles de l’app. La quantification par défaut est Q4_K_M partout.
Choix rapide selon la RAM
| RAM de ton appareil | Meilleur modèle texte | Meilleur modèle vision |
|---|---|---|
| 3GB | Qwen 3.5 0.8B | SmolVLM2 500M |
| 4GB | Qwen 3.5 2B | Gemma 4 E2B |
| 6GB | Gemma 4 E4B ou Phi-4 Mini | Gemma 4 E4B |
| 8GB+ | Qwen 3.5 9B | Qwen 3.5 9B |
Le catalogue complet
Modèles texte
| Modèle | Paramètres | RAM min. | Contexte | Idéal pour |
|---|---|---|---|---|
| SmolLM2 360M | 0.36B | 3GB | 8K | Ultra léger, réservé aux appareils avec peu de RAM |
| Qwen 3.5 0.8B | 0.8B | 3GB | 262K | Réponses rapides et long contexte sur les appareils d’entrée de gamme |
| Qwen 3.5 2B | 2B | 4GB | 262K | Le meilleur modèle polyvalent pour les appareils à 4 Go |
| SmolLM3 3B | 3B | 6GB | 128K | Conçu pour les appareils aux ressources limitées |
| Phi-4 Mini | 3.8B | 6GB | 128K | Raisonnement, maths, tâches structurées |
| Mistral 7B | 7B | 6GB | 32K | Rapide et fiable pour tout |
| Qwen 3.5 9B | 9B | 8GB | 262K | La meilleure qualité sur l’appareil |
Modèles de vision (ils voient les images)
| Modèle | Paramètres | RAM min. | Idéal pour |
|---|---|---|---|
| SmolVLM2 500M | 0.5B | 3GB | Minuscule modèle de vision pour les appareils avec peu de RAM |
| SmolVLM 2B | 2B | 4GB | Tâches de vision courantes sur les milieux de gamme |
| SmolVLM2 2.2B | 2.2B | 4GB | Vision et compréhension vidéo |
| Gemma 4 E2B | 2B (MoE) | 4GB | La meilleure vision pour les appareils à 4 Go, mode réflexion |
| Gemma 4 E4B | 4B (MoE) | 6GB | Le raisonnement et la vision les plus forts, mode réflexion |
Gemma 4 utilise une architecture Mixture-of-Experts (MoE). Le nombre effectif de paramètres est plus faible qu’il n’y paraît, c’est pourquoi il tient dans moins de RAM que prévu tout en offrant une qualité au-dessus de sa catégorie.
C’est quoi, le mode réflexion ?
Les modèles Qwen 3.5 et Gemma 4 ont un mode réflexion : le modèle travaille le problème étape par étape avant de donner sa réponse finale. Un peu comme le prompting en chaîne de pensée, mais intégré au modèle.
Utilise-le pour le raisonnement complexe, les maths et les problèmes en plusieurs étapes. Passe-t’en pour les questions rapides, les résumés et la discussion, car il est plus lent.
Comprendre Q4_K_M
Off Grid AI utilise par défaut la quantification Q4_K_M pour tous les modèles. Concrètement :
- environ 4,5 bits par poids
- environ 5 à 8 % de perte de qualité par rapport à l’original en pleine précision
- environ 50 à 60 % plus petit que la version float16
- recommandé par la communauté llama.cpp comme le meilleur compromis sur mobile
Ne descends pas sous Q4_K_S sauf si ton stockage est très limité. Les modèles Q2 et Q3 perdent nettement en qualité.
Seuils de sécurité de la RAM
Off Grid AI vérifie automatiquement qu’un modèle tient sans risque avant de le charger :
- Appareils à 4 Go de RAM : budget du modèle = 40 % de la RAM totale
- Appareils à 6 Go ou plus : budget du modèle = 60 % de la RAM totale
- Les modèles texte demandent environ 1,5 fois leur taille en RAM (cache KV et activations)
- Les modèles d’image demandent environ 1,5 fois sur iOS (CoreML) et 1,8 fois sur Android (Vulkan)
Si un modèle est marqué incompatible avec ton appareil, voilà pourquoi.
Questions fréquentes
Quel est le meilleur modèle pour un téléphone avec 4 Go de RAM ? Qwen 3.5 2B (Q4_K_M). Pour la vision, Gemma 4 E2B.
Quelle quantification Off Grid AI utilise-t-il par défaut ? Q4_K_M par défaut, le meilleur compromis entre qualité et taille sur mobile.
Quel est le meilleur modèle pour raisonner sur l’appareil ? Gemma 4 E4B (6 Go de RAM) ou Qwen 3.5 9B (8 Go de RAM). Les deux ont un mode réflexion.
Autres guides
- Faire tourner des LLM en local sur ton téléphone Android en 2026
- Faire tourner des LLM en local sur ton iPhone en 2026
- IA de vision : analyser images et documents