GuideModèles et performancesTéléphone3 min de lecture

Sur cette page
  1. Choix rapide selon la RAM
  2. Le catalogue complet
  3. C’est quoi, le mode réflexion ?
  4. Comprendre Q4_K_M
  5. Seuils de sécurité de la RAM
  6. Questions fréquentes
  7. Autres guides
  8. Off Grid AI face aux autres

Quel modèle choisir ?

Ces recommandations portent sur les modèles fournis dans Off Grid AI, pas sur des suggestions génériques, et viennent directement du catalogue de modèles de l’app. La quantification par défaut est Q4_K_M partout.


Choix rapide selon la RAM

RAM de ton appareil Meilleur modèle texte Meilleur modèle vision
3GB Qwen 3.5 0.8B SmolVLM2 500M
4GB Qwen 3.5 2B Gemma 4 E2B
6GB Gemma 4 E4B ou Phi-4 Mini Gemma 4 E4B
8GB+ Qwen 3.5 9B Qwen 3.5 9B

Le catalogue complet

Modèles texte

Modèle Paramètres RAM min. Contexte Idéal pour
SmolLM2 360M 0.36B 3GB 8K Ultra léger, réservé aux appareils avec peu de RAM
Qwen 3.5 0.8B 0.8B 3GB 262K Réponses rapides et long contexte sur les appareils d’entrée de gamme
Qwen 3.5 2B 2B 4GB 262K Le meilleur modèle polyvalent pour les appareils à 4 Go
SmolLM3 3B 3B 6GB 128K Conçu pour les appareils aux ressources limitées
Phi-4 Mini 3.8B 6GB 128K Raisonnement, maths, tâches structurées
Mistral 7B 7B 6GB 32K Rapide et fiable pour tout
Qwen 3.5 9B 9B 8GB 262K La meilleure qualité sur l’appareil

Modèles de vision (ils voient les images)

Modèle Paramètres RAM min. Idéal pour
SmolVLM2 500M 0.5B 3GB Minuscule modèle de vision pour les appareils avec peu de RAM
SmolVLM 2B 2B 4GB Tâches de vision courantes sur les milieux de gamme
SmolVLM2 2.2B 2.2B 4GB Vision et compréhension vidéo
Gemma 4 E2B 2B (MoE) 4GB La meilleure vision pour les appareils à 4 Go, mode réflexion
Gemma 4 E4B 4B (MoE) 6GB Le raisonnement et la vision les plus forts, mode réflexion

Gemma 4 utilise une architecture Mixture-of-Experts (MoE). Le nombre effectif de paramètres est plus faible qu’il n’y paraît, c’est pourquoi il tient dans moins de RAM que prévu tout en offrant une qualité au-dessus de sa catégorie.


C’est quoi, le mode réflexion ?

Les modèles Qwen 3.5 et Gemma 4 ont un mode réflexion : le modèle travaille le problème étape par étape avant de donner sa réponse finale. Un peu comme le prompting en chaîne de pensée, mais intégré au modèle.

Utilise-le pour le raisonnement complexe, les maths et les problèmes en plusieurs étapes. Passe-t’en pour les questions rapides, les résumés et la discussion, car il est plus lent.


Comprendre Q4_K_M

Off Grid AI utilise par défaut la quantification Q4_K_M pour tous les modèles. Concrètement :

  • environ 4,5 bits par poids
  • environ 5 à 8 % de perte de qualité par rapport à l’original en pleine précision
  • environ 50 à 60 % plus petit que la version float16
  • recommandé par la communauté llama.cpp comme le meilleur compromis sur mobile

Ne descends pas sous Q4_K_S sauf si ton stockage est très limité. Les modèles Q2 et Q3 perdent nettement en qualité.


Seuils de sécurité de la RAM

Off Grid AI vérifie automatiquement qu’un modèle tient sans risque avant de le charger :

  • Appareils à 4 Go de RAM : budget du modèle = 40 % de la RAM totale
  • Appareils à 6 Go ou plus : budget du modèle = 60 % de la RAM totale
  • Les modèles texte demandent environ 1,5 fois leur taille en RAM (cache KV et activations)
  • Les modèles d’image demandent environ 1,5 fois sur iOS (CoreML) et 1,8 fois sur Android (Vulkan)

Si un modèle est marqué incompatible avec ton appareil, voilà pourquoi.


Questions fréquentes

Quel est le meilleur modèle pour un téléphone avec 4 Go de RAM ? Qwen 3.5 2B (Q4_K_M). Pour la vision, Gemma 4 E2B.

Quelle quantification Off Grid AI utilise-t-il par défaut ? Q4_K_M par défaut, le meilleur compromis entre qualité et taille sur mobile.

Quel est le meilleur modèle pour raisonner sur l’appareil ? Gemma 4 E4B (6 Go de RAM) ou Qwen 3.5 9B (8 Go de RAM). Les deux ont un mode réflexion.


Autres guides

Off Grid AI face aux autres

CELA VOUS A AIDÉ ?
NOUVELLES DU CRÉATEUR