En esta página
¿Qué modelo uso?
Estas recomendaciones hablan de los modelos que trae Off Grid AI, no de sugerencias genéricas, y salen directamente del catálogo de modelos de la app. La cuantización por defecto es Q4_K_M en todos.
Elección rápida según la RAM
| RAM de tu equipo | Mejor modelo de texto | Mejor modelo de visión |
|---|---|---|
| 3GB | Qwen 3.5 0.8B | SmolVLM2 500M |
| 4GB | Qwen 3.5 2B | Gemma 4 E2B |
| 6GB | Gemma 4 E4B o Phi-4 Mini | Gemma 4 E4B |
| 8GB+ | Qwen 3.5 9B | Qwen 3.5 9B |
Catálogo completo de modelos
Modelos de texto
| Modelo | Parámetros | RAM mínima | Contexto | Ideal para |
|---|---|---|---|---|
| SmolLM2 360M | 0.36B | 3GB | 8K | Ultraligero, solo para equipos con poca RAM |
| Qwen 3.5 0.8B | 0.8B | 3GB | 262K | Respuestas rápidas y contexto largo en equipos económicos |
| Qwen 3.5 2B | 2B | 4GB | 262K | El mejor modelo general para equipos de 4 GB |
| SmolLM3 3B | 3B | 6GB | 128K | Hecho para equipos con recursos limitados |
| Phi-4 Mini | 3.8B | 6GB | 128K | Razonamiento, matemáticas, tareas estructuradas |
| Mistral 7B | 7B | 6GB | 32K | Rápido y fiable para todo |
| Qwen 3.5 9B | 9B | 8GB | 262K | La mejor calidad en el dispositivo |
Modelos de visión (pueden ver imágenes)
| Modelo | Parámetros | RAM mínima | Ideal para |
|---|---|---|---|
| SmolVLM2 500M | 0.5B | 3GB | Modelo de visión diminuto para equipos con poca RAM |
| SmolVLM 2B | 2B | 4GB | Tareas de visión generales en gamas medias |
| SmolVLM2 2.2B | 2.2B | 4GB | Visión y comprensión de video |
| Gemma 4 E2B | 2B (MoE) | 4GB | La mejor visión para equipos de 4 GB, modo de razonamiento |
| Gemma 4 E4B | 4B (MoE) | 6GB | El razonamiento y la visión más potentes, modo de razonamiento |
Gemma 4 usa una arquitectura Mixture-of-Experts (MoE). La cantidad efectiva de parámetros es menor de lo que parece, por eso cabe en menos RAM de lo esperado y aun así rinde por encima de su categoría.
¿Qué es el modo de razonamiento?
Los modelos Qwen 3.5 y Gemma 4 tienen modo de razonamiento: el modelo resuelve el problema paso a paso antes de dar la respuesta final. Se parece al prompting de cadena de pensamiento, pero viene integrado en el modelo.
Úsalo para razonamientos complejos, matemáticas y problemas de varios pasos. Sáltalo en preguntas rápidas, resúmenes y charla casual, porque es más lento.
Entender Q4_K_M
Off Grid AI usa por defecto cuantización Q4_K_M en todos los modelos. Eso significa:
- unos 4,5 bits por peso
- entre un 5 y un 8 % menos de calidad que el original de precisión completa
- entre un 50 y un 60 % más pequeño que la versión float16
- la comunidad de llama.cpp lo recomienda como el mejor equilibrio para el móvil
No bajes de Q4_K_S salvo que andes muy justo de espacio. Los modelos Q2 y Q3 pierden calidad de forma notable.
Límites de seguridad de RAM
Off Grid AI comprueba automáticamente si un modelo cabe con seguridad antes de cargarlo:
- Equipos con 4 GB de RAM: presupuesto del modelo = 40 % de la RAM total
- Equipos con 6 GB o más: presupuesto del modelo = 60 % de la RAM total
- Los modelos de texto necesitan unas 1,5 veces su tamaño en RAM (caché KV y activaciones)
- Los modelos de imagen necesitan unas 1,5 veces en iOS (CoreML) y 1,8 veces en Android (Vulkan)
Si un modelo aparece como incompatible con tu equipo, es por esto.
Preguntas frecuentes
¿Cuál es el mejor modelo para un teléfono con 4 GB de RAM? Qwen 3.5 2B (Q4_K_M). Para visión, Gemma 4 E2B.
¿Qué cuantización usa Off Grid AI por defecto? Q4_K_M por defecto, el mejor equilibrio entre calidad y tamaño para el móvil.
¿Cuál es el mejor modelo para razonar en el dispositivo? Gemma 4 E4B (6 GB de RAM) o Qwen 3.5 9B (8 GB de RAM). Los dos tienen modo de razonamiento.
Más guías
- Cómo correr LLM en local en tu teléfono Android en 2026
- Cómo correr LLM en local en tu iPhone en 2026
- IA de visión: analiza imágenes y documentos