GuíaModelos y rendimientoTeléfono3 min de lectura

En esta página
  1. Elección rápida según la RAM
  2. Catálogo completo de modelos
  3. ¿Qué es el modo de razonamiento?
  4. Entender Q4_K_M
  5. Límites de seguridad de RAM
  6. Preguntas frecuentes
  7. Más guías
  8. Off Grid AI frente a otras apps

¿Qué modelo uso?

Estas recomendaciones hablan de los modelos que trae Off Grid AI, no de sugerencias genéricas, y salen directamente del catálogo de modelos de la app. La cuantización por defecto es Q4_K_M en todos.


Elección rápida según la RAM

RAM de tu equipo Mejor modelo de texto Mejor modelo de visión
3GB Qwen 3.5 0.8B SmolVLM2 500M
4GB Qwen 3.5 2B Gemma 4 E2B
6GB Gemma 4 E4B o Phi-4 Mini Gemma 4 E4B
8GB+ Qwen 3.5 9B Qwen 3.5 9B

Catálogo completo de modelos

Modelos de texto

Modelo Parámetros RAM mínima Contexto Ideal para
SmolLM2 360M 0.36B 3GB 8K Ultraligero, solo para equipos con poca RAM
Qwen 3.5 0.8B 0.8B 3GB 262K Respuestas rápidas y contexto largo en equipos económicos
Qwen 3.5 2B 2B 4GB 262K El mejor modelo general para equipos de 4 GB
SmolLM3 3B 3B 6GB 128K Hecho para equipos con recursos limitados
Phi-4 Mini 3.8B 6GB 128K Razonamiento, matemáticas, tareas estructuradas
Mistral 7B 7B 6GB 32K Rápido y fiable para todo
Qwen 3.5 9B 9B 8GB 262K La mejor calidad en el dispositivo

Modelos de visión (pueden ver imágenes)

Modelo Parámetros RAM mínima Ideal para
SmolVLM2 500M 0.5B 3GB Modelo de visión diminuto para equipos con poca RAM
SmolVLM 2B 2B 4GB Tareas de visión generales en gamas medias
SmolVLM2 2.2B 2.2B 4GB Visión y comprensión de video
Gemma 4 E2B 2B (MoE) 4GB La mejor visión para equipos de 4 GB, modo de razonamiento
Gemma 4 E4B 4B (MoE) 6GB El razonamiento y la visión más potentes, modo de razonamiento

Gemma 4 usa una arquitectura Mixture-of-Experts (MoE). La cantidad efectiva de parámetros es menor de lo que parece, por eso cabe en menos RAM de lo esperado y aun así rinde por encima de su categoría.


¿Qué es el modo de razonamiento?

Los modelos Qwen 3.5 y Gemma 4 tienen modo de razonamiento: el modelo resuelve el problema paso a paso antes de dar la respuesta final. Se parece al prompting de cadena de pensamiento, pero viene integrado en el modelo.

Úsalo para razonamientos complejos, matemáticas y problemas de varios pasos. Sáltalo en preguntas rápidas, resúmenes y charla casual, porque es más lento.


Entender Q4_K_M

Off Grid AI usa por defecto cuantización Q4_K_M en todos los modelos. Eso significa:

  • unos 4,5 bits por peso
  • entre un 5 y un 8 % menos de calidad que el original de precisión completa
  • entre un 50 y un 60 % más pequeño que la versión float16
  • la comunidad de llama.cpp lo recomienda como el mejor equilibrio para el móvil

No bajes de Q4_K_S salvo que andes muy justo de espacio. Los modelos Q2 y Q3 pierden calidad de forma notable.


Límites de seguridad de RAM

Off Grid AI comprueba automáticamente si un modelo cabe con seguridad antes de cargarlo:

  • Equipos con 4 GB de RAM: presupuesto del modelo = 40 % de la RAM total
  • Equipos con 6 GB o más: presupuesto del modelo = 60 % de la RAM total
  • Los modelos de texto necesitan unas 1,5 veces su tamaño en RAM (caché KV y activaciones)
  • Los modelos de imagen necesitan unas 1,5 veces en iOS (CoreML) y 1,8 veces en Android (Vulkan)

Si un modelo aparece como incompatible con tu equipo, es por esto.


Preguntas frecuentes

¿Cuál es el mejor modelo para un teléfono con 4 GB de RAM? Qwen 3.5 2B (Q4_K_M). Para visión, Gemma 4 E2B.

¿Qué cuantización usa Off Grid AI por defecto? Q4_K_M por defecto, el mejor equilibrio entre calidad y tamaño para el móvil.

¿Cuál es el mejor modelo para razonar en el dispositivo? Gemma 4 E4B (6 GB de RAM) o Qwen 3.5 9B (8 GB de RAM). Los dos tienen modo de razonamiento.


Más guías

Off Grid AI frente a otras apps

¿TE SIRVIÓ?
NOVEDADES DEL CREADOR