En esta página
Una GPU gamer de gama media como la RTX 4060 trae 8 GB de VRAM, suficiente para cargar un modelo de lenguaje de 7.000 millones de parámetros y responder más rápido de lo que lees. Esa tarjeta pasa casi toda su vida mostrando el fondo de escritorio mientras pagas una cuota mensual por ejecutar prompts en un servidor alquilado. Off Grid AI Desktop es una app gratuita que ejecuta modelos de lenguaje directamente en tu PC con Windows.
Gratis y funciona sin conexión. Sin cuenta.

El chat de Off Grid AI Desktop ejecutando Qwen 3.5 9B en local y respondiendo con las fuentes citadas.
Qué necesitas
En Windows, la cifra que más importa es la VRAM de tu GPU. Una tarjeta NVIDIA con CUDA es el camino más rápido. Si no tienes GPU dedicada también sirve: la app usa la CPU y la RAM del sistema.
| Nivel | GPU | VRAM | RAM del sistema | Disco libre |
|---|---|---|---|---|
| Solo CPU | ninguna / integrada | n/a | 16 GB | 10 GB |
| Mínimo | GTX 1660 / RTX 3050 | 6 GB | 16 GB | 20 GB |
| Recomendado | RTX 4060 / 4070 | 8 a 12 GB | 16 GB | 30 GB |
| Holgado | RTX 4080 / 4090 | 16 a 24 GB | 32 GB o más | 50 GB o más |
La VRAM pone el techo. Un modelo que cabe entero en la VRAM va rápido. Uno más grande que tu VRAM se desborda a la RAM del sistema y se vuelve más lento, pero sigue funcionando.
Qué puede hacer Off Grid AI Desktop
Tienes una ventana de chat que funciona como ChatGPT, solo que el modelo corre en tu propia GPU y tus chats nunca salen de la PC.
- Chatea con un modelo local, con los controles de temperatura y ventana de contexto a la vista.
- Explora y descarga modelos de Hugging Face dentro de la app, sin línea de comandos.
- Ve en vivo el HTML, SVG, Mermaid y React que genera el modelo, en una vista previa aislada sin acceso a la red.
- Ejecuta cualquier archivo GGUF compatible. El formato es abierto, así que nunca dependes del catálogo de un solo proveedor.
Lo que de verdad cuenta es pedirle a un modelo que reestructure una función, redacte una respuesta o explique un mensaje de error con internet desconectado, y recibir la respuesta.
Qué modelos usar
Elige el modelo según tu VRAM. Los archivos GGUF cuantizados están comprimidos, así que un modelo que necesita 28 GB a precisión completa baja a unos 8 GB en Q4.
| Tu GPU | Modelo para empezar | Qué esperar |
|---|---|---|
| Sin GPU (CPU + 16 GB de RAM) | Gemma 3 1B o Qwen 2.5 3B | Funciona, más lento. Bien para tareas cortas y resúmenes. |
| 6 a 8 GB de VRAM | Qwen 2.5 7B (Q4) | Cabe en la VRAM, rápido, buen razonamiento general. |
| 12 a 16 GB de VRAM | Qwen 2.5 14B (Q4) | Más cerca de la calidad de la nube, respuestas más largas. |
| 24 GB de VRAM | 14B en Q8 o 32B en Q4 | La mejor calidad local, con espacio para contexto largo. |
La regla general: mantén todo el modelo dentro de la VRAM. En cuanto se desborda a la RAM del sistema, la velocidad cae mucho, así que baja un tamaño antes de que pase.

La pantalla de modelos de Off Grid AI Desktop, con modelos de texto ajustados a tu equipo.
Cómo funciona la aceleración por hardware
Off Grid AI Desktop incluye llama.cpp y pasa las capas del modelo a tu GPU. En una tarjeta NVIDIA usa CUDA, el framework de cálculo de NVIDIA. En AMD, Intel Arc u otras GPU usa Vulkan, la API gráfica compatible con todos los fabricantes. Si no hay GPU utilizable, ejecuta el mismo modelo en la CPU.
Cada capa del modelo que cabe en la VRAM corre en los miles de núcleos paralelos de la GPU en lugar de en los pocos de la CPU. De ahí sale toda la velocidad. Los pesos se cuantizan a 4 u 8 bits para que quepan en la VRAM de una tarjeta normal y los cálculos sigan siendo rápidos. Descargas el archivo una vez y desde entonces corre en tu propia tarjeta.
Cómo mantenerlo rápido
Algunos ajustes marcan la diferencia en Windows.
- Haz que el modelo quepa en la VRAM. Mira cuánta VRAM tiene tu tarjeta y elige un modelo cuantizado un poco más pequeño. Es el factor de velocidad más importante.
- Prefiere Q4_K_M. Es el punto de equilibrio: lo bastante pequeño para caber y lo bastante preciso para confiar en él. Pasa a Q8 solo si la VRAM lo permite.
- Mantén el driver de la GPU al día. Un driver reciente de NVIDIA o AMD importa para el rendimiento de CUDA y Vulkan.
- Cuida la ventana de contexto. Un contexto largo usa más VRAM y retrasa el primer token. Mantenlo corto cuando solo necesitas una respuesta corta.
Privacidad: más fuerte que ChatGPT
Un chatbot en la nube envía cada prompt a un centro de datos remoto donde se registra y puede alimentar el siguiente entrenamiento. Con Off Grid AI Desktop, tu prompt va del teclado a un proceso en tu propia PC y vuelve directo.
Sin cuenta. Sin clave de API. Desconecta la red y sigue funcionando.
Para empezar
- Descarga Off Grid AI Desktop para Windows.
- Instala y abre la app.
- Abre el navegador de modelos y descarga un modelo que encaje con tu nivel de VRAM de la tabla de arriba.
- Abre un chat, elige ese modelo y envía tu primer prompt.
- Desconecta la red y envía otro, para comprobar que funciona solo con tu hardware.
Preguntas frecuentes
¿De verdad es gratis?
Sí. El chat local y el navegador de modelos no tienen muro de pago.
¿Necesito una GPU NVIDIA?
No. NVIDIA con CUDA es lo más rápido. Las GPU AMD e Intel funcionan con Vulkan, y una PC solo con CPU también sirve, aunque más lenta.
¿De verdad funciona sin conexión?
Sí. Una vez descargado el modelo, la app no necesita red. Descargar es el único paso en línea.
¿Cuánta VRAM necesito?
Con 6 a 8 GB un modelo de 7B va bien. Con 12 a 16 GB puedes usar modelos de 14B. Sin GPU usas la RAM del sistema y un modelo más pequeño.
¿Qué modelos puedo ejecutar?
Cualquier modelo GGUF compatible, como Gemma o Qwen. Los exploras y descargas dentro de la app.
¿Mis datos son privados?
Tus prompts nunca salen de la PC. Sin cuenta.
Ejecuta un modelo de verdad en tu propia PC con Windows hoy, sin que nada salga de tu disco.