GuíaModelos y rendimientoTeléfono3 min de lectura

En esta página
  1. Servidores compatibles
  2. Configurar Ollama
  3. Configurar LM Studio
  4. Conectarte desde Off Grid AI
  5. Elegir un modelo remoto
  6. Visión y llamadas a herramientas con servidores remotos
  7. Acceso desde fuera de casa con Tailscale
  8. Nota de seguridad
  9. Más guías
  10. Off Grid AI frente a otras apps

Servidores remotos: conecta Ollama, LM Studio y LocalAI

Tu teléfono corre modelos impresionantes en local, pero tu computadora o tu Mac pueden correr otros mucho más grandes: Llama 3.1 70B, Mistral Large, DeepSeek, CodeLlama 34B.

Off Grid AI se conecta a cualquier servidor compatible con OpenAI de tu red local, así que usas esos modelos desde el teléfono por wifi. Sin internet.


Servidores compatibles

Servidor Plataforma Notas
Ollama macOS, Linux, Windows El más popular, el más fácil de configurar
LM Studio macOS, Windows Gran interfaz, gestión de modelos sencilla
LocalAI Linux, Docker Autoalojado, muchos formatos de modelo
vLLM Linux Alto rendimiento, pensado para GPU
Cualquiera compatible con OpenAI Cualquiera Necesita /v1/chat/completions y /v1/models

Configurar Ollama

1. Instala Ollama en tu computadora:

# macOS
brew install ollama

# Linux
curl -fsSL https://ollama.ai/install.sh | sh

2. Permite conexiones remotas (por defecto, Ollama solo escucha en localhost):

# macOS/Linux
OLLAMA_HOST=0.0.0.0 ollama serve

# ~/.zshrc / ~/.bashrc
export OLLAMA_HOST=0.0.0.0

3. Descarga un modelo:

ollama pull llama3.1:8b
ollama pull qwen2.5:14b

4. Busca la IP local de tu computadora:

  • macOS: Ajustes del Sistema → Red → Wi-Fi → Detalles → Dirección IP
  • Linux: ip addr show y busca tu interfaz wifi

Configurar LM Studio

  1. Descarga e instala LM Studio
  2. Descarga un modelo en la app
  3. Ve a la pestaña Local Server → haz clic en Start Server
  4. Activa “Allow connections from network” en los ajustes del servidor
  5. Anota la IP y el puerto que aparecen (puerto por defecto: 1234)

Conectarte desde Off Grid AI

  1. Abre Off Grid AI → Settings → Remote Servers
  2. Toca Add Server
  3. Escribe la URL del servidor:
    • Ollama: http://192.168.1.42:11434
    • LM Studio: http://192.168.1.42:1234
  4. Añade una clave de API si tu servidor la pide (se guarda en el llavero del sistema)
  5. Toca Test Connection; debería ponerse en verde
  6. Toca Save

Off Grid AI detecta solo todos los modelos del servidor a través de /v1/models.


Elegir un modelo remoto

Abre el selector de modelos. Los modelos remotos aparecen bajo el nombre de tu servidor. Toca uno para activarlo.

Off Grid AI muestra las respuestas en tiempo real con Server-Sent Events (SSE). Volver a un modelo local es instantáneo.


Visión y llamadas a herramientas con servidores remotos

Off Grid AI detecta la visión y las llamadas a herramientas por el nombre del modelo. Si el nombre incluye vision, vl, vlm o algo parecido, Off Grid AI activa el adjunto de cámara. Las llamadas a herramientas se detectan igual.

En los servidores que lo admiten (Ollama con modelos compatibles, LM Studio), las llamadas a herramientas y la visión funcionan sin problemas por la conexión remota.


Acceso desde fuera de casa con Tailscale

Tailscale crea una VPN privada entre tus dispositivos. Instálalo en la computadora y en el teléfono, y usa la IP de Tailscale de la computadora como URL del servidor.

Así usas los modelos de la computadora de casa desde cualquier lugar (una cafetería, de viaje, la oficina) sin exponer nada a internet.


Nota de seguridad

Off Grid AI te avisa antes de conectarse a una dirección pública de internet (fuera de los rangos de IP privados). Para el acceso remoto, usa siempre Tailscale o un túnel privado parecido en lugar de exponer tu servidor directamente a internet.


Más guías

Off Grid AI frente a otras apps

¿TE SIRVIÓ?
NOVEDADES DEL CREADOR