GuiaModelos e desempenhoCelular3 min de leitura

Nesta página
  1. Servidores aceitos
  2. Configurar o Ollama
  3. Configurar o LM Studio
  4. Conectar pelo Off Grid AI
  5. Escolher um modelo remoto
  6. Visão e chamada de ferramentas em servidores remotos
  7. Acesso fora de casa com o Tailscale
  8. Nota de segurança
  9. Mais guias
  10. Off Grid AI comparado

Servidores remotos: conecte Ollama, LM Studio e LocalAI

Seu celular roda modelos impressionantes localmente, mas seu computador ou Mac roda modelos muito maiores: Llama 3.1 70B, Mistral Large, DeepSeek, CodeLlama 34B.

O Off Grid AI se conecta a qualquer servidor compatível com OpenAI na sua rede local, e você usa esses modelos no celular pelo Wi-Fi. Sem internet.


Servidores aceitos

Servidor Plataforma Observações
Ollama macOS, Linux, Windows O mais popular, o mais fácil de configurar
LM Studio macOS, Windows Ótima interface, gestão de modelos simples
LocalAI Linux, Docker Auto-hospedado, muitos formatos de modelo
vLLM Linux Alto desempenho, pensado para GPU
Qualquer um compatível com OpenAI Qualquer Precisa de /v1/chat/completions e /v1/models

Configurar o Ollama

1. Instale o Ollama no computador:

# macOS
brew install ollama

# Linux
curl -fsSL https://ollama.ai/install.sh | sh

2. Libere conexões remotas (por padrão, o Ollama só escuta no localhost):

# macOS/Linux
OLLAMA_HOST=0.0.0.0 ollama serve

# ~/.zshrc / ~/.bashrc
export OLLAMA_HOST=0.0.0.0

3. Baixe um modelo:

ollama pull llama3.1:8b
ollama pull qwen2.5:14b

4. Descubra o IP local do computador:

  • macOS: Ajustes do Sistema → Rede → Wi-Fi → Detalhes → Endereço IP
  • Linux: ip addr show e procure sua interface Wi-Fi

Configurar o LM Studio

  1. Baixe e instale o LM Studio
  2. Baixe um modelo no app
  3. Vá até a aba Local Server → clique em Start Server
  4. Ative “Allow connections from network” nas configurações do servidor
  5. Anote o IP e a porta exibidos (porta padrão: 1234)

Conectar pelo Off Grid AI

  1. Abra o Off Grid AI → Settings → Remote Servers
  2. Toque em Add Server
  3. Digite a URL do servidor:
    • Ollama: http://192.168.1.42:11434
    • LM Studio: http://192.168.1.42:1234
  4. Adicione uma chave de API se o servidor pedir (ela fica no chaveiro do sistema)
  5. Toque em Test Connection; deve ficar verde
  6. Toque em Save

O Off Grid AI encontra sozinho todos os modelos do servidor via /v1/models.


Escolher um modelo remoto

Abra o seletor de modelos. Os modelos remotos aparecem sob o nome do servidor. Toque em um para ativá-lo.

O Off Grid AI mostra as respostas em tempo real via Server-Sent Events (SSE). Voltar para um modelo local é instantâneo.


Visão e chamada de ferramentas em servidores remotos

O Off Grid AI reconhece visão e chamada de ferramentas pelo nome do modelo. Se o nome tiver vision, vl, vlm ou algo parecido, o Off Grid AI libera o anexo de câmera. A chamada de ferramentas é reconhecida do mesmo jeito.

Nos servidores que aceitam (Ollama com modelos compatíveis, LM Studio), chamada de ferramentas e visão funcionam sem atrito pela conexão remota.


Acesso fora de casa com o Tailscale

O Tailscale cria uma VPN privada entre seus aparelhos. Instale no computador e no celular e use o IP do Tailscale do computador como URL do servidor.

Assim você usa os modelos do computador de casa de qualquer lugar (café, viagem, escritório) sem expor nada na internet.


Nota de segurança

O Off Grid AI avisa antes de conectar a um endereço público da internet (fora das faixas de IP privadas). Para acesso remoto, use sempre o Tailscale ou um túnel privado parecido, em vez de expor o servidor direto na internet.


Mais guias

Off Grid AI comparado

ISSO AJUDOU?
NOVIDADES DO CRIADOR