In questa pagina
Server remoti: collega Ollama, LM Studio e LocalAI
Il tuo telefono esegue modelli notevoli in locale, ma il tuo computer o Mac ne esegue di molto più grandi: Llama 3.1 70B, Mistral Large, DeepSeek, CodeLlama 34B.
Off Grid AI si collega a qualsiasi server compatibile con OpenAI nella tua rete locale, così usi quei modelli dal telefono via Wi-Fi. Senza internet.
Server supportati
| Server | Piattaforma | Note |
|---|---|---|
| Ollama | macOS, Linux, Windows | Il più diffuso, il più facile da configurare |
| LM Studio | macOS, Windows | Ottima interfaccia, gestione dei modelli semplice |
| LocalAI | Linux, Docker | Self-hosted, molti formati di modello |
| vLLM | Linux | Throughput elevato, pensato per GPU |
| Qualsiasi compatibile con OpenAI | Qualsiasi | Richiede /v1/chat/completions e /v1/models |
Configurare Ollama
1. Installa Ollama sul computer:
# macOS
brew install ollama
# Linux
curl -fsSL https://ollama.ai/install.sh | sh
2. Consenti le connessioni remote (di default Ollama ascolta solo su localhost):
# macOS/Linux
OLLAMA_HOST=0.0.0.0 ollama serve
# ~/.zshrc / ~/.bashrc
export OLLAMA_HOST=0.0.0.0
3. Scarica un modello:
ollama pull llama3.1:8b
ollama pull qwen2.5:14b
4. Trova l’IP locale del computer:
- macOS: Impostazioni di Sistema → Rete → Wi-Fi → Dettagli → Indirizzo IP
- Linux:
ip addr showe cerca l’interfaccia Wi-Fi
Configurare LM Studio
- Scarica e installa LM Studio
- Scarica un modello nell’app
- Vai alla scheda Local Server → fai clic su Start Server
- Attiva “Allow connections from network” nelle impostazioni del server
- Annota IP e porta mostrati (porta predefinita: 1234)
Collegarsi da Off Grid AI
- Apri Off Grid AI → Settings → Remote Servers
- Tocca Add Server
- Inserisci l’URL del server:
- Ollama:
http://192.168.1.42:11434 - LM Studio:
http://192.168.1.42:1234
- Ollama:
- Aggiungi una chiave API se il server la richiede (viene salvata nel portachiavi di sistema)
- Tocca Test Connection: deve diventare verde
- Tocca Save
Off Grid AI trova da solo tutti i modelli del server tramite /v1/models.
Scegliere un modello remoto
Apri il selettore dei modelli. I modelli remoti compaiono sotto il nome del server. Toccane uno per attivarlo.
Off Grid AI mostra le risposte in tempo reale con Server-Sent Events (SSE). Tornare a un modello locale è immediato.
Visione e chiamate agli strumenti sui server remoti
Off Grid AI riconosce visione e chiamate agli strumenti dal nome del modello. Se il nome contiene vision, vl, vlm o simili, Off Grid AI attiva l’allegato fotocamera. Le chiamate agli strumenti vengono riconosciute allo stesso modo.
Sui server che le supportano (Ollama con modelli compatibili, LM Studio), chiamate agli strumenti e visione funzionano senza intoppi anche da remoto.
Accesso fuori casa con Tailscale
Tailscale crea una VPN privata tra i tuoi dispositivi. Installalo sul computer e sul telefono, poi usa l’IP Tailscale del computer come URL del server.
Così usi i modelli del computer di casa ovunque (al bar, in viaggio, in ufficio) senza esporre nulla su internet.
Nota sulla sicurezza
Off Grid AI ti avvisa prima di collegarsi a un indirizzo pubblico su internet (fuori dagli intervalli di IP privati). Per l’accesso remoto usa sempre Tailscale o un tunnel privato simile, invece di esporre il server direttamente su internet.
Altre guide
- Come usare Ollama dal tuo telefono Android nel 2026
- Come usare Off Grid AI Desktop dal telefono nel 2026
- Quale modello usare?
- Chiamate agli strumenti