Sur cette page
Serveurs distants : connecter Ollama, LM Studio et LocalAI
Ton téléphone fait tourner des modèles impressionnants en local, mais ton ordinateur ou ton Mac peut en faire tourner de bien plus gros : Llama 3.1 70B, Mistral Large, DeepSeek, CodeLlama 34B.
Off Grid AI se connecte à n’importe quel serveur compatible OpenAI sur ton réseau local, et tu utilises ces modèles depuis ton téléphone en Wi-Fi. Sans Internet.
Serveurs pris en charge
| Serveur | Plateforme | Remarques |
|---|---|---|
| Ollama | macOS, Linux, Windows | Le plus populaire, le plus simple à installer |
| LM Studio | macOS, Windows | Belle interface, gestion des modèles facile |
| LocalAI | Linux, Docker | Auto-hébergé, nombreux formats de modèles |
| vLLM | Linux | Haut débit, pensé pour le GPU |
| Tout serveur compatible OpenAI | Toutes | Requiert /v1/chat/completions et /v1/models |
Installer Ollama
1. Installe Ollama sur ton ordinateur :
# macOS
brew install ollama
# Linux
curl -fsSL https://ollama.ai/install.sh | sh
2. Autorise les connexions distantes (par défaut, Ollama n’écoute que sur localhost) :
# macOS/Linux
OLLAMA_HOST=0.0.0.0 ollama serve
# ~/.zshrc / ~/.bashrc
export OLLAMA_HOST=0.0.0.0
3. Télécharge un modèle :
ollama pull llama3.1:8b
ollama pull qwen2.5:14b
4. Trouve l’IP locale de ton ordinateur :
- macOS : Réglages Système → Réseau → Wi-Fi → Détails → Adresse IP
- Linux :
ip addr show, puis cherche ton interface Wi-Fi
Installer LM Studio
- Télécharge et installe LM Studio
- Télécharge un modèle dans l’appli
- Va dans l’onglet Local Server → clique sur Start Server
- Active “Allow connections from network” dans les réglages du serveur
- Note l’IP et le port affichés (port par défaut : 1234)
Se connecter depuis Off Grid AI
- Ouvre Off Grid AI → Settings → Remote Servers
- Touche Add Server
- Saisis l’URL du serveur :
- Ollama:
http://192.168.1.42:11434 - LM Studio:
http://192.168.1.42:1234
- Ollama:
- Ajoute une clé d’API si ton serveur en demande une (elle est stockée dans le trousseau système)
- Touche Test Connection, le voyant doit passer au vert
- Touche Save
Off Grid AI détecte automatiquement tous les modèles du serveur via /v1/models.
Choisir un modèle distant
Ouvre le sélecteur de modèles. Les modèles distants apparaissent sous le nom de ton serveur. Touche-en un pour l’activer.
Off Grid AI affiche les réponses en temps réel via Server-Sent Events (SSE). Revenir à un modèle local est instantané.
Vision et appels d’outils sur serveur distant
Off Grid AI repère la vision et les appels d’outils grâce au nom du modèle. Si le nom contient vision, vl, vlm ou similaire, Off Grid AI active la pièce jointe photo. Les appels d’outils sont repérés de la même façon.
Sur les serveurs qui les gèrent (Ollama avec des modèles compatibles, LM Studio), appels d’outils et vision fonctionnent sans accroc via la connexion distante.
Accès hors de chez toi avec Tailscale
Tailscale crée un VPN privé entre tes appareils. Installe-le sur l’ordinateur et le téléphone, puis utilise l’IP Tailscale de l’ordinateur comme URL du serveur.
Tu accèdes ainsi aux modèles de ton ordinateur de partout (café, voyage, bureau) sans rien exposer sur Internet.
Note de sécurité
Off Grid AI te prévient avant de se connecter à une adresse Internet publique (hors des plages d’IP privées). Pour un accès à distance, utilise toujours Tailscale ou un tunnel privé similaire plutôt que d’exposer ton serveur directement sur Internet.
Autres guides
- Utiliser Ollama depuis ton téléphone Android en 2026
- Utiliser Off Grid AI Desktop depuis ton téléphone en 2026
- Quel modèle choisir ?
- Appels d’outils