Auf dieser Seite
Ollama 2026 vom Android-Smartphone aus nutzen
Mit Ollama laufen große Sprachmodelle auf deinem Computer. Modelle, die für dein Smartphone zu groß sind (Llama 3.1 70B, Mistral Large, CodeLlama 34B), laufen auf dem Computer, und du nutzt sie vom Smartphone aus über dein Heimnetz.
Das brauchst du
- Computer oder Laptop mit Ollama und mindestens einem Modell
- Android-Smartphone mit Off Grid AI
- Beide Geräte im selben WLAN (oder Ollama per VPN oder Tailscale erreichbar)
Schritt 1: Ollama für Verbindungen von außen einrichten
Standardmäßig hört Ollama nur auf localhost. So nimmt es Verbindungen von deinem Smartphone an:
macOS / Linux:
OLLAMA_HOST=0.0.0.0 ollama serve
Oder als dauerhafte Umgebungsvariable:
# ~/.zshrc oder ~/.bashrc
export OLLAMA_HOST=0.0.0.0
Windows: Leg OLLAMA_HOST=0.0.0.0 als Systemumgebungsvariable an und starte Ollama neu.
Schritt 2: Die lokale IP deines Computers finden
macOS: Systemeinstellungen → Netzwerk → deine WLAN-Verbindung → IP-Adresse (z. B. 192.168.1.42)
Windows: ipconfig im Terminal → IPv4-Adresse unter deinem WLAN-Adapter
Linux: ip addr show, dann nach deiner WLAN-Schnittstelle suchen
Schritt 3: Aus Off Grid AI verbinden
- Öffne Off Grid AI → Settings → Remote Servers
- Tipp auf Add Server
- Gib
http://192.168.1.42:11434ein (mit der IP deines Computers) - Tipp auf Test Connection, die Anzeige sollte grün werden
- Tipp auf Save
Schritt 4: Modell wählen und chatten
- Öffne die Modellauswahl
- Die Modelle deines Ollama-Servers stehen unter Remote
- Wähl eins und leg los
Deine Anfragen gehen vom Smartphone zum Computer und zurück. Nichts davon berührt das Internet.
Mit Tailscale auch unterwegs
Wenn du Ollama auch außer Haus vom Smartphone aus nutzen willst, baut Tailscale ein privates VPN zwischen deinen Geräten auf. Installier es auf Computer und Smartphone und nimm dann die Tailscale-IP deines Computers statt der lokalen.
FAQ
Kann ich Ollama ohne Internet vom Smartphone aus nutzen? Ja, über dein lokales WLAN. Für den Zugriff von unterwegs brauchst du Tailscale oder ein ähnliches VPN.
Welche Ollama-Modelle eignen sich vom Smartphone aus am besten?
Jedes Modell auf deinem Computer funktioniert. Beliebt sind llama3.1:70b und mistral-large, weil sie für das Smartphone selbst zu groß sind.