AnleitungModelle und LeistungAndroid1 Min. Lesezeit

Auf dieser Seite
  1. Das brauchst du
  2. Schritt 1: Ollama für Verbindungen von außen einrichten
  3. Schritt 2: Die lokale IP deines Computers finden
  4. Schritt 3: Aus Off Grid AI verbinden
  5. Schritt 4: Modell wählen und chatten
  6. Mit Tailscale auch unterwegs
  7. FAQ
  8. Weitere Anleitungen

Ollama 2026 vom Android-Smartphone aus nutzen

Mit Ollama laufen große Sprachmodelle auf deinem Computer. Modelle, die für dein Smartphone zu groß sind (Llama 3.1 70B, Mistral Large, CodeLlama 34B), laufen auf dem Computer, und du nutzt sie vom Smartphone aus über dein Heimnetz.


Das brauchst du

  • Computer oder Laptop mit Ollama und mindestens einem Modell
  • Android-Smartphone mit Off Grid AI
  • Beide Geräte im selben WLAN (oder Ollama per VPN oder Tailscale erreichbar)

Schritt 1: Ollama für Verbindungen von außen einrichten

Standardmäßig hört Ollama nur auf localhost. So nimmt es Verbindungen von deinem Smartphone an:

macOS / Linux:

OLLAMA_HOST=0.0.0.0 ollama serve

Oder als dauerhafte Umgebungsvariable:

# ~/.zshrc oder ~/.bashrc
export OLLAMA_HOST=0.0.0.0

Windows: Leg OLLAMA_HOST=0.0.0.0 als Systemumgebungsvariable an und starte Ollama neu.


Schritt 2: Die lokale IP deines Computers finden

macOS: Systemeinstellungen → Netzwerk → deine WLAN-Verbindung → IP-Adresse (z. B. 192.168.1.42)

Windows: ipconfig im Terminal → IPv4-Adresse unter deinem WLAN-Adapter

Linux: ip addr show, dann nach deiner WLAN-Schnittstelle suchen


Schritt 3: Aus Off Grid AI verbinden

  1. Öffne Off Grid AI → Settings → Remote Servers
  2. Tipp auf Add Server
  3. Gib http://192.168.1.42:11434 ein (mit der IP deines Computers)
  4. Tipp auf Test Connection, die Anzeige sollte grün werden
  5. Tipp auf Save

Schritt 4: Modell wählen und chatten

  1. Öffne die Modellauswahl
  2. Die Modelle deines Ollama-Servers stehen unter Remote
  3. Wähl eins und leg los

Deine Anfragen gehen vom Smartphone zum Computer und zurück. Nichts davon berührt das Internet.


Mit Tailscale auch unterwegs

Wenn du Ollama auch außer Haus vom Smartphone aus nutzen willst, baut Tailscale ein privates VPN zwischen deinen Geräten auf. Installier es auf Computer und Smartphone und nimm dann die Tailscale-IP deines Computers statt der lokalen.


FAQ

Kann ich Ollama ohne Internet vom Smartphone aus nutzen? Ja, über dein lokales WLAN. Für den Zugriff von unterwegs brauchst du Tailscale oder ein ähnliches VPN.

Welche Ollama-Modelle eignen sich vom Smartphone aus am besten? Jedes Modell auf deinem Computer funktioniert. Beliebt sind llama3.1:70b und mistral-large, weil sie für das Smartphone selbst zu groß sind.


Weitere Anleitungen

HAT DAS GEHOLFEN?
NEUES VOM ENTWICKLER