Auf dieser Seite
Jede andere Anleitung, wie du Ollama vom Handy aus nutzt, fängt gleich an: Terminal öffnen, Umgebungsvariablen setzen, IP-Adresse suchen, Firewall einstellen. Wenn du fertig bist, hast du mehr Zeit mit der Einrichtung verbracht als mit dem Modell.
Dein Android-Handy und dein Ollama-Server sind im selben Netzwerk. Sie sollten einfach miteinander reden können.
Off Grid sorgt dafür. Es findet Ollama-Server in deinem lokalen Netzwerk von selbst, lädt die Modellliste und lässt dich sofort chatten. Keine IP-Adressen, keine Portnummern, keine Konfigurationsdateien auf dem Handy.
Was du brauchst
- Einen Computer mit Ollama und mindestens einem Modell
- Ein Android-Handy (6 GB RAM oder mehr empfohlen) im selben WLAN
- Off Grid aus dem Play Store
Schritt 1: Ollama für dein Netzwerk öffnen
Ollama hört standardmäßig nur auf localhost. Eine Änderung reicht.
Auf Mac oder Linux:
OLLAMA_HOST=0.0.0.0 ollama serve
Damit es dauerhaft gilt, füg export OLLAMA_HOST=0.0.0.0 in deine .zshrc oder .bashrc ein.
Auf Windows: Leg OLLAMA_HOST als Systemumgebungsvariable mit dem Wert 0.0.0.0 an und starte Ollama neu.
Fertig.
Schritt 2: In Off Grid scannen
Öffne Off Grid auf deinem Android-Handy. Geh zu Remote Models. Tippe auf Scan Network.
Off Grid findet deinen Ollama-Server, lädt die Liste der installierten Modelle und zeigt sie dir. Laufen in deinem Netzwerk mehrere Rechner mit Ollama, findet es alle.
Tipp ein Modell an. Schreib los. Die Antworten erscheinen Wort für Wort.
Schritt 3: Jedes Modell nutzen, das du hast
Das Schöne daran: Die Hardware deines Handys begrenzt dich nicht mehr. Dein Handy hat 6 bis 8 GB RAM und schafft ein 2B-Modell. Dein Desktop hat vielleicht 32 GB RAM oder mehr und eine Grafikkarte, die 70B-Modelle bequem ausführt.
Qwen 3.5 9B ist für die meisten Setups die beste Wahl. Es erschien im März 2026 und schlägt OpenAIs GPT-OSS-120B in Benchmarks für logisches Denken und Sprache, obwohl es 13-mal kleiner ist. Mit 16 GB RAM im Computer läuft es gut. Vom Android-Handy über WLAN fühlt es sich flüssig und schnell an.
Du kannst jederzeit das Modell wechseln, auch mitten im Gespräch. Stell eine schnelle Frage an ein kleines, schnelles Modell und wechsle für die Nachfrage, die mehr Tiefe braucht, zum 9B. Der Chatverlauf bleibt erhalten.
Mehr als ein Chat-Client
Andere Apps, die sich mit Ollama verbinden, sind nur entfernte Chat-Oberflächen. Off Grid ist ein komplettes KI-Werkzeug.
Projekte mit RAG. Leg ein Projekt an, häng deine Dokumente an (PDFs, Code, CSVs, Textdateien), und Off Grid baut daraus eine lokale Wissensbasis. Wenn du fragst, durchsucht es deine Dokumente und gibt dem Modell den passenden Kontext. Dein Ollama-Server rechnet, dein Handy verwaltet das Wissen. Alles bleibt privat.
Werkzeuge. Modelle mit Funktionsaufrufen (Qwen 3.5, Llama 3.1, Mistral) nutzen eingebaute Werkzeuge: Websuche, Rechner, Datum und Uhrzeit, Geräteinfos. Das Modell entscheidet, was es braucht, und verkettet die Werkzeuge selbst.
Auch Modelle auf dem Gerät. Off Grid lässt kleinere Modelle direkt auf der Hardware deines Android-Handys laufen. Ab Snapdragon 8 Gen 2 gibt es GPU-Beschleunigung über OpenCL. So hast du KI, auch wenn das WLAN weg ist. Das Modell auf dem Handy erledigt schnelle Aufgaben, der Ollama-Server die schweren, wenn du zu Hause bist.
Sehen, Sprechen, Dokumente. Halt die Kamera auf etwas und frag danach. Diktiere mit Whisper auf dem Gerät. Häng Dateien an deine Chats. Das alles funktioniert mit lokalen und mit entfernten Modellen.
Die Hardware hast du schon
Du musst keinen eigenen Server kaufen. Du brauchst kein Cloud-GPU-Abo. Du brauchst nichts, was du nicht schon hast.
Dein Desktop oder Laptop, den du jeden Tag nutzt, kann Ollama im Hintergrund laufen lassen, während du normal weiterarbeitest. Die Modelle nutzen die Grafikkarte, wenn du gerade nicht spielst oder renderst. Dein Handy verbindet sich über das WLAN, das du ohnehin bezahlst.
Was private KI auf ChatGPT-Niveau dich kostet: den Strom, damit dein Computer läuft. Mehr nicht.
Probier es aus
- Android: Play Store
- iPhone: App Store (nach „Off Grid AI“ suchen)
- Quellcode: GitHub
Dein Ollama-Server läuft. Dein Handy ist in deiner Tasche. Off Grid verbindet die beiden.