ArtikelModelle und LeistungAndroid3 Min. Lesezeit

Ollama 2026 vom Android-Handy aus nutzen (findet den Server selbst, nichts einzurichten)

Off Grid findet Ollama in deinem WLAN von selbst. Keine IP-Adressen, keine Ports, keine Konfiguration auf dem Handy, und du chattest mit allen Modellen deines Computers.

Auf dieser Seite
  1. Was du brauchst
  2. Schritt 1: Ollama für dein Netzwerk öffnen
  3. Schritt 2: In Off Grid scannen
  4. Schritt 3: Jedes Modell nutzen, das du hast
  5. Mehr als ein Chat-Client
  6. Die Hardware hast du schon
  7. Probier es aus

Jede andere Anleitung, wie du Ollama vom Handy aus nutzt, fängt gleich an: Terminal öffnen, Umgebungsvariablen setzen, IP-Adresse suchen, Firewall einstellen. Wenn du fertig bist, hast du mehr Zeit mit der Einrichtung verbracht als mit dem Modell.

Dein Android-Handy und dein Ollama-Server sind im selben Netzwerk. Sie sollten einfach miteinander reden können.

Off Grid sorgt dafür. Es findet Ollama-Server in deinem lokalen Netzwerk von selbst, lädt die Modellliste und lässt dich sofort chatten. Keine IP-Adressen, keine Portnummern, keine Konfigurationsdateien auf dem Handy.

Was du brauchst

Schritt 1: Ollama für dein Netzwerk öffnen

Ollama hört standardmäßig nur auf localhost. Eine Änderung reicht.

Auf Mac oder Linux:

OLLAMA_HOST=0.0.0.0 ollama serve

Damit es dauerhaft gilt, füg export OLLAMA_HOST=0.0.0.0 in deine .zshrc oder .bashrc ein.

Auf Windows: Leg OLLAMA_HOST als Systemumgebungsvariable mit dem Wert 0.0.0.0 an und starte Ollama neu.

Fertig.

Schritt 2: In Off Grid scannen

Öffne Off Grid auf deinem Android-Handy. Geh zu Remote Models. Tippe auf Scan Network.

Off Grid findet deinen Ollama-Server, lädt die Liste der installierten Modelle und zeigt sie dir. Laufen in deinem Netzwerk mehrere Rechner mit Ollama, findet es alle.

Tipp ein Modell an. Schreib los. Die Antworten erscheinen Wort für Wort.

Schritt 3: Jedes Modell nutzen, das du hast

Das Schöne daran: Die Hardware deines Handys begrenzt dich nicht mehr. Dein Handy hat 6 bis 8 GB RAM und schafft ein 2B-Modell. Dein Desktop hat vielleicht 32 GB RAM oder mehr und eine Grafikkarte, die 70B-Modelle bequem ausführt.

Qwen 3.5 9B ist für die meisten Setups die beste Wahl. Es erschien im März 2026 und schlägt OpenAIs GPT-OSS-120B in Benchmarks für logisches Denken und Sprache, obwohl es 13-mal kleiner ist. Mit 16 GB RAM im Computer läuft es gut. Vom Android-Handy über WLAN fühlt es sich flüssig und schnell an.

Du kannst jederzeit das Modell wechseln, auch mitten im Gespräch. Stell eine schnelle Frage an ein kleines, schnelles Modell und wechsle für die Nachfrage, die mehr Tiefe braucht, zum 9B. Der Chatverlauf bleibt erhalten.

Mehr als ein Chat-Client

Andere Apps, die sich mit Ollama verbinden, sind nur entfernte Chat-Oberflächen. Off Grid ist ein komplettes KI-Werkzeug.

Projekte mit RAG. Leg ein Projekt an, häng deine Dokumente an (PDFs, Code, CSVs, Textdateien), und Off Grid baut daraus eine lokale Wissensbasis. Wenn du fragst, durchsucht es deine Dokumente und gibt dem Modell den passenden Kontext. Dein Ollama-Server rechnet, dein Handy verwaltet das Wissen. Alles bleibt privat.

Werkzeuge. Modelle mit Funktionsaufrufen (Qwen 3.5, Llama 3.1, Mistral) nutzen eingebaute Werkzeuge: Websuche, Rechner, Datum und Uhrzeit, Geräteinfos. Das Modell entscheidet, was es braucht, und verkettet die Werkzeuge selbst.

Auch Modelle auf dem Gerät. Off Grid lässt kleinere Modelle direkt auf der Hardware deines Android-Handys laufen. Ab Snapdragon 8 Gen 2 gibt es GPU-Beschleunigung über OpenCL. So hast du KI, auch wenn das WLAN weg ist. Das Modell auf dem Handy erledigt schnelle Aufgaben, der Ollama-Server die schweren, wenn du zu Hause bist.

Sehen, Sprechen, Dokumente. Halt die Kamera auf etwas und frag danach. Diktiere mit Whisper auf dem Gerät. Häng Dateien an deine Chats. Das alles funktioniert mit lokalen und mit entfernten Modellen.

Die Hardware hast du schon

Du musst keinen eigenen Server kaufen. Du brauchst kein Cloud-GPU-Abo. Du brauchst nichts, was du nicht schon hast.

Dein Desktop oder Laptop, den du jeden Tag nutzt, kann Ollama im Hintergrund laufen lassen, während du normal weiterarbeitest. Die Modelle nutzen die Grafikkarte, wenn du gerade nicht spielst oder renderst. Dein Handy verbindet sich über das WLAN, das du ohnehin bezahlst.

Was private KI auf ChatGPT-Niveau dich kostet: den Strom, damit dein Computer läuft. Mehr nicht.

Probier es aus

  • Android: Play Store
  • iPhone: App Store (nach „Off Grid AI“ suchen)
  • Quellcode: GitHub

Dein Ollama-Server läuft. Dein Handy ist in deiner Tasche. Off Grid verbindet die beiden.

HAT DAS GEHOLFEN?
NEUES VOM ENTWICKLER