ArtikelModelle und LeistungAndroid3 Min. Lesezeit

Qwen 3.5 im Jahr 2026 auf dem Android-Handy ausführen (lokal, ohne Cloud)

Qwen 3.5 ist die stärkste kleine offene Modellfamilie, die es gerade gibt, und sie läuft auf deinem Android-Handy ohne Cloud und ohne Konto.

Auf dieser Seite
  1. Welches Qwen-3.5-Modell zu deinem Handy passt
  2. Warum Qwen 3.5 statt anderer Modelle
  3. Leistung auf echter Hardware
  4. So richtest du Qwen 3.5 in Off Grid ein
  5. Datenschutz

Qwen 3.5 ist die stärkste Familie kleiner Modelle mit offenen Gewichten, die es gerade gibt. Die kleine Serie (0.8B, 2B, 4B, 9B) wurde von Grund auf für den Einsatz auf Geräten gebaut und nicht aus einem größeren Modell destilliert. Sie kombiniert Gated Delta Networks mit einer spärlichen Mixture-of-Experts, spricht über 200 Sprachen und verarbeitet ein Kontextfenster von 262K. Du kannst sie lokal auf deinem Android-Handy laufen lassen.

Off Grid ist eine kostenlose Open-Source-App, die Qwen 3.5 und andere GGUF-Modelle komplett auf der Hardware deines Handys ausführt. Keine Cloud. Kein Konto. Keine Daten, die dein Gerät verlassen.

Play Store GitHub

Welches Qwen-3.5-Modell zu deinem Handy passt

Modellbibliothek von Off Grid AI auf dem iPhone mit Qwen-3.5-Modellen und ihren Geräteanforderungen.
Qwen 3.5 in der mobilen Modellbibliothek. Hier auf dem iPhone.

Qwen3.5-0.8B (Q4_K_M), etwa 500 MB. Passt auf jedes Handy mit 4 GB RAM oder mehr. Für Geräte gebaut. Schnell, 15 bis 25 Tokens pro Sekunde auf Mittelklasse-Hardware. Für seine Größe erstaunlich gut, weil die MoE-Architektur pro Token nur einen Teil der Parameter aktiviert.

Qwen3.5-2B (Q4_K_M), etwa 1,2 GB. Der beste Kompromiss für Handys mit 6 bis 8 GB RAM. Denkt deutlich besser als das 0.8B. 10 bis 18 Tokens pro Sekunde auf aktuellen Snapdragon-Chips. Gut zum Schreiben, für Code und für mehrsprachige Aufgaben.

Qwen3.5-4B (Q4_K_M), etwa 2,5 GB. Braucht 8 GB RAM oder mehr. Hier wird Qwen 3.5 richtig beeindruckend. Dank der hybriden Architektur leistet es weit mehr, als seine Parameterzahl vermuten lässt. Mehrstufiges Denken, gründliche Analysen, Code.

Qwen3.5-9B (Q4_K_M), etwa 5 GB. Braucht 12 GB RAM oder mehr. Hält in Benchmarks mit Modellen mit 20-mal so vielen Parametern mit. Wenn dein Handy genug RAM hat, ist das das beste offene Modell, das du lokal ausführen kannst.

Warum Qwen 3.5 statt anderer Modelle

Hybride Architektur. Qwen 3.5 Small ist keine geschrumpfte Version eines großen Modells. Es kombiniert Gated Delta Networks mit Mixture-of-Experts und aktiviert pro Token nur die Parameter, die es braucht. Mehr Intelligenz pro Byte RAM als bei klassischen dichten Modellen.

Über 200 Sprachen. Die breiteste Sprachunterstützung aller offenen Modelle dieser Größe. Wenn du auf Deutsch, Hindi, Arabisch, Japanisch oder in einer anderen Sprache als Englisch arbeitest, ist Qwen 3.5 die beste Wahl fürs Handy.

Kontextfenster von 262K. Frühere kleine Modelle kamen auf 8K bis 32K. Qwen 3.5 Small schafft 262K Tokens. Du kannst ihm also ganze Dokumente geben und lange Gespräche führen, ohne dass es den Faden verliert.

Denkmodus. Wechsle zwischen schnellen Antworten und Schritt-für-Schritt-Denken. Der Denkmodus zeigt den Gedankengang des Modells und liefert bei schwierigen Aufgaben bessere Ergebnisse.

Multimodal. Qwen 3.5 versteht Text, Bilder und Audio von Haus aus. Halt die Kamera auf etwas und frag danach.

Leistung auf echter Hardware

Modell Snapdragon 8 Gen 3 Snapdragon 8 Gen 2 Mittelklasse
Qwen3.5-0.8B ~25 tok/s ~20 tok/s ~12 tok/s
Qwen3.5-2B ~18 tok/s ~14 tok/s ~8 tok/s
Qwen3.5-4B ~12 tok/s ~10 tok/s ~5 tok/s
Qwen3.5-9B ~8 tok/s ~6 tok/s -

Stell in den Einstellungen den KV-Cache auf q4_0, dann werden diese Geschwindigkeiten ungefähr verdreifacht.

So richtest du Qwen 3.5 in Off Grid ein

  1. Installiere Off Grid aus dem Play Store
  2. Öffne den Modellbrowser. Die Qwen-3.5-Varianten stehen bei den Empfehlungen
  3. Wähl die Größe, die zu deinem RAM passt
  4. Lade sie über WLAN herunter
  5. Leg los

Off Grid nutzt automatisch die NPU-Beschleunigung mit QNN auf Snapdragon 8 Gen 1 und neuer, die Adreno-GPU über OpenCL auf älteren Chips und sonst die CPU.

Datenschutz

Jede Antwort von Qwen 3.5 wird auf dem Prozessor deines Handys berechnet. Nach dem ersten Download stellt Off Grid keine einzige Netzwerkanfrage. Schalte den Flugmodus ein und prüf es nach. Alles funktioniert.

Kein Konto. Open Source.

Off Grid erzeugt außerdem Bilder, versteht Fotos, schreibt Sprache mit, nutzt Werkzeuge und analysiert Dokumente, alles auf dem Gerät. Die neuesten Versionen findest du auf GitHub.

HAT DAS GEHOLFEN?
NEUES VOM ENTWICKLER