AnleitungModelle und LeistungiPhone2 Min. Lesezeit

Auf dieser Seite
  1. Voraussetzungen
  2. Schritt 1: Off Grid AI installieren
  3. Schritt 2: Dein Modell wählen
  4. Schritt 3: Herunterladen, laden, chatten
  5. Warum das iPhone so gut für lokale KI ist
  6. Leistung nach Gerät
  7. Weitere Anleitungen
  8. Off Grid AI im Vergleich

LLMs 2026 lokal auf dem iPhone ausführen (komplett offline, ohne Abo)

Apples Metal-GPU und die Neural Engine stecken seit 2017 in jedem iPhone. Das sind eigene KI-Beschleuniger, und meistens liegen sie brach, während du monatlich zahlst, um deine Fragen an fremde Server zu schicken.

Off Grid AI ändert das. Führ Qwen 3.5, Gemma 4, Mistral und andere starke Modelle direkt auf deinem iPhone aus: offline, privat, ohne laufende Kosten. Die Berechnung läuft über llama.cpp mit Metal-Beschleunigung.


Voraussetzungen

  • iPhone 12 oder neuer (A14 Bionic oder neuer)
  • iOS 17 oder neuer
  • Mindestens 3 GB freier Speicher
  • Internet einmal für den Modell-Download

Schritt 1: Off Grid AI installieren

Im App Store laden


Schritt 2: Dein Modell wählen

Alle Modelle nutzen die Quantisierung Q4_K_M, den besten Mix aus Qualität und Größe fürs Smartphone.

Modell Ab iPhone RAM Größe Ideal für
Qwen 3.5 0.8B iPhone 12 3GB ~0.8GB Extrem schnell, 262K Kontext
Qwen 3.5 2B iPhone 12 4GB ~1.7GB Am besten für Geräte mit 4 bis 6 GB
Gemma 4 E2B iPhone 12 4GB ~1.5GB Bilderkennung plus Denkmodus
Mistral 7B iPhone 14 6GB ~4.1GB Schnell und zuverlässig für alles
Gemma 4 E4B iPhone 14 6GB ~2.5GB Denken plus Bilderkennung, Denkmodus
Qwen 3.5 9B iPhone 15 Pro 8GB ~5.5GB Insgesamt die beste Qualität auf dem Gerät

Mit iPhone 12 oder 13: Fang mit Qwen 3.5 2B an. Mit iPhone 15 Pro oder 16: Probier Qwen 3.5 9B.


Schritt 3: Herunterladen, laden, chatten

  1. Öffne Off Grid AI → Models
  2. Tipp auf ein Modell → Download
  3. Tipp auf Load, das Modell lädt über Metal (Apples GPU-Framework)
  4. Öffne Chat

Jetzt läuft die KI lokal auf Apple Silicon. Deine Chats verlassen nie dein Smartphone.


Warum das iPhone so gut für lokale KI ist

iPhones haben einen großen Vorteil: gemeinsamen Speicher. Metal-GPU und CPU teilen sich denselben Speicher. Modelle laden dadurch schneller, und die Berechnung ist effizienter als auf Geräten, die nur die CPU nutzen.

Qwen 3.5 2B schafft auf einem iPhone 14 etwa 20 bis 30 Tokens pro Sekunde. Das reicht für ein flüssiges Gespräch.

Der Denkmodus (Qwen 3.5, Gemma 4) läuft auf dem iPhone besonders gut, weil die Metal-Beschleunigung auch längere Gedankengänge flott hält.


Leistung nach Gerät

iPhone RAM Empfohlenes Modell Etwa Tokens/s
iPhone 16 Pro Max 8GB Qwen 3.5 9B 18–28
iPhone 16 / 16 Plus 8GB Qwen 3.5 9B 18–28
iPhone 15 Pro 8GB Qwen 3.5 9B 15–25
iPhone 14 Pro 6GB Gemma 4 E4B 15–22
iPhone 14 6GB Qwen 3.5 2B 20–30
iPhone 13 4GB Qwen 3.5 2B 18–26
iPhone 12 4GB Qwen 3.5 0.8B 25–40

Weitere Anleitungen

Off Grid AI im Vergleich

HAT DAS GEHOLFEN?
NEUES VOM ENTWICKLER