Auf dieser Seite
LLMs 2026 lokal auf dem iPhone ausführen (komplett offline, ohne Abo)
Apples Metal-GPU und die Neural Engine stecken seit 2017 in jedem iPhone. Das sind eigene KI-Beschleuniger, und meistens liegen sie brach, während du monatlich zahlst, um deine Fragen an fremde Server zu schicken.
Off Grid AI ändert das. Führ Qwen 3.5, Gemma 4, Mistral und andere starke Modelle direkt auf deinem iPhone aus: offline, privat, ohne laufende Kosten. Die Berechnung läuft über llama.cpp mit Metal-Beschleunigung.
Voraussetzungen
- iPhone 12 oder neuer (A14 Bionic oder neuer)
- iOS 17 oder neuer
- Mindestens 3 GB freier Speicher
- Internet einmal für den Modell-Download
Schritt 1: Off Grid AI installieren
Schritt 2: Dein Modell wählen
Alle Modelle nutzen die Quantisierung Q4_K_M, den besten Mix aus Qualität und Größe fürs Smartphone.
| Modell | Ab iPhone | RAM | Größe | Ideal für |
|---|---|---|---|---|
| Qwen 3.5 0.8B | iPhone 12 | 3GB | ~0.8GB | Extrem schnell, 262K Kontext |
| Qwen 3.5 2B | iPhone 12 | 4GB | ~1.7GB | Am besten für Geräte mit 4 bis 6 GB |
| Gemma 4 E2B | iPhone 12 | 4GB | ~1.5GB | Bilderkennung plus Denkmodus |
| Mistral 7B | iPhone 14 | 6GB | ~4.1GB | Schnell und zuverlässig für alles |
| Gemma 4 E4B | iPhone 14 | 6GB | ~2.5GB | Denken plus Bilderkennung, Denkmodus |
| Qwen 3.5 9B | iPhone 15 Pro | 8GB | ~5.5GB | Insgesamt die beste Qualität auf dem Gerät |
Mit iPhone 12 oder 13: Fang mit Qwen 3.5 2B an. Mit iPhone 15 Pro oder 16: Probier Qwen 3.5 9B.
Schritt 3: Herunterladen, laden, chatten
- Öffne Off Grid AI → Models
- Tipp auf ein Modell → Download
- Tipp auf Load, das Modell lädt über Metal (Apples GPU-Framework)
- Öffne Chat
Jetzt läuft die KI lokal auf Apple Silicon. Deine Chats verlassen nie dein Smartphone.
Warum das iPhone so gut für lokale KI ist
iPhones haben einen großen Vorteil: gemeinsamen Speicher. Metal-GPU und CPU teilen sich denselben Speicher. Modelle laden dadurch schneller, und die Berechnung ist effizienter als auf Geräten, die nur die CPU nutzen.
Qwen 3.5 2B schafft auf einem iPhone 14 etwa 20 bis 30 Tokens pro Sekunde. Das reicht für ein flüssiges Gespräch.
Der Denkmodus (Qwen 3.5, Gemma 4) läuft auf dem iPhone besonders gut, weil die Metal-Beschleunigung auch längere Gedankengänge flott hält.
Leistung nach Gerät
| iPhone | RAM | Empfohlenes Modell | Etwa Tokens/s |
|---|---|---|---|
| iPhone 16 Pro Max | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 16 / 16 Plus | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 15 Pro | 8GB | Qwen 3.5 9B | 15–25 |
| iPhone 14 Pro | 6GB | Gemma 4 E4B | 15–22 |
| iPhone 14 | 6GB | Qwen 3.5 2B | 20–30 |
| iPhone 13 | 4GB | Qwen 3.5 2B | 18–26 |
| iPhone 12 | 4GB | Qwen 3.5 0.8B | 25–40 |
Weitere Anleitungen
- LLMs 2026 lokal auf dem Android-Smartphone ausführen
- Welches Modell soll ich nehmen?
- Stable Diffusion auf dem iPhone ausführen
- Bilderkennung: Bilder auf dem Gerät auswerten