Op deze pagina
LLM’s lokaal draaien op je iPhone in 2026 (volledig offline, zonder abonnement)
De Metal-gpu en de Neural Engine van Apple zitten sinds 2017 in elke iPhone. Het zijn speciale AI-versnellers die vooral stilliggen terwijl jij elke maand betaalt om je vragen naar de server van een ander te sturen.
Off Grid AI verandert dat. Draai Qwen 3.5, Gemma 4, Mistral en andere sterke modellen direct op je iPhone: offline, privé en zonder doorlopende kosten. De berekening loopt via llama.cpp met Metal-versnelling.
Vereisten
- iPhone 12 of nieuwer (A14 Bionic of nieuwer)
- iOS 17 of nieuwer
- Minstens 3 GB vrije opslag
- Eén keer internet voor het downloaden van het model
Stap 1: installeer Off Grid AI
Stap 2: kies je model
Alle modellen gebruiken Q4_K_M-kwantisatie, de beste balans tussen kwaliteit en grootte op een telefoon.
| Model | Vanaf iPhone | RAM | Grootte | Ideaal voor |
|---|---|---|---|---|
| Qwen 3.5 0.8B | iPhone 12 | 3GB | ~0.8GB | Supersnel, 262K context |
| Qwen 3.5 2B | iPhone 12 | 4GB | ~1.7GB | Het best voor toestellen met 4 tot 6 GB |
| Gemma 4 E2B | iPhone 12 | 4GB | ~1.5GB | Beeld plus denkmodus |
| Mistral 7B | iPhone 14 | 6GB | ~4.1GB | Snel en betrouwbaar voor alles |
| Gemma 4 E4B | iPhone 14 | 6GB | ~2.5GB | Redeneren plus beeld, denkmodus |
| Qwen 3.5 9B | iPhone 15 Pro | 8GB | ~5.5GB | Beste kwaliteit op het apparaat |
Met een iPhone 12 of 13: begin met Qwen 3.5 2B. Met een iPhone 15 Pro of 16: probeer Qwen 3.5 9B.
Stap 3: downloaden, laden, chatten
- Open Off Grid AI → Models
- Tik op een model → Download
- Tik op Load; het model laadt via Metal (het gpu-framework van Apple)
- Open Chat
Nu draait de AI lokaal op Apple Silicon. Je chats verlaten nooit je telefoon.
Waarom de iPhone zo goed is voor lokale AI
iPhones hebben een groot voordeel: gedeeld geheugen. De Metal-gpu en de cpu delen hetzelfde geheugen, dus modellen laden sneller en rekenen efficiënter dan op toestellen die alleen de cpu gebruiken.
Qwen 3.5 2B haalt op een iPhone 14 zo’n 20 tot 30 tokens per seconde. Snel genoeg voor een vlot gesprek.
De denkmodus (Qwen 3.5, Gemma 4) werkt extra goed op de iPhone, omdat de Metal-versnelling lange redeneringen vlot houdt.
Prestaties per toestel
| iPhone | RAM | Aanbevolen model | Ca. tokens/s |
|---|---|---|---|
| iPhone 16 Pro Max | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 16 / 16 Plus | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 15 Pro | 8GB | Qwen 3.5 9B | 15–25 |
| iPhone 14 Pro | 6GB | Gemma 4 E4B | 15–22 |
| iPhone 14 | 6GB | Qwen 3.5 2B | 20–30 |
| iPhone 13 | 4GB | Qwen 3.5 2B | 18–26 |
| iPhone 12 | 4GB | Qwen 3.5 0.8B | 25–40 |
Meer handleidingen
- LLM’s lokaal draaien op je Android-telefoon in 2026
- Welk model moet ik kiezen?
- Stable Diffusion draaien op je iPhone
- Vision AI: afbeeldingen analyseren op je apparaat