HandleidingModellen en prestatiesiPhone2 min lezen

Op deze pagina
  1. Vereisten
  2. Stap 1: installeer Off Grid AI
  3. Stap 2: kies je model
  4. Stap 3: downloaden, laden, chatten
  5. Waarom de iPhone zo goed is voor lokale AI
  6. Prestaties per toestel
  7. Meer handleidingen
  8. Off Grid AI vergeleken

LLM’s lokaal draaien op je iPhone in 2026 (volledig offline, zonder abonnement)

De Metal-gpu en de Neural Engine van Apple zitten sinds 2017 in elke iPhone. Het zijn speciale AI-versnellers die vooral stilliggen terwijl jij elke maand betaalt om je vragen naar de server van een ander te sturen.

Off Grid AI verandert dat. Draai Qwen 3.5, Gemma 4, Mistral en andere sterke modellen direct op je iPhone: offline, privé en zonder doorlopende kosten. De berekening loopt via llama.cpp met Metal-versnelling.


Vereisten

  • iPhone 12 of nieuwer (A14 Bionic of nieuwer)
  • iOS 17 of nieuwer
  • Minstens 3 GB vrije opslag
  • Eén keer internet voor het downloaden van het model

Stap 1: installeer Off Grid AI

Download in de App Store


Stap 2: kies je model

Alle modellen gebruiken Q4_K_M-kwantisatie, de beste balans tussen kwaliteit en grootte op een telefoon.

Model Vanaf iPhone RAM Grootte Ideaal voor
Qwen 3.5 0.8B iPhone 12 3GB ~0.8GB Supersnel, 262K context
Qwen 3.5 2B iPhone 12 4GB ~1.7GB Het best voor toestellen met 4 tot 6 GB
Gemma 4 E2B iPhone 12 4GB ~1.5GB Beeld plus denkmodus
Mistral 7B iPhone 14 6GB ~4.1GB Snel en betrouwbaar voor alles
Gemma 4 E4B iPhone 14 6GB ~2.5GB Redeneren plus beeld, denkmodus
Qwen 3.5 9B iPhone 15 Pro 8GB ~5.5GB Beste kwaliteit op het apparaat

Met een iPhone 12 of 13: begin met Qwen 3.5 2B. Met een iPhone 15 Pro of 16: probeer Qwen 3.5 9B.


Stap 3: downloaden, laden, chatten

  1. Open Off Grid AI → Models
  2. Tik op een model → Download
  3. Tik op Load; het model laadt via Metal (het gpu-framework van Apple)
  4. Open Chat

Nu draait de AI lokaal op Apple Silicon. Je chats verlaten nooit je telefoon.


Waarom de iPhone zo goed is voor lokale AI

iPhones hebben een groot voordeel: gedeeld geheugen. De Metal-gpu en de cpu delen hetzelfde geheugen, dus modellen laden sneller en rekenen efficiënter dan op toestellen die alleen de cpu gebruiken.

Qwen 3.5 2B haalt op een iPhone 14 zo’n 20 tot 30 tokens per seconde. Snel genoeg voor een vlot gesprek.

De denkmodus (Qwen 3.5, Gemma 4) werkt extra goed op de iPhone, omdat de Metal-versnelling lange redeneringen vlot houdt.


Prestaties per toestel

iPhone RAM Aanbevolen model Ca. tokens/s
iPhone 16 Pro Max 8GB Qwen 3.5 9B 18–28
iPhone 16 / 16 Plus 8GB Qwen 3.5 9B 18–28
iPhone 15 Pro 8GB Qwen 3.5 9B 15–25
iPhone 14 Pro 6GB Gemma 4 E4B 15–22
iPhone 14 6GB Qwen 3.5 2B 20–30
iPhone 13 4GB Qwen 3.5 2B 18–26
iPhone 12 4GB Qwen 3.5 0.8B 25–40

Meer handleidingen

Off Grid AI vergeleken

HEB JE HIER IETS AAN?
UPDATES VAN DE MAKER