HandleidingModellen en prestatiesAndroid2 min lezen

Op deze pagina
  1. Wat je nodig hebt
  2. Stap 1: download Off Grid AI
  3. Stap 2: kies een model
  4. Stap 3: downloaden en laden
  5. Stap 4: ga offline
  6. Prestaties per toestel
  7. Waarom LLM’s lokaal draaien in plaats van in de cloud?
  8. Meer handleidingen
  9. Off Grid AI vergeleken

LLM’s lokaal draaien op je Android-telefoon in 2026 (geen cloud, geen account)

Elke vraag aan ChatGPT wordt op een server vastgelegd: je vraag, het antwoord, het tijdstip, je account. Voor onbepaalde tijd bewaard. Die gegevens verbeteren modellen, sturen advertenties en gaan naar instanties die erom vragen.

Off Grid AI haalt die hele laag weg. Het model draait via llama.cpp op ARM64 in het geheugen van je telefoon. Je prompts gaan nergens heen.

Zo stel je het in.


Wat je nodig hebt

  • Android-telefoon met minstens 4 GB RAM (Android 10 of nieuwer)
  • 2 tot 5 GB vrije opslag, afhankelijk van het model
  • Eén keer internet voor de eerste download, daarna nooit meer

Stap 1: download Off Grid AI

Download Off Grid AI in Google Play


Stap 2: kies een model

Alle modellen gebruiken standaard Q4_K_M-kwantisatie, de beste balans tussen kwaliteit en grootte op een telefoon.

Model Min. RAM Grootte Ideaal voor
Qwen 3.5 0.8B 3GB ~0.8GB Supersnel, 262K context, budgettoestellen
Qwen 3.5 2B 4GB ~1.7GB Het best voor toestellen met 4 tot 6 GB RAM, 262K context
Gemma 4 E2B 4GB ~1.5GB Beeld plus denkmodus, MoE-architectuur
Mistral 7B 6GB ~4.1GB Snel en betrouwbaar voor alles
Gemma 4 E4B 6GB ~2.5GB Sterk redeneren plus beeld, denkmodus
Qwen 3.5 9B 8GB ~5.5GB Beste kwaliteit op het apparaat

Met 4 tot 6 GB: begin met Qwen 3.5 2B. Met 8 GB RAM of meer: begin met Qwen 3.5 9B.


Stap 3: downloaden en laden

  1. Open Off Grid AI → tik op Models
  2. Kies je model → tik op Download
  3. Tik na het downloaden op Load
  4. Open Chat en begin

Vanaf nu draait het model helemaal op je toestel. Geen netwerkverzoeken.


Stap 4: ga offline

Zet de vliegtuigmodus aan. Open een chat. Het werkt nog steeds.

Daar gaat het om. Je hebt nu een capabele AI-assistent die werkt zonder verbinding, op elk netwerk, in elk land, zonder maandrekening.


Prestaties per toestel

Off Grid AI gebruikt llama.cpp op ARM64 met de SIMD-instructies NEON, i8mm en dotprod. Op Qualcomm Adreno-gpu’s kun je optioneel werk naar de gpu verplaatsen via OpenCL.

Toestel RAM Aanbevolen model Ca. tokens/s
Pixel 9 Pro 16GB Qwen 3.5 9B 15–25
Samsung Galaxy S25 12GB Qwen 3.5 9B 15–25
Pixel 8 Pro 12GB Qwen 3.5 9B 12–20
Samsung S24 8GB Qwen 3.5 9B of Gemma 4 E4B 10–18
Pixel 7 8GB Qwen 3.5 9B 8–15
OnePlus 12 12GB Qwen 3.5 9B 12–20
Samsung A55 8GB Qwen 3.5 2B 15–25
Budgettoestel met 4 GB 4GB Qwen 3.5 0.8B 20–35

Waarom LLM’s lokaal draaien in plaats van in de cloud?

Privacy. Je vragen verlaten nooit je toestel.

Geen kosten. Geen API-kosten, geen abonnement. Het model download je gratis en draait voor altijd.

Offline. Werkt in het vliegtuig, bij slecht bereik en in landen waar AI-diensten in de cloud beperkt zijn.

Snelheid. Bij korte vragen is lokaal rekenen op moderne ARM-chips verrassend snel, vaak sneller dan wachten op een antwoord uit de cloud via een trage verbinding.


Meer handleidingen

Off Grid AI vergeleken

HEB JE HIER IETS AAN?
UPDATES VAN DE MAKER