In questa pagina
Come eseguire LLM in locale sul tuo telefono Android nel 2026 (senza cloud, senza account)
Ogni domanda che fai a ChatGPT viene registrata su un server: la richiesta, la risposta, l’ora, il tuo account. Conservata senza scadenza. Quei dati servono a migliorare i modelli, a indirizzare la pubblicità e a rispondere alle richieste delle autorità.
Off Grid AI elimina tutto questo livello. Il modello gira nella RAM del telefono con llama.cpp su ARM64. I tuoi prompt non vengono mandati da nessuna parte.
Ecco come configurarlo.
Cosa ti serve
- Telefono Android con almeno 4 GB di RAM (Android 10 o successivo)
- Da 2 a 5 GB liberi a seconda del modello
- Internet una volta per il primo download, poi mai più
Passo 1: scarica Off Grid AI
Scarica Off Grid AI da Google Play
Passo 2: scegli un modello
Tutti i modelli usano di base la quantizzazione Q4_K_M, il miglior equilibrio tra qualità e dimensioni sul telefono.
| Modello | RAM minima | Dimensione | Ideale per |
|---|---|---|---|
| Qwen 3.5 0.8B | 3GB | ~0.8GB | Velocissimo, contesto da 262K, dispositivi economici |
| Qwen 3.5 2B | 4GB | ~1.7GB | Il migliore per dispositivi da 4-6 GB di RAM, contesto da 262K |
| Gemma 4 E2B | 4GB | ~1.5GB | Visione e modalità ragionamento, architettura MoE |
| Mistral 7B | 6GB | ~4.1GB | Veloce e affidabile per tutto |
| Gemma 4 E4B | 6GB | ~2.5GB | Ragionamento solido e visione, modalità ragionamento |
| Qwen 3.5 9B | 8GB | ~5.5GB | La qualità migliore sul dispositivo |
Con 4-6 GB parti da Qwen 3.5 2B. Con 8 GB di RAM o più parti da Qwen 3.5 9B.
Passo 3: scarica e carica
- Apri Off Grid AI → tocca Models
- Scegli il modello → tocca Download
- A download finito, tocca Load
- Apri Chat e inizia
Da qui il modello gira tutto sul dispositivo. Nessuna richiesta di rete.
Passo 4: vai offline
Attiva la modalità aereo. Apri una chat. Funziona ancora.
È proprio questo il punto. Ora hai un assistente IA capace che funziona senza connessione, su qualsiasi rete, in qualsiasi paese, senza bolletta mensile.
Prestazioni per dispositivo
Off Grid AI usa llama.cpp su ARM64 con le istruzioni SIMD NEON, i8mm e dotprod. Sulle GPU Qualcomm Adreno è disponibile come opzione lo scarico sulla GPU tramite OpenCL.
| Dispositivo | RAM | Modello consigliato | Token/s circa |
|---|---|---|---|
| Pixel 9 Pro | 16GB | Qwen 3.5 9B | 15–25 |
| Samsung Galaxy S25 | 12GB | Qwen 3.5 9B | 15–25 |
| Pixel 8 Pro | 12GB | Qwen 3.5 9B | 12–20 |
| Samsung S24 | 8GB | Qwen 3.5 9B o Gemma 4 E4B | 10–18 |
| Pixel 7 | 8GB | Qwen 3.5 9B | 8–15 |
| OnePlus 12 | 12GB | Qwen 3.5 9B | 12–20 |
| Samsung A55 | 8GB | Qwen 3.5 2B | 15–25 |
| Dispositivo economico da 4 GB | 4GB | Qwen 3.5 0.8B | 20–35 |
Perché eseguire LLM in locale invece che nel cloud?
Privacy. Le tue richieste non lasciano mai il dispositivo.
Zero costi. Niente tariffe API, niente abbonamento. Il modello si scarica gratis e funziona per sempre.
Offline. Funziona in aereo, con poco segnale e nei paesi dove i servizi di IA nel cloud sono limitati.
Velocità. Per le richieste brevi, l’inferenza locale sui chip ARM moderni è sorprendentemente rapida, spesso più che aspettare una risposta dal cloud con una connessione lenta.
Altre guide
- Come eseguire LLM in locale sul tuo iPhone nel 2026
- Quale modello usare?
- Come eseguire Stable Diffusion sul tuo telefono Android
- Come usare Ollama dal tuo telefono Android nel 2026
- Come usare Off Grid AI Desktop dal telefono nel 2026
- IA di visione: analizza immagini sul dispositivo