GuidaModelli e prestazioniAndroid3 min di lettura

In questa pagina
  1. Cosa ti serve
  2. Passo 1: scarica Off Grid AI
  3. Passo 2: scegli un modello
  4. Passo 3: scarica e carica
  5. Passo 4: vai offline
  6. Prestazioni per dispositivo
  7. Perché eseguire LLM in locale invece che nel cloud?
  8. Altre guide
  9. Off Grid AI a confronto

Come eseguire LLM in locale sul tuo telefono Android nel 2026 (senza cloud, senza account)

Ogni domanda che fai a ChatGPT viene registrata su un server: la richiesta, la risposta, l’ora, il tuo account. Conservata senza scadenza. Quei dati servono a migliorare i modelli, a indirizzare la pubblicità e a rispondere alle richieste delle autorità.

Off Grid AI elimina tutto questo livello. Il modello gira nella RAM del telefono con llama.cpp su ARM64. I tuoi prompt non vengono mandati da nessuna parte.

Ecco come configurarlo.


Cosa ti serve

  • Telefono Android con almeno 4 GB di RAM (Android 10 o successivo)
  • Da 2 a 5 GB liberi a seconda del modello
  • Internet una volta per il primo download, poi mai più

Passo 1: scarica Off Grid AI

Scarica Off Grid AI da Google Play


Passo 2: scegli un modello

Tutti i modelli usano di base la quantizzazione Q4_K_M, il miglior equilibrio tra qualità e dimensioni sul telefono.

Modello RAM minima Dimensione Ideale per
Qwen 3.5 0.8B 3GB ~0.8GB Velocissimo, contesto da 262K, dispositivi economici
Qwen 3.5 2B 4GB ~1.7GB Il migliore per dispositivi da 4-6 GB di RAM, contesto da 262K
Gemma 4 E2B 4GB ~1.5GB Visione e modalità ragionamento, architettura MoE
Mistral 7B 6GB ~4.1GB Veloce e affidabile per tutto
Gemma 4 E4B 6GB ~2.5GB Ragionamento solido e visione, modalità ragionamento
Qwen 3.5 9B 8GB ~5.5GB La qualità migliore sul dispositivo

Con 4-6 GB parti da Qwen 3.5 2B. Con 8 GB di RAM o più parti da Qwen 3.5 9B.


Passo 3: scarica e carica

  1. Apri Off Grid AI → tocca Models
  2. Scegli il modello → tocca Download
  3. A download finito, tocca Load
  4. Apri Chat e inizia

Da qui il modello gira tutto sul dispositivo. Nessuna richiesta di rete.


Passo 4: vai offline

Attiva la modalità aereo. Apri una chat. Funziona ancora.

È proprio questo il punto. Ora hai un assistente IA capace che funziona senza connessione, su qualsiasi rete, in qualsiasi paese, senza bolletta mensile.


Prestazioni per dispositivo

Off Grid AI usa llama.cpp su ARM64 con le istruzioni SIMD NEON, i8mm e dotprod. Sulle GPU Qualcomm Adreno è disponibile come opzione lo scarico sulla GPU tramite OpenCL.

Dispositivo RAM Modello consigliato Token/s circa
Pixel 9 Pro 16GB Qwen 3.5 9B 15–25
Samsung Galaxy S25 12GB Qwen 3.5 9B 15–25
Pixel 8 Pro 12GB Qwen 3.5 9B 12–20
Samsung S24 8GB Qwen 3.5 9B o Gemma 4 E4B 10–18
Pixel 7 8GB Qwen 3.5 9B 8–15
OnePlus 12 12GB Qwen 3.5 9B 12–20
Samsung A55 8GB Qwen 3.5 2B 15–25
Dispositivo economico da 4 GB 4GB Qwen 3.5 0.8B 20–35

Perché eseguire LLM in locale invece che nel cloud?

Privacy. Le tue richieste non lasciano mai il dispositivo.

Zero costi. Niente tariffe API, niente abbonamento. Il modello si scarica gratis e funziona per sempre.

Offline. Funziona in aereo, con poco segnale e nei paesi dove i servizi di IA nel cloud sono limitati.

Velocità. Per le richieste brevi, l’inferenza locale sui chip ARM moderni è sorprendentemente rapida, spesso più che aspettare una risposta dal cloud con una connessione lenta.


Altre guide

Off Grid AI a confronto

TI È STATO UTILE?
NOVITÀ DAL CREATORE