In questa pagina
Come eseguire LLM in locale sul tuo iPhone nel 2026 (offline, senza abbonamento)
La GPU Metal e il Neural Engine di Apple sono in ogni iPhone dal 2017. Sono acceleratori di IA dedicati che restano quasi sempre inattivi mentre paghi un abbonamento mensile per mandare le tue domande ai server di qualcun altro.
Off Grid AI cambia le cose. Esegui Qwen 3.5, Gemma 4, Mistral e altri modelli di punta direttamente sul tuo iPhone: offline, in privato, senza costi ricorrenti. L’inferenza gira con llama.cpp e accelerazione Metal.
Requisiti
- iPhone 12 o successivo (A14 Bionic o successivo)
- iOS 17 o successivo
- Almeno 3 GB liberi
- Internet una volta per scaricare il modello
Passo 1: installa Off Grid AI
Passo 2: scegli il modello
Tutti i modelli usano la quantizzazione Q4_K_M, il miglior equilibrio tra qualità e dimensioni sul telefono.
| Modello | iPhone minimo | RAM | Dimensione | Ideale per |
|---|---|---|---|---|
| Qwen 3.5 0.8B | iPhone 12 | 3GB | ~0.8GB | Velocissimo, contesto da 262K |
| Qwen 3.5 2B | iPhone 12 | 4GB | ~1.7GB | Il migliore per dispositivi da 4-6 GB |
| Gemma 4 E2B | iPhone 12 | 4GB | ~1.5GB | Visione e modalità ragionamento |
| Mistral 7B | iPhone 14 | 6GB | ~4.1GB | Veloce e affidabile per tutto |
| Gemma 4 E4B | iPhone 14 | 6GB | ~2.5GB | Ragionamento e visione, modalità ragionamento |
| Qwen 3.5 9B | iPhone 15 Pro | 8GB | ~5.5GB | La qualità migliore sul dispositivo |
Con iPhone 12 o 13: parti da Qwen 3.5 2B. Con iPhone 15 Pro o 16: prova Qwen 3.5 9B.
Passo 3: scarica, carica, chatta
- Apri Off Grid AI → Models
- Tocca un modello → Download
- Tocca Load: il modello si carica tramite Metal (il framework GPU di Apple)
- Apri Chat
Ora l’IA gira in locale su Apple Silicon. Le tue chat non lasciano mai il telefono.
Perché l’iPhone è ottimo per l’IA in locale
L’iPhone ha un grande vantaggio: la memoria unificata. GPU Metal e CPU condividono la stessa memoria, quindi i modelli si caricano prima e l’inferenza è più efficiente rispetto ai dispositivi che usano solo la CPU.
Qwen 3.5 2B su un iPhone 14 genera circa 20-30 token al secondo. Abbastanza per una conversazione fluida.
La modalità ragionamento (Qwen 3.5, Gemma 4) funziona particolarmente bene su iPhone, perché l’accelerazione Metal evita che i ragionamenti lunghi diventino lenti.
Prestazioni per dispositivo
| iPhone | RAM | Modello consigliato | Token/s circa |
|---|---|---|---|
| iPhone 16 Pro Max | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 16 / 16 Plus | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 15 Pro | 8GB | Qwen 3.5 9B | 15–25 |
| iPhone 14 Pro | 6GB | Gemma 4 E4B | 15–22 |
| iPhone 14 | 6GB | Qwen 3.5 2B | 20–30 |
| iPhone 13 | 4GB | Qwen 3.5 2B | 18–26 |
| iPhone 12 | 4GB | Qwen 3.5 0.8B | 25–40 |
Altre guide
- Come eseguire LLM in locale sul tuo telefono Android nel 2026
- Quale modello usare?
- Come eseguire Stable Diffusion sul tuo iPhone
- IA di visione: analizza immagini sul dispositivo