GuidaModelli e prestazioniiPhone2 min di lettura

In questa pagina
  1. Requisiti
  2. Passo 1: installa Off Grid AI
  3. Passo 2: scegli il modello
  4. Passo 3: scarica, carica, chatta
  5. Perché l’iPhone è ottimo per l’IA in locale
  6. Prestazioni per dispositivo
  7. Altre guide
  8. Off Grid AI a confronto

Come eseguire LLM in locale sul tuo iPhone nel 2026 (offline, senza abbonamento)

La GPU Metal e il Neural Engine di Apple sono in ogni iPhone dal 2017. Sono acceleratori di IA dedicati che restano quasi sempre inattivi mentre paghi un abbonamento mensile per mandare le tue domande ai server di qualcun altro.

Off Grid AI cambia le cose. Esegui Qwen 3.5, Gemma 4, Mistral e altri modelli di punta direttamente sul tuo iPhone: offline, in privato, senza costi ricorrenti. L’inferenza gira con llama.cpp e accelerazione Metal.


Requisiti

  • iPhone 12 o successivo (A14 Bionic o successivo)
  • iOS 17 o successivo
  • Almeno 3 GB liberi
  • Internet una volta per scaricare il modello

Passo 1: installa Off Grid AI

Scarica dall’App Store


Passo 2: scegli il modello

Tutti i modelli usano la quantizzazione Q4_K_M, il miglior equilibrio tra qualità e dimensioni sul telefono.

Modello iPhone minimo RAM Dimensione Ideale per
Qwen 3.5 0.8B iPhone 12 3GB ~0.8GB Velocissimo, contesto da 262K
Qwen 3.5 2B iPhone 12 4GB ~1.7GB Il migliore per dispositivi da 4-6 GB
Gemma 4 E2B iPhone 12 4GB ~1.5GB Visione e modalità ragionamento
Mistral 7B iPhone 14 6GB ~4.1GB Veloce e affidabile per tutto
Gemma 4 E4B iPhone 14 6GB ~2.5GB Ragionamento e visione, modalità ragionamento
Qwen 3.5 9B iPhone 15 Pro 8GB ~5.5GB La qualità migliore sul dispositivo

Con iPhone 12 o 13: parti da Qwen 3.5 2B. Con iPhone 15 Pro o 16: prova Qwen 3.5 9B.


Passo 3: scarica, carica, chatta

  1. Apri Off Grid AI → Models
  2. Tocca un modello → Download
  3. Tocca Load: il modello si carica tramite Metal (il framework GPU di Apple)
  4. Apri Chat

Ora l’IA gira in locale su Apple Silicon. Le tue chat non lasciano mai il telefono.


Perché l’iPhone è ottimo per l’IA in locale

L’iPhone ha un grande vantaggio: la memoria unificata. GPU Metal e CPU condividono la stessa memoria, quindi i modelli si caricano prima e l’inferenza è più efficiente rispetto ai dispositivi che usano solo la CPU.

Qwen 3.5 2B su un iPhone 14 genera circa 20-30 token al secondo. Abbastanza per una conversazione fluida.

La modalità ragionamento (Qwen 3.5, Gemma 4) funziona particolarmente bene su iPhone, perché l’accelerazione Metal evita che i ragionamenti lunghi diventino lenti.


Prestazioni per dispositivo

iPhone RAM Modello consigliato Token/s circa
iPhone 16 Pro Max 8GB Qwen 3.5 9B 18–28
iPhone 16 / 16 Plus 8GB Qwen 3.5 9B 18–28
iPhone 15 Pro 8GB Qwen 3.5 9B 15–25
iPhone 14 Pro 6GB Gemma 4 E4B 15–22
iPhone 14 6GB Qwen 3.5 2B 20–30
iPhone 13 4GB Qwen 3.5 2B 18–26
iPhone 12 4GB Qwen 3.5 0.8B 25–40

Altre guide

Off Grid AI a confronto

TI È STATO UTILE?
NOVITÀ DAL CREATORE