PanduanModel dan performaiPhone2 menit baca

Di halaman ini
  1. Persyaratan
  2. Langkah 1: pasang Off Grid AI
  3. Langkah 2: pilih modelmu
  4. Langkah 3: unduh, muat, chat
  5. Kenapa iPhone cocok untuk AI lokal
  6. Performa per perangkat
  7. Panduan lainnya
  8. Perbandingan Off Grid AI

Cara menjalankan LLM secara lokal di iPhone di 2026 (sepenuhnya offline, tanpa langganan)

GPU Metal dan Neural Engine dari Apple sudah ada di setiap iPhone sejak 2017. Keduanya akselerator AI khusus yang lebih sering diam, sementara kamu membayar langganan bulanan untuk mengirim pertanyaan ke server orang lain.

Off Grid AI mengubah itu. Jalankan Qwen 3.5, Gemma 4, Mistral, dan model unggulan lain langsung di iPhone: offline, privat, tanpa biaya rutin. Prosesnya berjalan lewat llama.cpp dengan akselerasi Metal.


Persyaratan

  • iPhone 12 atau lebih baru (A14 Bionic atau lebih baru)
  • iOS 17 atau lebih baru
  • Ruang kosong minimal 3 GB
  • Internet sekali untuk mengunduh model

Langkah 1: pasang Off Grid AI

Unduh di App Store


Langkah 2: pilih modelmu

Semua model memakai kuantisasi Q4_K_M, keseimbangan terbaik antara kualitas dan ukuran untuk HP.

Model iPhone minimum RAM Ukuran Cocok untuk
Qwen 3.5 0.8B iPhone 12 3GB ~0.8GB Sangat cepat, konteks 262K
Qwen 3.5 2B iPhone 12 4GB ~1.7GB Terbaik untuk perangkat 4 sampai 6 GB
Gemma 4 E2B iPhone 12 4GB ~1.5GB Visi plus mode berpikir
Mistral 7B iPhone 14 6GB ~4.1GB Cepat dan andal untuk segala keperluan
Gemma 4 E4B iPhone 14 6GB ~2.5GB Penalaran plus visi, mode berpikir
Qwen 3.5 9B iPhone 15 Pro 8GB ~5.5GB Kualitas terbaik di perangkat

Pengguna iPhone 12 atau 13: mulai dengan Qwen 3.5 2B. Pengguna iPhone 15 Pro atau 16: coba Qwen 3.5 9B.


Langkah 3: unduh, muat, chat

  1. Buka Off Grid AI → Models
  2. Ketuk sebuah model → Download
  3. Ketuk Load; model dimuat lewat Metal (framework GPU dari Apple)
  4. Buka Chat

Sekarang AI berjalan lokal di Apple Silicon. Chat kamu tidak pernah keluar dari HP.


Kenapa iPhone cocok untuk AI lokal

iPhone punya keunggulan penting: memori terpadu. GPU Metal dan CPU berbagi memori yang sama, jadi model dimuat lebih cepat dan prosesnya lebih efisien dibanding perangkat yang hanya memakai CPU.

Qwen 3.5 2B di iPhone 14 menghasilkan sekitar 20 sampai 30 token per detik. Cukup cepat untuk percakapan yang lancar.

Mode berpikir (Qwen 3.5, Gemma 4) berjalan sangat baik di iPhone karena akselerasi Metal membuat penalaran panjang tidak terasa lambat.


Performa per perangkat

iPhone RAM Model yang disarankan Kira-kira token/dtk
iPhone 16 Pro Max 8GB Qwen 3.5 9B 18–28
iPhone 16 / 16 Plus 8GB Qwen 3.5 9B 18–28
iPhone 15 Pro 8GB Qwen 3.5 9B 15–25
iPhone 14 Pro 6GB Gemma 4 E4B 15–22
iPhone 14 6GB Qwen 3.5 2B 20–30
iPhone 13 4GB Qwen 3.5 2B 18–26
iPhone 12 4GB Qwen 3.5 0.8B 25–40

Panduan lainnya

Perbandingan Off Grid AI

MEMBANTU?
KABAR DARI PEMBUAT