Di halaman ini
Cara menjalankan LLM secara lokal di iPhone di 2026 (sepenuhnya offline, tanpa langganan)
GPU Metal dan Neural Engine dari Apple sudah ada di setiap iPhone sejak 2017. Keduanya akselerator AI khusus yang lebih sering diam, sementara kamu membayar langganan bulanan untuk mengirim pertanyaan ke server orang lain.
Off Grid AI mengubah itu. Jalankan Qwen 3.5, Gemma 4, Mistral, dan model unggulan lain langsung di iPhone: offline, privat, tanpa biaya rutin. Prosesnya berjalan lewat llama.cpp dengan akselerasi Metal.
Persyaratan
- iPhone 12 atau lebih baru (A14 Bionic atau lebih baru)
- iOS 17 atau lebih baru
- Ruang kosong minimal 3 GB
- Internet sekali untuk mengunduh model
Langkah 1: pasang Off Grid AI
Langkah 2: pilih modelmu
Semua model memakai kuantisasi Q4_K_M, keseimbangan terbaik antara kualitas dan ukuran untuk HP.
| Model | iPhone minimum | RAM | Ukuran | Cocok untuk |
|---|---|---|---|---|
| Qwen 3.5 0.8B | iPhone 12 | 3GB | ~0.8GB | Sangat cepat, konteks 262K |
| Qwen 3.5 2B | iPhone 12 | 4GB | ~1.7GB | Terbaik untuk perangkat 4 sampai 6 GB |
| Gemma 4 E2B | iPhone 12 | 4GB | ~1.5GB | Visi plus mode berpikir |
| Mistral 7B | iPhone 14 | 6GB | ~4.1GB | Cepat dan andal untuk segala keperluan |
| Gemma 4 E4B | iPhone 14 | 6GB | ~2.5GB | Penalaran plus visi, mode berpikir |
| Qwen 3.5 9B | iPhone 15 Pro | 8GB | ~5.5GB | Kualitas terbaik di perangkat |
Pengguna iPhone 12 atau 13: mulai dengan Qwen 3.5 2B. Pengguna iPhone 15 Pro atau 16: coba Qwen 3.5 9B.
Langkah 3: unduh, muat, chat
- Buka Off Grid AI → Models
- Ketuk sebuah model → Download
- Ketuk Load; model dimuat lewat Metal (framework GPU dari Apple)
- Buka Chat
Sekarang AI berjalan lokal di Apple Silicon. Chat kamu tidak pernah keluar dari HP.
Kenapa iPhone cocok untuk AI lokal
iPhone punya keunggulan penting: memori terpadu. GPU Metal dan CPU berbagi memori yang sama, jadi model dimuat lebih cepat dan prosesnya lebih efisien dibanding perangkat yang hanya memakai CPU.
Qwen 3.5 2B di iPhone 14 menghasilkan sekitar 20 sampai 30 token per detik. Cukup cepat untuk percakapan yang lancar.
Mode berpikir (Qwen 3.5, Gemma 4) berjalan sangat baik di iPhone karena akselerasi Metal membuat penalaran panjang tidak terasa lambat.
Performa per perangkat
| iPhone | RAM | Model yang disarankan | Kira-kira token/dtk |
|---|---|---|---|
| iPhone 16 Pro Max | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 16 / 16 Plus | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 15 Pro | 8GB | Qwen 3.5 9B | 15–25 |
| iPhone 14 Pro | 6GB | Gemma 4 E4B | 15–22 |
| iPhone 14 | 6GB | Qwen 3.5 2B | 20–30 |
| iPhone 13 | 4GB | Qwen 3.5 2B | 18–26 |
| iPhone 12 | 4GB | Qwen 3.5 0.8B | 25–40 |
Panduan lainnya
- Cara menjalankan LLM secara lokal di HP Android di 2026
- Model mana yang sebaiknya saya pakai?
- Cara menjalankan Stable Diffusion di iPhone
- AI visi: analisis gambar di perangkat