Di halaman ini
HP Android kamu punya GPU yang lebih kuat dari kebanyakan laptop tahun 2018. Chip Snapdragon modern punya akselerator AI khusus yang menganggur, sementara kamu membayar $20 per bulan untuk memakai AI di server orang lain. Itu mulai berubah.
Off Grid adalah aplikasi gratis dan open source yang menjalankan model AI secara lokal di HP Android kamu. Setelah model diunduh pertama kali, kamu tidak perlu internet lagi. Tanpa akun. Tidak ada data yang keluar dari perangkatmu. Panduan ini menjelaskan cara menyiapkannya, model mana yang dipakai, dan performa yang bisa kamu harapkan di perangkatmu.
| Play Store | GitHub |
Yang kamu butuhkan
Minimal: RAM 6 GB dan prosesor ARM64 (HP apa pun dari empat sampai lima tahun terakhir). Kamu bisa mulai dengan model yang ukurannya cuma 80 MB.
Disarankan: RAM 8 GB ke atas, Snapdragon 8 Gen 2 atau lebih baru. Dengan ini kamu bisa memakai model 3 sampai 7 miliar parameter yang jawabannya benar-benar berguna.
Bedanya dengan AI di cloud: layanan seperti ChatGPT dan Claude memakai model dengan ratusan miliar parameter di GPU pusat data. Di HP, yang jalan adalah model yang lebih kecil (1 sampai 7 miliar parameter). Untuk penalaran rumit memang kalah, tapi untuk kebutuhan sehari-hari seperti pertanyaan cepat, ringkasan, draf, dan analisis dokumen, hasilnya mengejutkan.
Apa yang bisa dilakukan Off Grid
Off Grid bukan cuma chatbot teks. Aplikasi ini menggabungkan enam kemampuan AI dalam satu aplikasi, semuanya di perangkatmu:
Contoh chat (iPhone)
|
Membuat gambar (di iPhone)
|
Model yang tersedia (iPhone)
|
Dokumen proyek (iPhone)
|
Membuat teks. Qwen 3, Llama 3.2, Gemma 3, Phi-4, atau model GGUF apa pun. Jawaban muncul kata demi kata, dengan markdown. 15 sampai 30 token per detik di HP flagship, 5 sampai 15 di kelas menengah.
Membuat gambar. Stable Diffusion lokal dengan pratinjau langsung. Dipercepat NPU di Snapdragon (5 sampai 10 detik per gambar). Lebih dari 20 model, termasuk Absolute Reality, DreamShaper, dan Anything V5.
Memahami gambar. Arahkan kamera ke sesuatu atau lampirkan gambar, lalu tanyakan. SmolVLM dan Qwen3-VL menjawab dalam sekitar 7 detik di HP flagship.
Suara jadi teks. Whisper mengubah suara menjadi teks secara lokal. Tahan untuk merekam, teks muncul saat kamu bicara. Audio tidak pernah keluar dari HP-mu.
Alat bantu. Model yang mendukung pemanggilan fungsi bisa memakai alat bawaan: pencarian web, kalkulator, tanggal dan waktu, info perangkat. Model merangkainya otomatis, dengan pengaman agar tidak berputar tanpa henti.
Analisis dokumen. Lampirkan PDF, file kode, CSV, dan lainnya ke percakapan.
Model mana yang dipakai
Katalog model Off Grid menyaring berdasarkan RAM perangkatmu, jadi kamu tidak akan mengunduh model yang tidak kuat dijalankan HP-mu. Ini yang berjalan di perangkat nyata:
HP dengan RAM 6 GB: pakai model 1 sampai 2 miliar parameter. Qwen 3 0.6B atau SmolLM3 cocok untuk mulai. Kecepatannya sekitar 5 sampai 10 token per detik, cukup untuk jawaban singkat dan tugas sederhana.
HP dengan RAM 8 GB: titik paling pas. Qwen 3 1.5B atau Phi-4 Mini memberi jawaban yang jelas lebih bagus. 10 sampai 20 token per detik di Snapdragon terbaru.
HP dengan RAM 12 GB ke atas: kamu bisa menjalankan model 7B seperti Llama 3.2 7B atau Qwen 3 4B. Untuk banyak tugas, kualitasnya mendekati ChatGPT versi awal. 15 sampai 30 token per detik di Snapdragon 8 Gen 3.
Kuantisasi itu penting. Model dengan kuantisasi Q4_K_M memakai kira-kira separuh memori versi penuh, dengan penurunan kualitas yang sangat kecil. Di HP, selalu pilih Q4 atau Q5.
Kalau sudah punya model, kamu bisa mengimpor file .gguf sendiri dari penyimpanan perangkat.
Cara kerja AI lokal di HP
Saat AI berjalan lokal, bobot model dimuat ke RAM HP dan perhitungannya berjalan di prosesormu. Tidak ada server yang terlibat. Setelah kamu mengunduh model dari Hugging Face, semua perhitungan terjadi di perangkatmu.
Off Grid memakai llama.cpp, mesin yang sama dengan kebanyakan AI lokal di komputer. Mesin ini dibuat untuk ARM64 dan memakai akselerasi apa pun yang ada di HP-mu: NPU Qualcomm lewat QNN, GPU Adreno lewat OpenCL, atau CPU dengan instruksi ARM NEON.
Jadi percakapan, dokumen, dan gambarmu tidak pernah menyentuh jaringan. Coba nyalakan mode pesawat: semuanya tetap berjalan.
Akselerasi perangkat keras
Off Grid mengenali perangkatmu dan otomatis memilih jalur tercepat:
Snapdragon 8 Gen 1 ke atas dengan QNN: NPU khusus jauh lebih cepat dan hemat daya dibanding CPU atau GPU. Di Snapdragon 8 Gen 2 atau Gen 3, ini jalur tercepat. Off Grid memakai QNN otomatis kalau tersedia.
GPU Adreno lewat OpenCL: ada di kebanyakan HP Snapdragon. Lebih cepat dari CPU saja, pilihan bagus untuk Snapdragon yang lebih lama.
Hanya CPU: jalan di semua HP. Lebih lambat, tapi bisa dipakai untuk model kecil.
Trik cache KV yang membuat kecepatan tiga kali lipat
Ini peningkatan kecepatan terbesar yang sering terlewat. Cache KV menyimpan konteks percakapanmu. Bawaannya memakai f16 (floating point 16-bit). Di pengaturan Off Grid, kamu bisa menggantinya ke q4_0 (kuantisasi 4-bit).
Mengganti f16 ke q4_0 membuat kecepatan kira-kira tiga kali lipat, dengan dampak kualitas yang sangat kecil di kebanyakan model. Aplikasi akan menyarankannya setelah jawaban pertamamu.
Memori, batas yang sebenarnya
HP-mu punya RAM 8 GB, tapi sistem memakai 3 sampai 4 GB. Untuk AI, yang tersisa sekitar 4 GB.
Rumus kasarnya: ukuran file model × 1,5 = RAM yang dibutuhkan saat berjalan (sisanya untuk cache KV dan perhitungan sementara). Jadi model 4 GB butuh sekitar 6 GB RAM kosong.
Off Grid mengecek RAM yang tersedia sebelum memuat model dan memberi peringatan kalau tidak cukup. Jadi aplikasi tidak tiba-tiba tertutup karena sistem mematikannya akibat memori penuh. Kamu melihat peringatan yang jelas, bukan aplikasi yang menutup sendiri.
Kenapa AI lokal, bukan cloud
AI lokal di HP melepaskanmu dari tiga hal sekaligus.
Tanpa langganan. AI di cloud mulai dari $20 per bulan. AI lokal gratis setelah model diunduh sekali.
Tanpa internet. Model lokal tetap jalan di pesawat, di ruang bawah tanah, atau di negara dengan internet terbatas. Tanpa koneksi, tidak ada gangguan.
Tanpa data bocor. Apa yang kamu ketik ke AI di cloud tersimpan di server yang tidak kamu kendalikan. Secara lokal, pertanyaan kesehatan, dokumen hukum, catatan pribadi, dan catatan kerja rahasiamu tidak pernah keluar dari perangkat. Off Grid itu open source, jadi kamu tidak perlu percaya begitu saja pada janji privasi siapa pun. Baca sendiri kodenya.
Cara memulai
- Pasang Off Grid dari Play Store
- Buka katalog model dan pilih model yang disarankan untuk RAM perangkatmu
- Unduh model lewat Wi-Fi (dari 80 MB sampai lebih dari 4 GB)
- Nyalakan mode pesawat untuk memastikan semuanya berjalan lokal
- Mulai mengobrol
Jawaban pertama lebih lama karena model sedang dimuat ke memori. Pesan berikutnya lebih cepat. Di pengaturan, ganti cache KV ke q4_0 untuk kecepatan terbaik.
Yang akan datang
Generasi Snapdragon berikutnya dari Qualcomm diperkirakan mencapai 200 token per detik untuk AI lokal. Samsung Galaxy S26 hadir dengan AI bawaan di perangkat. Teknik optimasi juga terus membuat model yang makin kecil punya kualitas makin bagus.
Off Grid terus dikembangkan, dengan fitur baru setiap minggu. Mode suara, alat bantu, cache KV yang bisa diatur, dan pemahaman gambar semuanya hadir bulan lalu. Lihat versi terbaru di GitHub.
Setahun lagi, menjalankan AI lokal di HP bukan lagi trik pengguna mahir. Itu akan jadi hal biasa.
Contoh chat (iPhone)
Membuat gambar (di iPhone)
Model yang tersedia (iPhone)
Dokumen proyek (iPhone)