Na tej stronie
Jak uruchamiać LLM lokalnie na telefonie z Androidem w 2026 (bez chmury, bez konta)
Każde pytanie zadane ChatGPT jest zapisywane na serwerze: zapytanie, odpowiedź, godzina, twoje konto. Przechowywane bez terminu usunięcia. Te dane służą do ulepszania modeli, kierowania reklam i odpowiadania na żądania organów ścigania.
Off Grid AI usuwa całą tę warstwę. Model działa w pamięci RAM telefonu przez llama.cpp na ARM64. Twoje prompty nigdzie nie trafiają.
Oto jak to skonfigurować.
Czego potrzebujesz
- Telefon z Androidem i co najmniej 4 GB RAM (Android 10 lub nowszy)
- 2 do 5 GB wolnego miejsca, zależnie od modelu
- Internet raz, do pierwszego pobrania, potem już nigdy
Krok 1: pobierz Off Grid AI
Pobierz Off Grid AI z Google Play
Krok 2: wybierz model
Wszystkie modele domyślnie używają kwantyzacji Q4_K_M, czyli najlepszego kompromisu między jakością a rozmiarem na telefonie.
| Model | Min. RAM | Rozmiar | Najlepszy do |
|---|---|---|---|
| Qwen 3.5 0.8B | 3GB | ~0.8GB | Bardzo szybki, kontekst 262K, tańsze urządzenia |
| Qwen 3.5 2B | 4GB | ~1.7GB | Najlepszy dla urządzeń z 4 do 6 GB RAM, kontekst 262K |
| Gemma 4 E2B | 4GB | ~1.5GB | Obrazy i tryb myślenia, architektura MoE |
| Mistral 7B | 6GB | ~4.1GB | Szybki i niezawodny do wszystkiego |
| Gemma 4 E4B | 6GB | ~2.5GB | Mocne rozumowanie i obrazy, tryb myślenia |
| Qwen 3.5 9B | 8GB | ~5.5GB | Najlepsza jakość na urządzeniu |
Masz 4 do 6 GB: zacznij od Qwen 3.5 2B. Masz 8 GB RAM lub więcej: zacznij od Qwen 3.5 9B.
Krok 3: pobierz i wczytaj
- Otwórz Off Grid AI → stuknij Models
- Wybierz model → stuknij Download
- Po pobraniu stuknij Load
- Otwórz Chat i zaczynaj
Od teraz model działa w całości na twoim urządzeniu. Żadnych zapytań do sieci.
Krok 4: przejdź offline
Włącz tryb samolotowy. Otwórz czat. Dalej działa.
O to właśnie chodzi. Masz teraz zdolnego asystenta AI, który działa bez połączenia, w każdej sieci, w każdym kraju, bez miesięcznego rachunku.
Wydajność według urządzenia
Off Grid AI używa llama.cpp na ARM64 z instrukcjami SIMD NEON, i8mm i dotprod. Na GPU Qualcomm Adreno można opcjonalnie przenieść obliczenia na GPU przez OpenCL.
| Urządzenie | RAM | Polecany model | Ok. tokenów/s |
|---|---|---|---|
| Pixel 9 Pro | 16GB | Qwen 3.5 9B | 15–25 |
| Samsung Galaxy S25 | 12GB | Qwen 3.5 9B | 15–25 |
| Pixel 8 Pro | 12GB | Qwen 3.5 9B | 12–20 |
| Samsung S24 | 8GB | Qwen 3.5 9B lub Gemma 4 E4B | 10–18 |
| Pixel 7 | 8GB | Qwen 3.5 9B | 8–15 |
| OnePlus 12 | 12GB | Qwen 3.5 9B | 12–20 |
| Samsung A55 | 8GB | Qwen 3.5 2B | 15–25 |
| Tańsze urządzenie z 4 GB | 4GB | Qwen 3.5 0.8B | 20–35 |
Dlaczego uruchamiać LLM lokalnie, a nie w chmurze?
Prywatność. Twoje zapytania nigdy nie opuszczają urządzenia.
Zero kosztów. Żadnych opłat za API ani abonamentu. Model pobierasz za darmo i działa na zawsze.
Offline. Działa w samolocie, przy słabym zasięgu i w krajach, w których usługi AI w chmurze są ograniczone.
Szybkość. Przy krótkich zapytaniach lokalne obliczenia na nowych chipach ARM są zaskakująco szybkie, często szybsze niż czekanie na odpowiedź z chmury przy wolnym łączu.
Więcej poradników
- Jak uruchamiać LLM lokalnie na iPhonie w 2026
- Jaki model wybrać?
- Jak uruchomić Stable Diffusion na telefonie z Androidem
- Jak korzystać z Ollamy z telefonu z Androidem w 2026
- Jak korzystać z Off Grid AI Desktop z telefonu w 2026
- AI wizyjne: analiza obrazów na urządzeniu