PoradnikModele i wydajnośćAndroid2 min czytania

Na tej stronie
  1. Czego potrzebujesz
  2. Krok 1: pobierz Off Grid AI
  3. Krok 2: wybierz model
  4. Krok 3: pobierz i wczytaj
  5. Krok 4: przejdź offline
  6. Wydajność według urządzenia
  7. Dlaczego uruchamiać LLM lokalnie, a nie w chmurze?
  8. Więcej poradników
  9. Off Grid AI w porównaniu

Jak uruchamiać LLM lokalnie na telefonie z Androidem w 2026 (bez chmury, bez konta)

Każde pytanie zadane ChatGPT jest zapisywane na serwerze: zapytanie, odpowiedź, godzina, twoje konto. Przechowywane bez terminu usunięcia. Te dane służą do ulepszania modeli, kierowania reklam i odpowiadania na żądania organów ścigania.

Off Grid AI usuwa całą tę warstwę. Model działa w pamięci RAM telefonu przez llama.cpp na ARM64. Twoje prompty nigdzie nie trafiają.

Oto jak to skonfigurować.


Czego potrzebujesz

  • Telefon z Androidem i co najmniej 4 GB RAM (Android 10 lub nowszy)
  • 2 do 5 GB wolnego miejsca, zależnie od modelu
  • Internet raz, do pierwszego pobrania, potem już nigdy

Krok 1: pobierz Off Grid AI

Pobierz Off Grid AI z Google Play


Krok 2: wybierz model

Wszystkie modele domyślnie używają kwantyzacji Q4_K_M, czyli najlepszego kompromisu między jakością a rozmiarem na telefonie.

Model Min. RAM Rozmiar Najlepszy do
Qwen 3.5 0.8B 3GB ~0.8GB Bardzo szybki, kontekst 262K, tańsze urządzenia
Qwen 3.5 2B 4GB ~1.7GB Najlepszy dla urządzeń z 4 do 6 GB RAM, kontekst 262K
Gemma 4 E2B 4GB ~1.5GB Obrazy i tryb myślenia, architektura MoE
Mistral 7B 6GB ~4.1GB Szybki i niezawodny do wszystkiego
Gemma 4 E4B 6GB ~2.5GB Mocne rozumowanie i obrazy, tryb myślenia
Qwen 3.5 9B 8GB ~5.5GB Najlepsza jakość na urządzeniu

Masz 4 do 6 GB: zacznij od Qwen 3.5 2B. Masz 8 GB RAM lub więcej: zacznij od Qwen 3.5 9B.


Krok 3: pobierz i wczytaj

  1. Otwórz Off Grid AI → stuknij Models
  2. Wybierz model → stuknij Download
  3. Po pobraniu stuknij Load
  4. Otwórz Chat i zaczynaj

Od teraz model działa w całości na twoim urządzeniu. Żadnych zapytań do sieci.


Krok 4: przejdź offline

Włącz tryb samolotowy. Otwórz czat. Dalej działa.

O to właśnie chodzi. Masz teraz zdolnego asystenta AI, który działa bez połączenia, w każdej sieci, w każdym kraju, bez miesięcznego rachunku.


Wydajność według urządzenia

Off Grid AI używa llama.cpp na ARM64 z instrukcjami SIMD NEON, i8mm i dotprod. Na GPU Qualcomm Adreno można opcjonalnie przenieść obliczenia na GPU przez OpenCL.

Urządzenie RAM Polecany model Ok. tokenów/s
Pixel 9 Pro 16GB Qwen 3.5 9B 15–25
Samsung Galaxy S25 12GB Qwen 3.5 9B 15–25
Pixel 8 Pro 12GB Qwen 3.5 9B 12–20
Samsung S24 8GB Qwen 3.5 9B lub Gemma 4 E4B 10–18
Pixel 7 8GB Qwen 3.5 9B 8–15
OnePlus 12 12GB Qwen 3.5 9B 12–20
Samsung A55 8GB Qwen 3.5 2B 15–25
Tańsze urządzenie z 4 GB 4GB Qwen 3.5 0.8B 20–35

Dlaczego uruchamiać LLM lokalnie, a nie w chmurze?

Prywatność. Twoje zapytania nigdy nie opuszczają urządzenia.

Zero kosztów. Żadnych opłat za API ani abonamentu. Model pobierasz za darmo i działa na zawsze.

Offline. Działa w samolocie, przy słabym zasięgu i w krajach, w których usługi AI w chmurze są ograniczone.

Szybkość. Przy krótkich zapytaniach lokalne obliczenia na nowych chipach ARM są zaskakująco szybkie, często szybsze niż czekanie na odpowiedź z chmury przy wolnym łączu.


Więcej poradników

Off Grid AI w porównaniu

CZY TO POMOGŁO?
WIEŚCI OD TWÓRCY