PoradnikModele i wydajnośćiPhone2 min czytania

Na tej stronie
  1. Wymagania
  2. Krok 1: zainstaluj Off Grid AI
  3. Krok 2: wybierz model
  4. Krok 3: pobierz, wczytaj, rozmawiaj
  5. Dlaczego iPhone świetnie nadaje się do lokalnej AI
  6. Wydajność według urządzenia
  7. Więcej poradników
  8. Off Grid AI w porównaniu

Jak uruchamiać LLM lokalnie na iPhonie w 2026 (całkowicie offline, bez subskrypcji)

GPU Metal i Neural Engine od Apple są w każdym iPhonie od 2017 roku. To dedykowane akceleratory AI, które przez większość czasu stoją bezczynnie, a ty płacisz co miesiąc za wysyłanie pytań na cudzy serwer.

Off Grid AI to zmienia. Uruchamiaj Qwen 3.5, Gemma 4, Mistral i inne czołowe modele bezpośrednio na iPhonie: offline, prywatnie i bez stałych opłat. Obliczenia działają przez llama.cpp z przyspieszeniem Metal.


Wymagania

  • iPhone 12 lub nowszy (A14 Bionic lub nowszy)
  • iOS 17 lub nowszy
  • Co najmniej 3 GB wolnego miejsca
  • Internet raz, do pobrania modelu

Krok 1: zainstaluj Off Grid AI

Pobierz z App Store


Krok 2: wybierz model

Wszystkie modele używają kwantyzacji Q4_K_M, czyli najlepszego kompromisu między jakością a rozmiarem na telefonie.

Model Min. iPhone RAM Rozmiar Najlepszy do
Qwen 3.5 0.8B iPhone 12 3GB ~0.8GB Bardzo szybki, kontekst 262K
Qwen 3.5 2B iPhone 12 4GB ~1.7GB Najlepszy dla urządzeń z 4 do 6 GB
Gemma 4 E2B iPhone 12 4GB ~1.5GB Obrazy i tryb myślenia
Mistral 7B iPhone 14 6GB ~4.1GB Szybki i niezawodny do wszystkiego
Gemma 4 E4B iPhone 14 6GB ~2.5GB Rozumowanie i obrazy, tryb myślenia
Qwen 3.5 9B iPhone 15 Pro 8GB ~5.5GB Najlepsza jakość na urządzeniu

Masz iPhone’a 12 lub 13: zacznij od Qwen 3.5 2B. Masz iPhone’a 15 Pro lub 16: spróbuj Qwen 3.5 9B.


Krok 3: pobierz, wczytaj, rozmawiaj

  1. Otwórz Off Grid AI → Models
  2. Stuknij model → Download
  3. Stuknij Load; model wczytuje się przez Metal (framework GPU od Apple)
  4. Otwórz Chat

Teraz AI działa lokalnie na Apple Silicon. Twoje rozmowy nigdy nie opuszczają telefonu.


Dlaczego iPhone świetnie nadaje się do lokalnej AI

iPhone ma dużą przewagę: pamięć zunifikowaną. GPU Metal i CPU korzystają z tej samej pamięci, więc modele wczytują się szybciej, a obliczenia są wydajniejsze niż na urządzeniach korzystających tylko z CPU.

Qwen 3.5 2B na iPhonie 14 generuje około 20 do 30 tokenów na sekundę. To wystarczy do płynnej rozmowy.

Tryb myślenia (Qwen 3.5, Gemma 4) sprawdza się na iPhonie szczególnie dobrze, bo przyspieszenie Metal sprawia, że dłuższe rozumowanie nie zwalnia.


Wydajność według urządzenia

iPhone RAM Polecany model Ok. tokenów/s
iPhone 16 Pro Max 8GB Qwen 3.5 9B 18–28
iPhone 16 / 16 Plus 8GB Qwen 3.5 9B 18–28
iPhone 15 Pro 8GB Qwen 3.5 9B 15–25
iPhone 14 Pro 6GB Gemma 4 E4B 15–22
iPhone 14 6GB Qwen 3.5 2B 20–30
iPhone 13 4GB Qwen 3.5 2B 18–26
iPhone 12 4GB Qwen 3.5 0.8B 25–40

Więcej poradników

Off Grid AI w porównaniu

CZY TO POMOGŁO?
WIEŚCI OD TWÓRCY