Na tej stronie
Jak uruchamiać LLM lokalnie na iPhonie w 2026 (całkowicie offline, bez subskrypcji)
GPU Metal i Neural Engine od Apple są w każdym iPhonie od 2017 roku. To dedykowane akceleratory AI, które przez większość czasu stoją bezczynnie, a ty płacisz co miesiąc za wysyłanie pytań na cudzy serwer.
Off Grid AI to zmienia. Uruchamiaj Qwen 3.5, Gemma 4, Mistral i inne czołowe modele bezpośrednio na iPhonie: offline, prywatnie i bez stałych opłat. Obliczenia działają przez llama.cpp z przyspieszeniem Metal.
Wymagania
- iPhone 12 lub nowszy (A14 Bionic lub nowszy)
- iOS 17 lub nowszy
- Co najmniej 3 GB wolnego miejsca
- Internet raz, do pobrania modelu
Krok 1: zainstaluj Off Grid AI
Krok 2: wybierz model
Wszystkie modele używają kwantyzacji Q4_K_M, czyli najlepszego kompromisu między jakością a rozmiarem na telefonie.
| Model | Min. iPhone | RAM | Rozmiar | Najlepszy do |
|---|---|---|---|---|
| Qwen 3.5 0.8B | iPhone 12 | 3GB | ~0.8GB | Bardzo szybki, kontekst 262K |
| Qwen 3.5 2B | iPhone 12 | 4GB | ~1.7GB | Najlepszy dla urządzeń z 4 do 6 GB |
| Gemma 4 E2B | iPhone 12 | 4GB | ~1.5GB | Obrazy i tryb myślenia |
| Mistral 7B | iPhone 14 | 6GB | ~4.1GB | Szybki i niezawodny do wszystkiego |
| Gemma 4 E4B | iPhone 14 | 6GB | ~2.5GB | Rozumowanie i obrazy, tryb myślenia |
| Qwen 3.5 9B | iPhone 15 Pro | 8GB | ~5.5GB | Najlepsza jakość na urządzeniu |
Masz iPhone’a 12 lub 13: zacznij od Qwen 3.5 2B. Masz iPhone’a 15 Pro lub 16: spróbuj Qwen 3.5 9B.
Krok 3: pobierz, wczytaj, rozmawiaj
- Otwórz Off Grid AI → Models
- Stuknij model → Download
- Stuknij Load; model wczytuje się przez Metal (framework GPU od Apple)
- Otwórz Chat
Teraz AI działa lokalnie na Apple Silicon. Twoje rozmowy nigdy nie opuszczają telefonu.
Dlaczego iPhone świetnie nadaje się do lokalnej AI
iPhone ma dużą przewagę: pamięć zunifikowaną. GPU Metal i CPU korzystają z tej samej pamięci, więc modele wczytują się szybciej, a obliczenia są wydajniejsze niż na urządzeniach korzystających tylko z CPU.
Qwen 3.5 2B na iPhonie 14 generuje około 20 do 30 tokenów na sekundę. To wystarczy do płynnej rozmowy.
Tryb myślenia (Qwen 3.5, Gemma 4) sprawdza się na iPhonie szczególnie dobrze, bo przyspieszenie Metal sprawia, że dłuższe rozumowanie nie zwalnia.
Wydajność według urządzenia
| iPhone | RAM | Polecany model | Ok. tokenów/s |
|---|---|---|---|
| iPhone 16 Pro Max | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 16 / 16 Plus | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 15 Pro | 8GB | Qwen 3.5 9B | 15–25 |
| iPhone 14 Pro | 6GB | Gemma 4 E4B | 15–22 |
| iPhone 14 | 6GB | Qwen 3.5 2B | 20–30 |
| iPhone 13 | 4GB | Qwen 3.5 2B | 18–26 |
| iPhone 12 | 4GB | Qwen 3.5 0.8B | 25–40 |
Więcej poradników
- Jak uruchamiać LLM lokalnie na telefonie z Androidem w 2026
- Jaki model wybrać?
- Jak uruchomić Stable Diffusion na iPhonie
- AI wizyjne: analiza obrazów na urządzeniu