На этой странице
Как запускать LLM локально на iPhone в 2026 году (полностью офлайн, без подписки)
GPU Metal и Neural Engine от Apple есть в каждом iPhone с 2017 года. Это отдельные ускорители ИИ, и большую часть времени они простаивают, пока вы платите ежемесячную подписку за отправку вопросов на чужой сервер.
Off Grid AI это меняет. Запускайте Qwen 3.5, Gemma 4, Mistral и другие сильные модели прямо на iPhone: офлайн, приватно и без регулярных платежей. Вычисления идут через llama.cpp с ускорением Metal.
Требования
- iPhone 12 или новее (A14 Bionic или новее)
- iOS 17 или новее
- Минимум 3 ГБ свободного места
- Интернет один раз, для загрузки модели
Шаг 1: установите Off Grid AI
Шаг 2: выберите модель
Все модели используют квантование Q4_K_M: лучший баланс качества и размера для телефона.
| Модель | Мин. iPhone | ОЗУ | Размер | Подходит для |
|---|---|---|---|---|
| Qwen 3.5 0.8B | iPhone 12 | 3GB | ~0.8GB | Очень быстрая, контекст 262K |
| Qwen 3.5 2B | iPhone 12 | 4GB | ~1.7GB | Лучший выбор для устройств с 4–6 ГБ |
| Gemma 4 E2B | iPhone 12 | 4GB | ~1.5GB | Зрение и режим размышления |
| Mistral 7B | iPhone 14 | 6GB | ~4.1GB | Быстрая и надёжная на все случаи |
| Gemma 4 E4B | iPhone 14 | 6GB | ~2.5GB | Рассуждения и зрение, режим размышления |
| Qwen 3.5 9B | iPhone 15 Pro | 8GB | ~5.5GB | Лучшее качество на устройстве |
iPhone 12 или 13: начните с Qwen 3.5 2B. iPhone 15 Pro или 16: попробуйте Qwen 3.5 9B.
Шаг 3: скачайте, загрузите, общайтесь
- Откройте Off Grid AI → Models
- Нажмите на модель → Download
- Нажмите Load: модель загружается через Metal (GPU-фреймворк Apple)
- Откройте Chat
Теперь ИИ работает локально на Apple Silicon. Ваши чаты никогда не покидают телефон.
Почему iPhone отлично подходит для локального ИИ
У iPhone есть важное преимущество: общая память. GPU Metal и процессор используют одну и ту же память, поэтому модели грузятся быстрее, а вычисления эффективнее, чем на устройствах, где работает только процессор.
Qwen 3.5 2B на iPhone 14 выдаёт около 20–30 токенов в секунду. Этого хватает для плавного разговора.
Режим размышления (Qwen 3.5, Gemma 4) особенно хорошо работает на iPhone: ускорение Metal не даёт длинным рассуждениям тормозить.
Производительность по устройствам
| iPhone | ОЗУ | Рекомендуемая модель | Примерно токенов/с |
|---|---|---|---|
| iPhone 16 Pro Max | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 16 / 16 Plus | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 15 Pro | 8GB | Qwen 3.5 9B | 15–25 |
| iPhone 14 Pro | 6GB | Gemma 4 E4B | 15–22 |
| iPhone 14 | 6GB | Qwen 3.5 2B | 20–30 |
| iPhone 13 | 4GB | Qwen 3.5 2B | 18–26 |
| iPhone 12 | 4GB | Qwen 3.5 0.8B | 25–40 |
Другие руководства
- Как запускать LLM локально на телефоне с Android в 2026 году
- Какую модель выбрать?
- Как запустить Stable Diffusion на iPhone
- Компьютерное зрение: анализ изображений на устройстве