РуководствоМодели и производительностьiPhone2 мин чтения

На этой странице
  1. Требования
  2. Шаг 1: установите Off Grid AI
  3. Шаг 2: выберите модель
  4. Шаг 3: скачайте, загрузите, общайтесь
  5. Почему iPhone отлично подходит для локального ИИ
  6. Производительность по устройствам
  7. Другие руководства
  8. Off Grid AI в сравнении

Как запускать LLM локально на iPhone в 2026 году (полностью офлайн, без подписки)

GPU Metal и Neural Engine от Apple есть в каждом iPhone с 2017 года. Это отдельные ускорители ИИ, и большую часть времени они простаивают, пока вы платите ежемесячную подписку за отправку вопросов на чужой сервер.

Off Grid AI это меняет. Запускайте Qwen 3.5, Gemma 4, Mistral и другие сильные модели прямо на iPhone: офлайн, приватно и без регулярных платежей. Вычисления идут через llama.cpp с ускорением Metal.


Требования

  • iPhone 12 или новее (A14 Bionic или новее)
  • iOS 17 или новее
  • Минимум 3 ГБ свободного места
  • Интернет один раз, для загрузки модели

Шаг 1: установите Off Grid AI

Скачать в App Store


Шаг 2: выберите модель

Все модели используют квантование Q4_K_M: лучший баланс качества и размера для телефона.

Модель Мин. iPhone ОЗУ Размер Подходит для
Qwen 3.5 0.8B iPhone 12 3GB ~0.8GB Очень быстрая, контекст 262K
Qwen 3.5 2B iPhone 12 4GB ~1.7GB Лучший выбор для устройств с 4–6 ГБ
Gemma 4 E2B iPhone 12 4GB ~1.5GB Зрение и режим размышления
Mistral 7B iPhone 14 6GB ~4.1GB Быстрая и надёжная на все случаи
Gemma 4 E4B iPhone 14 6GB ~2.5GB Рассуждения и зрение, режим размышления
Qwen 3.5 9B iPhone 15 Pro 8GB ~5.5GB Лучшее качество на устройстве

iPhone 12 или 13: начните с Qwen 3.5 2B. iPhone 15 Pro или 16: попробуйте Qwen 3.5 9B.


Шаг 3: скачайте, загрузите, общайтесь

  1. Откройте Off Grid AI → Models
  2. Нажмите на модель → Download
  3. Нажмите Load: модель загружается через Metal (GPU-фреймворк Apple)
  4. Откройте Chat

Теперь ИИ работает локально на Apple Silicon. Ваши чаты никогда не покидают телефон.


Почему iPhone отлично подходит для локального ИИ

У iPhone есть важное преимущество: общая память. GPU Metal и процессор используют одну и ту же память, поэтому модели грузятся быстрее, а вычисления эффективнее, чем на устройствах, где работает только процессор.

Qwen 3.5 2B на iPhone 14 выдаёт около 20–30 токенов в секунду. Этого хватает для плавного разговора.

Режим размышления (Qwen 3.5, Gemma 4) особенно хорошо работает на iPhone: ускорение Metal не даёт длинным рассуждениям тормозить.


Производительность по устройствам

iPhone ОЗУ Рекомендуемая модель Примерно токенов/с
iPhone 16 Pro Max 8GB Qwen 3.5 9B 18–28
iPhone 16 / 16 Plus 8GB Qwen 3.5 9B 18–28
iPhone 15 Pro 8GB Qwen 3.5 9B 15–25
iPhone 14 Pro 6GB Gemma 4 E4B 15–22
iPhone 14 6GB Qwen 3.5 2B 20–30
iPhone 13 4GB Qwen 3.5 2B 18–26
iPhone 12 4GB Qwen 3.5 0.8B 25–40

Другие руководства

Off Grid AI в сравнении

БЫЛО ПОЛЕЗНО?
НОВОСТИ ОТ СОЗДАТЕЛЯ