На этой странице
Вы уже заплатили за железо, которое запускает ИИ-модели лучше большинства облачных сервисов. Возможно, вы просто ещё им не пользуетесь.
На Mac с Apple Silicon или ПК с приличной видеокартой можно локально запустить Qwen 3.5 9B. Эта модель обходит GPT-OSS-120B от OpenAI в нескольких бенчмарках и при этом в 13 раз меньше. Она работает на MacBook Air. После загрузки она ничего не стоит. Без подписки. Без API-ключа. Без данных, которые покидают компьютер.
Но есть проблема. Вы ставите LM Studio на ноутбук, скачиваете модель, общаетесь с ней. А потом встаёте из-за стола, берёте телефон и снова платите OpenAI 20 $ в месяц. Модель всё ещё работает. Ноутбук всё ещё включён. До него просто неудобно дотянуться.
Off Grid решает это. Приложение само находит серверы LM Studio в вашей сети и даёт пользоваться ими с телефона. Без IP-адресов. Без номеров портов. Без настройки.
Что понадобится
На компьютере:
- LM Studio, бесплатно для Mac, Windows и Linux
- Хотя бы одна загруженная модель (Qwen 3.5 9B, если у компьютера от 16 ГБ RAM)
На телефоне:
- Off Grid из App Store или Google Play
- Подключение к той же сети Wi-Fi, что и компьютер
Это всё.
Шаг 1: запустите сервер LM Studio
Откройте LM Studio. Нажмите вкладку Developer в левой панели. Загрузите нужную модель. Переключите сервер в положение “Start”.
Главное: отметьте пункт “Serve on Local Network”. Так ваш LM Studio станет доступен другим устройствам в Wi-Fi. Всё остальное LM Studio сделает сам: никаких правил брандмауэра, переменных окружения и команд в терминале.
Вверху вкладки Developer появится адрес вроде http://192.168.1.x:1234. Записывать его не нужно. Off Grid найдёт его сам.
Шаг 2: откройте Off Grid и запустите поиск
Откройте Off Grid на телефоне. Перейдите в раздел Remote Models. Нажмите Scan Network.
Off Grid ищет в локальной сети активные серверы на известных портах. Найдя ваш LM Studio, он забирает список всех загруженных моделей и показывает его. Нажмите на модель и начинайте общаться. Ответы приходят токен за токеном, как в интерфейсе самого LM Studio.
Вся настройка занимает меньше времени, чем регистрация в ChatGPT.
Как это выглядит на практике
Разница между моделью 3B на телефоне и моделью 9B на Mac заметна сразу. Это разница между помощником для простых вопросов и тем, кто умеет разбирать сложные задачи, хорошо пишет и понимает нюансы.
Qwen 3.5 9B на MacBook Pro с M2 и новее выдаёт 30-50 токенов в секунду. Этого достаточно, чтобы ответы казались мгновенными. А поскольку всё остаётся в локальной сети, задержка измеряется миллисекундами, а не сотнями миллисекунд, как у облачных API.
Что хорошо работает по сети и с трудом на самом устройстве:
Анализ длинных документов. Вставьте десятистраничный договор или научную статью и попросите краткое изложение. У модели 9B окно контекста 262 000 токенов. Модель 3B на телефоне с этим не справится.
Ревью кода. Покажите функцию и спросите, что может пойти не так. Модель 9B находит граничные случаи и предлагает улучшения, которые маленькие модели пропускают.
Отзывы на тексты. Напишите письмо или питч, вставьте его и спросите, верный ли тон. Большая модель замечает тонкости, которые маленькие сглаживают.
Работа на разных языках. Qwen 3.5 поддерживает 201 язык. Если вы работаете с несколькими языками, модель 9B заметно лучше справляется с переводом и рассуждениями между языками, чем всё, что помещается в память телефона.
Почему не пользоваться чатом самого LM Studio?
Можно. У LM Studio отличный чат на компьютере. Но компьютер стоит в одной комнате, а телефон всегда с вами.
Смысл не в том, чтобы заменить LM Studio, а в том, чтобы его расширить. Ваш Mac становится личным ИИ-сервером, телефон становится пультом. Вы получаете качество настольной модели с удобством мобильного приложения.
А поскольку Off Grid запускает модели и прямо на телефоне, у вас есть запасной вариант. Вышли из зоны Wi-Fi, и работу подхватывает модель на устройстве. Вернулись домой, и модели LM Studio снова доступны. Можно даже сменить модель посреди разговора: начать в дороге с 2B на телефоне, а дома передать разговор 9B на Mac, всё в одном чате.
Кроме чата, Off Grid поддерживает проекты со встроенной базой знаний и RAG. Прикрепите документы к проекту, и любая модель, на телефоне или на Mac, сможет искать по ним, отвечая на вопросы. Есть и вызов инструментов: модели с поддержкой функций сами связывают веб-поиск, калькулятор, дату и время и сведения об устройстве. Всё локально, всё приватно.
Сколько вы экономите
ChatGPT Plus стоит 20 $ в месяц. Это 240 $ в год за модели, которые во многих повседневных задачах не так уж сильно лучше того, что Qwen 3.5 9B делает локально.
Claude Pro тоже стоит 20 $ в месяц. Та же арифметика.
Если у вас уже есть Mac с Apple Silicon, а он есть у всех, кто покупал Mac за последние три года, локальный ИИ не стоит вам ничего сверху. Электричество для включённого ноутбука почти незаметно. Модель скачивается бесплатно. LM Studio бесплатный. Off Grid бесплатный.
Вы не покупаете “Mac Mini как ИИ-сервер” и не строите домашнюю лабораторию. Вы пользуетесь ноутбуком, который у вас уже есть, и телефоном, который и так всегда с собой.
Попробуйте
- iPhone: App Store
- Android: Google Play
Если LM Studio ещё не настроен, это займёт минут пять. Скачайте, найдите в браузере моделей “Qwen 3.5 9B”, загрузите и запустите сервер. Потом откройте Off Grid и запустите поиск. Вы будете общаться с моделью уровня облачного ИИ с телефона, в своей сети, и ваши чаты никогда не покинут дом.