На этой странице
Qwen 3.5 сейчас самое сильное семейство небольших моделей с открытыми весами. Малая серия (0.8B, 2B, 4B, 9B) с самого начала создавалась для работы на устройствах, а не дистиллировалась из большой модели. Она сочетает Gated Delta Networks с разреженной смесью экспертов (MoE), знает более 200 языков и держит контекст до 262K. И её можно запустить локально на вашем Android-телефоне.
Off Grid это бесплатное приложение с открытым кодом, которое запускает Qwen 3.5 и другие GGUF-модели целиком на железе вашего телефона. Без облака. Без аккаунта. Ни один байт данных не покидает устройство.
| Play Маркет | GitHub |
Какая модель Qwen 3.5 подойдёт вашему телефону
Qwen3.5-0.8B (Q4_K_M), около 500 МБ. Подойдёт любому телефону с 4 ГБ ОЗУ и больше. Создана для устройств. Быстрая: 15–25 токенов в секунду на среднем железе. Для своего размера очень толковая благодаря архитектуре MoE, которая включает лишь часть параметров на каждый токен.
Qwen3.5-2B (Q4_K_M), около 1,2 ГБ. Лучший выбор для телефонов с 6–8 ГБ ОЗУ. Рассуждает заметно лучше, чем 0.8B. 10–18 токенов в секунду на свежих Snapdragon. Хороша для текстов, кода и работы на разных языках.
Qwen3.5-4B (Q4_K_M), около 2,5 ГБ. Нужно 8 ГБ ОЗУ и больше. Здесь Qwen 3.5 начинает по-настоящему впечатлять. Гибридная архитектура позволяет ей выдавать гораздо больше, чем обещает число параметров. Многошаговые рассуждения, подробный анализ, генерация кода.
Qwen3.5-9B (Q4_K_M), около 5 ГБ. Нужно 12 ГБ ОЗУ и больше. В бенчмарках соперничает с моделями в 20 раз крупнее. Если памяти хватает, это лучшая открытая модель, которую можно запустить локально.
Почему Qwen 3.5, а не другие модели
Гибридная архитектура. Qwen 3.5 Small не уменьшенная копия большой модели. Она сочетает Gated Delta Networks со смесью экспертов и на каждый токен включает только нужные параметры. Больше интеллекта на каждый байт ОЗУ, чем у классических плотных моделей.
Более 200 языков. Самая широкая поддержка языков среди открытых моделей такого размера. Если вы работаете на русском, хинди, арабском, японском или любом другом языке, кроме английского, Qwen 3.5 лучший вариант для телефона.
Контекст 262K. Прежние маленькие модели упирались в 8K–32K. Qwen 3.5 Small держит 262K токенов, так что ей можно давать целые документы и вести длинные разговоры, не теряя нить.
Режим размышлений. Переключайтесь между быстрыми ответами и пошаговыми рассуждениями. В режиме размышлений видно ход мыслей модели, и на сложных задачах результат получается лучше.
Мультимодальность. Qwen 3.5 сама по себе понимает текст, изображения и звук. Наведите камеру на предмет и спросите о нём.
Скорость на реальном железе
| Модель | Snapdragon 8 Gen 3 | Snapdragon 8 Gen 2 | Средний класс |
|---|---|---|---|
| Qwen3.5-0.8B | ~25 tok/s | ~20 tok/s | ~12 tok/s |
| Qwen3.5-2B | ~18 tok/s | ~14 tok/s | ~8 tok/s |
| Qwen3.5-4B | ~12 tok/s | ~10 tok/s | ~5 tok/s |
| Qwen3.5-9B | ~8 tok/s | ~6 tok/s | - |
Переключите KV-кэш на q4_0 в настройках, и скорость вырастет примерно втрое.
Как настроить Qwen 3.5 в Off Grid
- Установите Off Grid из Play Маркета
- Откройте каталог моделей: варианты Qwen 3.5 есть в рекомендуемых
- Выберите размер под объём ОЗУ
- Скачайте по Wi-Fi
- Начинайте общаться
Off Grid сам использует ускорение на NPU через QNN на Snapdragon 8 Gen 1 и новее, GPU Adreno через OpenCL на чипах постарше и CPU на всём остальном.
Приватность
Каждый ответ Qwen 3.5 считается на процессоре вашего телефона. После первой загрузки Off Grid не делает ни одного сетевого запроса. Включите режим полёта и проверьте сами. Всё работает.
Без аккаунтов. Открытый код.
Ещё Off Grid генерирует изображения, понимает фото, расшифровывает голос, пользуется инструментами и анализирует документы, и всё это на устройстве. Свежие версии ищите на GitHub.