Nesta página
Qual modelo devo usar?
Estas recomendações falam dos modelos que vêm no Off Grid AI, não de sugestões genéricas, e saem direto do catálogo de modelos do app. A quantização padrão é Q4_K_M em todos.
Escolha rápida pela RAM
| RAM do seu aparelho | Melhor modelo de texto | Melhor modelo de visão |
|---|---|---|
| 3GB | Qwen 3.5 0.8B | SmolVLM2 500M |
| 4GB | Qwen 3.5 2B | Gemma 4 E2B |
| 6GB | Gemma 4 E4B ou Phi-4 Mini | Gemma 4 E4B |
| 8GB+ | Qwen 3.5 9B | Qwen 3.5 9B |
Catálogo completo de modelos
Modelos de texto
| Modelo | Parâmetros | RAM mínima | Contexto | Ideal para |
|---|---|---|---|---|
| SmolLM2 360M | 0.36B | 3GB | 8K | Ultraleve, só para aparelhos com pouca RAM |
| Qwen 3.5 0.8B | 0.8B | 3GB | 262K | Respostas rápidas e contexto longo em aparelhos de entrada |
| Qwen 3.5 2B | 2B | 4GB | 262K | O melhor modelo geral para aparelhos de 4 GB |
| SmolLM3 3B | 3B | 6GB | 128K | Feito para aparelhos com recursos limitados |
| Phi-4 Mini | 3.8B | 6GB | 128K | Raciocínio, matemática, tarefas estruturadas |
| Mistral 7B | 7B | 6GB | 32K | Rápido e confiável para tudo |
| Qwen 3.5 9B | 9B | 8GB | 262K | A melhor qualidade no aparelho |
Modelos de visão (enxergam imagens)
| Modelo | Parâmetros | RAM mínima | Ideal para |
|---|---|---|---|
| SmolVLM2 500M | 0.5B | 3GB | Modelo de visão minúsculo para aparelhos com pouca RAM |
| SmolVLM 2B | 2B | 4GB | Tarefas gerais de visão em intermediários |
| SmolVLM2 2.2B | 2.2B | 4GB | Visão e compreensão de vídeo |
| Gemma 4 E2B | 2B (MoE) | 4GB | A melhor visão para aparelhos de 4 GB, modo de raciocínio |
| Gemma 4 E4B | 4B (MoE) | 6GB | O raciocínio e a visão mais fortes, modo de raciocínio |
O Gemma 4 usa uma arquitetura Mixture-of-Experts (MoE). O número efetivo de parâmetros é menor do que parece, por isso ele cabe em menos RAM do que você esperaria e ainda entrega qualidade acima da categoria.
O que é o modo de raciocínio?
Os modelos Qwen 3.5 e Gemma 4 têm modo de raciocínio: o modelo resolve o problema passo a passo antes de dar a resposta final. Parecido com o prompting de cadeia de pensamento, só que embutido no modelo.
Use para raciocínio complexo, matemática e problemas de várias etapas. Pule em perguntas rápidas, resumos e papo casual, porque ele é mais lento.
Entendendo o Q4_K_M
O Off Grid AI usa quantização Q4_K_M por padrão em todos os modelos. Isso significa:
- cerca de 4,5 bits por peso
- cerca de 5 a 8% de perda de qualidade em relação ao original de precisão total
- cerca de 50 a 60% menor que a versão float16
- recomendado pela comunidade do llama.cpp como o melhor equilíbrio para celular
Não desça abaixo de Q4_K_S a não ser que esteja com muito pouco espaço. Modelos Q2 e Q3 perdem qualidade de forma visível.
Limites de segurança de RAM
O Off Grid AI verifica sozinho se um modelo cabe com segurança antes de carregar:
- Aparelhos com 4 GB de RAM: orçamento do modelo = 40% da RAM total
- Aparelhos com 6 GB ou mais: orçamento do modelo = 60% da RAM total
- Modelos de texto precisam de cerca de 1,5 vez o próprio tamanho em RAM (cache KV e ativações)
- Modelos de imagem precisam de cerca de 1,5 vez no iOS (CoreML) e 1,8 vez no Android (Vulkan)
Se um modelo aparece como incompatível com seu aparelho, é por isso.
Perguntas frequentes
Qual é o melhor modelo para um celular com 4 GB de RAM? Qwen 3.5 2B (Q4_K_M). Para visão, Gemma 4 E2B.
Qual quantização o Off Grid AI usa por padrão? Q4_K_M por padrão, o melhor equilíbrio entre qualidade e tamanho para celular.
Qual é o melhor modelo para raciocinar no aparelho? Gemma 4 E4B (6 GB de RAM) ou Qwen 3.5 9B (8 GB de RAM). Os dois têm modo de raciocínio.
Mais guias
- Como rodar LLMs localmente no seu celular Android em 2026
- Como rodar LLMs localmente no iPhone em 2026
- IA de visão: analise imagens e documentos