GuiaModelos e desempenhoCelular3 min de leitura

Nesta página
  1. Escolha rápida pela RAM
  2. Catálogo completo de modelos
  3. O que é o modo de raciocínio?
  4. Entendendo o Q4_K_M
  5. Limites de segurança de RAM
  6. Perguntas frequentes
  7. Mais guias
  8. Off Grid AI comparado

Qual modelo devo usar?

Estas recomendações falam dos modelos que vêm no Off Grid AI, não de sugestões genéricas, e saem direto do catálogo de modelos do app. A quantização padrão é Q4_K_M em todos.


Escolha rápida pela RAM

RAM do seu aparelho Melhor modelo de texto Melhor modelo de visão
3GB Qwen 3.5 0.8B SmolVLM2 500M
4GB Qwen 3.5 2B Gemma 4 E2B
6GB Gemma 4 E4B ou Phi-4 Mini Gemma 4 E4B
8GB+ Qwen 3.5 9B Qwen 3.5 9B

Catálogo completo de modelos

Modelos de texto

Modelo Parâmetros RAM mínima Contexto Ideal para
SmolLM2 360M 0.36B 3GB 8K Ultraleve, só para aparelhos com pouca RAM
Qwen 3.5 0.8B 0.8B 3GB 262K Respostas rápidas e contexto longo em aparelhos de entrada
Qwen 3.5 2B 2B 4GB 262K O melhor modelo geral para aparelhos de 4 GB
SmolLM3 3B 3B 6GB 128K Feito para aparelhos com recursos limitados
Phi-4 Mini 3.8B 6GB 128K Raciocínio, matemática, tarefas estruturadas
Mistral 7B 7B 6GB 32K Rápido e confiável para tudo
Qwen 3.5 9B 9B 8GB 262K A melhor qualidade no aparelho

Modelos de visão (enxergam imagens)

Modelo Parâmetros RAM mínima Ideal para
SmolVLM2 500M 0.5B 3GB Modelo de visão minúsculo para aparelhos com pouca RAM
SmolVLM 2B 2B 4GB Tarefas gerais de visão em intermediários
SmolVLM2 2.2B 2.2B 4GB Visão e compreensão de vídeo
Gemma 4 E2B 2B (MoE) 4GB A melhor visão para aparelhos de 4 GB, modo de raciocínio
Gemma 4 E4B 4B (MoE) 6GB O raciocínio e a visão mais fortes, modo de raciocínio

O Gemma 4 usa uma arquitetura Mixture-of-Experts (MoE). O número efetivo de parâmetros é menor do que parece, por isso ele cabe em menos RAM do que você esperaria e ainda entrega qualidade acima da categoria.


O que é o modo de raciocínio?

Os modelos Qwen 3.5 e Gemma 4 têm modo de raciocínio: o modelo resolve o problema passo a passo antes de dar a resposta final. Parecido com o prompting de cadeia de pensamento, só que embutido no modelo.

Use para raciocínio complexo, matemática e problemas de várias etapas. Pule em perguntas rápidas, resumos e papo casual, porque ele é mais lento.


Entendendo o Q4_K_M

O Off Grid AI usa quantização Q4_K_M por padrão em todos os modelos. Isso significa:

  • cerca de 4,5 bits por peso
  • cerca de 5 a 8% de perda de qualidade em relação ao original de precisão total
  • cerca de 50 a 60% menor que a versão float16
  • recomendado pela comunidade do llama.cpp como o melhor equilíbrio para celular

Não desça abaixo de Q4_K_S a não ser que esteja com muito pouco espaço. Modelos Q2 e Q3 perdem qualidade de forma visível.


Limites de segurança de RAM

O Off Grid AI verifica sozinho se um modelo cabe com segurança antes de carregar:

  • Aparelhos com 4 GB de RAM: orçamento do modelo = 40% da RAM total
  • Aparelhos com 6 GB ou mais: orçamento do modelo = 60% da RAM total
  • Modelos de texto precisam de cerca de 1,5 vez o próprio tamanho em RAM (cache KV e ativações)
  • Modelos de imagem precisam de cerca de 1,5 vez no iOS (CoreML) e 1,8 vez no Android (Vulkan)

Se um modelo aparece como incompatível com seu aparelho, é por isso.


Perguntas frequentes

Qual é o melhor modelo para um celular com 4 GB de RAM? Qwen 3.5 2B (Q4_K_M). Para visão, Gemma 4 E2B.

Qual quantização o Off Grid AI usa por padrão? Q4_K_M por padrão, o melhor equilíbrio entre qualidade e tamanho para celular.

Qual é o melhor modelo para raciocinar no aparelho? Gemma 4 E4B (6 GB de RAM) ou Qwen 3.5 9B (8 GB de RAM). Os dois têm modo de raciocínio.


Mais guias

Off Grid AI comparado

ISSO AJUDOU?
NOVIDADES DO CRIADOR