Nesta página
Base de conhecimento e RAG: busca em documentos no aparelho
Cada projeto do Off Grid AI pode ter sua própria base de conhecimento. Envie PDFs, arquivos de texto ou código: o app processa tudo no aparelho e deixa pesquisável nas suas conversas.
É geração aumentada por recuperação (RAG) rodando 100% local. Nenhum documento sai do seu aparelho, e a análise de uso opcional nunca inclui nomes de arquivo.
Como funciona
Seu documento
→ Extração de texto (PDF ou texto puro)
→ Divisão em trechos (por parágrafo, com janela deslizante de reserva)
→ Embedding (all-MiniLM-L6-v2-Q8_0.gguf, embutido no app)
→ Gravado em SQLite no aparelho
Quando você faz uma pergunta:
→ Sua pergunta passa pelo mesmo modelo MiniLM
→ Similaridade de cosseno com todos os trechos
→ Os trechos mais relevantes vão para o LLM como contexto
→ O LLM responde usando seu documento como fonte
A ferramenta search_knowledge_base entra automaticamente em toda conversa de um projeto com documentos. Os modelos compatíveis chamam a ferramenta quando precisam de informação dos seus documentos.
Como montar uma base de conhecimento
- Abra o Off Grid AI → Projects
- Crie um projeto novo ou toque em um existente
- Toque em Knowledge Base → Add Document
- Escolha um PDF ou arquivo de texto do aparelho
O Off Grid AI extrai o texto e processa. Leva alguns segundos por documento, conforme o tamanho.
Formatos aceitos
- PDF: extração nativa pelas APIs da plataforma (PDFKit no iOS, PdfRenderer no Android)
- Arquivos de texto:
.txt,.md,.log - Código:
.py,.js,.ts,.java,.swift,.kt,.go,.rs,.sql,.she outros - Arquivos de dados:
.csv,.json,.xml,.yaml,.toml,.html
Usar a base de conhecimento na conversa
Com os documentos adicionados, os modelos compatíveis chamam search_knowledge_base sozinhos quando precisam de informação. Você vê a chamada no próprio chat.
Você também pode pedir diretamente:
“Procure na minha base de conhecimento tudo sobre o fluxo de onboarding”
“Com base no documento de arquitetura enviado, explique como funciona o serviço de download”
Modelo de embeddings
O all-MiniLM-L6-v2-Q8_0.gguf já vem no Off Grid AI (cerca de 24 MB). Está sempre disponível, não precisa de download e é rápido: um PDF de 20 páginas é processado em menos de 10 segundos num celular moderno.
Quais LLMs fazem busca na base de conhecimento?
Qualquer modelo com chamada de ferramentas pode usar a base de conhecimento. A lista completa está no guia de chamada de ferramentas.