GuiaDocumentos e pesquisaCelular2 min de leitura

Nesta página
  1. Como funciona
  2. Como montar uma base de conhecimento
  3. Formatos aceitos
  4. Usar a base de conhecimento na conversa
  5. Modelo de embeddings
  6. Quais LLMs fazem busca na base de conhecimento?
  7. Mais guias

Base de conhecimento e RAG: busca em documentos no aparelho

Cada projeto do Off Grid AI pode ter sua própria base de conhecimento. Envie PDFs, arquivos de texto ou código: o app processa tudo no aparelho e deixa pesquisável nas suas conversas.

É geração aumentada por recuperação (RAG) rodando 100% local. Nenhum documento sai do seu aparelho, e a análise de uso opcional nunca inclui nomes de arquivo.


Como funciona

Seu documento
  → Extração de texto (PDF ou texto puro)
  → Divisão em trechos (por parágrafo, com janela deslizante de reserva)
  → Embedding (all-MiniLM-L6-v2-Q8_0.gguf, embutido no app)
  → Gravado em SQLite no aparelho

Quando você faz uma pergunta:
  → Sua pergunta passa pelo mesmo modelo MiniLM
  → Similaridade de cosseno com todos os trechos
  → Os trechos mais relevantes vão para o LLM como contexto
  → O LLM responde usando seu documento como fonte

A ferramenta search_knowledge_base entra automaticamente em toda conversa de um projeto com documentos. Os modelos compatíveis chamam a ferramenta quando precisam de informação dos seus documentos.


Como montar uma base de conhecimento

  1. Abra o Off Grid AI → Projects
  2. Crie um projeto novo ou toque em um existente
  3. Toque em Knowledge Base → Add Document
  4. Escolha um PDF ou arquivo de texto do aparelho

O Off Grid AI extrai o texto e processa. Leva alguns segundos por documento, conforme o tamanho.


Formatos aceitos

  • PDF: extração nativa pelas APIs da plataforma (PDFKit no iOS, PdfRenderer no Android)
  • Arquivos de texto: .txt, .md, .log
  • Código: .py, .js, .ts, .java, .swift, .kt, .go, .rs, .sql, .sh e outros
  • Arquivos de dados: .csv, .json, .xml, .yaml, .toml, .html

Usar a base de conhecimento na conversa

Com os documentos adicionados, os modelos compatíveis chamam search_knowledge_base sozinhos quando precisam de informação. Você vê a chamada no próprio chat.

Você também pode pedir diretamente:

“Procure na minha base de conhecimento tudo sobre o fluxo de onboarding”

“Com base no documento de arquitetura enviado, explique como funciona o serviço de download”


Modelo de embeddings

O all-MiniLM-L6-v2-Q8_0.gguf já vem no Off Grid AI (cerca de 24 MB). Está sempre disponível, não precisa de download e é rápido: um PDF de 20 páginas é processado em menos de 10 segundos num celular moderno.


Quais LLMs fazem busca na base de conhecimento?

Qualquer modelo com chamada de ferramentas pode usar a base de conhecimento. A lista completa está no guia de chamada de ferramentas.


Mais guias

ISSO AJUDOU?
NOVIDADES DO CRIADOR