En esta página
Base de conocimiento y RAG: búsqueda de documentos en el dispositivo
Cada proyecto de Off Grid AI puede tener su propia base de conocimiento. Sube PDF, archivos de texto o código: la app los procesa por completo en el dispositivo y los hace consultables en tus conversaciones.
Es generación aumentada por recuperación (RAG) totalmente en local. Ningún documento sale de tu dispositivo, y la analítica opcional nunca incluye nombres de archivo.
Cómo funciona
Tu documento
→ Extracción de texto (PDF o texto plano)
→ División en fragmentos (por párrafos, con ventana deslizante de respaldo)
→ Embedding (all-MiniLM-L6-v2-Q8_0.gguf, incluido en la app)
→ Guardado en SQLite en el dispositivo
Cuando haces una pregunta:
→ Tu pregunta pasa por el mismo modelo MiniLM
→ Se calcula la similitud coseno con todos los fragmentos
→ Los fragmentos más relevantes van al LLM como contexto
→ El LLM responde usando tu documento como fuente
La herramienta search_knowledge_base se añade sola a cualquier conversación de un proyecto con documentos. Los modelos compatibles la llaman cuando necesitan información de tus documentos.
Configurar una base de conocimiento
- Abre Off Grid AI → Projects
- Crea un proyecto nuevo o toca uno existente
- Toca Knowledge Base → Add Document
- Elige un PDF o un archivo de texto de tu dispositivo
Off Grid AI extrae el texto y lo procesa. Tarda unos segundos por documento, según su longitud.
Formatos compatibles
- PDF: extracción nativa con las API de la plataforma (PDFKit en iOS, PdfRenderer en Android)
- Archivos de texto:
.txt,.md,.log - Código:
.py,.js,.ts,.java,.swift,.kt,.go,.rs,.sql,.shy más - Archivos de datos:
.csv,.json,.xml,.yaml,.toml,.html
Usar la base de conocimiento en la conversación
Con documentos añadidos, los modelos compatibles llaman a search_knowledge_base solos cuando necesitan información. Verás la llamada dentro del chat.
También puedes pedirlo de forma explícita:
“Busca en mi base de conocimiento todo lo que haya sobre el onboarding”
“Según el documento de arquitectura que subí, explica cómo funciona el servicio de descargas”
Modelo de embeddings
all-MiniLM-L6-v2-Q8_0.gguf viene incluido en Off Grid AI (unos 24 MB). Siempre está disponible, no requiere descarga y es tan rápido que procesar un PDF de 20 páginas tarda menos de 10 segundos en un teléfono moderno.
¿Qué LLM pueden buscar en la base de conocimiento?
Cualquier modelo con llamadas a herramientas puede usar la base de conocimiento. La lista completa está en la guía de llamadas a herramientas.