Op deze pagina
Kennisbank en RAG: documenten doorzoeken op je apparaat
Elk project in Off Grid AI kan een eigen kennisbank hebben. Upload pdf’s, tekstbestanden of code: de app verwerkt ze volledig op je apparaat en maakt ze doorzoekbaar in je gesprekken.
Dit is retrieval-augmented generation (RAG), helemaal lokaal. Geen document verlaat je apparaat, en optionele statistieken bevatten nooit bestandsnamen.
Zo werkt het
Je document
→ Tekst uitlezen (pdf of platte tekst)
→ Opdelen in stukken (per alinea, met schuivend venster als reserve)
→ Embedden (all-MiniLM-L6-v2-Q8_0.gguf, meegeleverd met de app)
→ Opslaan in SQLite op het apparaat
Als je een vraag stelt:
→ Je vraag gaat door hetzelfde MiniLM-model
→ Cosinusgelijkenis met alle stukken
→ De meest relevante stukken gaan als context naar het LLM
→ Het LLM antwoordt met jouw document als bron
De tool search_knowledge_base wordt automatisch toegevoegd aan elk gesprek in een project met documenten. Geschikte modellen roepen hem zelf aan als ze informatie uit je documenten nodig hebben.
Een kennisbank instellen
- Open Off Grid AI → Projects
- Maak een nieuw project of tik op een bestaand project
- Tik op Knowledge Base → Add Document
- Kies een pdf of tekstbestand op je apparaat
Off Grid AI leest de tekst uit en verwerkt die. Dat duurt per document een paar seconden, afhankelijk van de lengte.
Ondersteunde formaten
- Pdf: native tekst uitlezen via de platform-API’s (PDFKit op iOS, PdfRenderer op Android)
- Tekstbestanden:
.txt,.md,.log - Code:
.py,.js,.ts,.java,.swift,.kt,.go,.rs,.sql,.shen meer - Databestanden:
.csv,.json,.xml,.yaml,.toml,.html
De kennisbank gebruiken in een gesprek
Zodra er documenten in staan, roepen geschikte modellen search_knowledge_base zelf aan als ze informatie nodig hebben. Je ziet de aanroep gewoon in de chat.
Je kunt het ook expliciet vragen:
“Zoek in mijn kennisbank alles over de onboarding”
“Leg op basis van het geüploade architectuurdocument uit hoe de downloadservice werkt”
Embeddingmodel
all-MiniLM-L6-v2-Q8_0.gguf zit in Off Grid AI (ongeveer 24 MB). Het is er altijd, zonder download, en snel genoeg om een pdf van 20 pagina’s op een moderne telefoon in minder dan 10 seconden te verwerken.
Welke LLM’s kunnen in de kennisbank zoeken?
Elk model met tool-aanroepen kan de kennisbank gebruiken. De volledige lijst staat in de handleiding over tool-aanroepen.