HandleidingDocumenten en onderzoekTelefoon2 min lezen

Op deze pagina
  1. Zo werkt het
  2. Een kennisbank instellen
  3. Ondersteunde formaten
  4. De kennisbank gebruiken in een gesprek
  5. Embeddingmodel
  6. Welke LLM’s kunnen in de kennisbank zoeken?
  7. Meer handleidingen

Kennisbank en RAG: documenten doorzoeken op je apparaat

Elk project in Off Grid AI kan een eigen kennisbank hebben. Upload pdf’s, tekstbestanden of code: de app verwerkt ze volledig op je apparaat en maakt ze doorzoekbaar in je gesprekken.

Dit is retrieval-augmented generation (RAG), helemaal lokaal. Geen document verlaat je apparaat, en optionele statistieken bevatten nooit bestandsnamen.


Zo werkt het

Je document
  → Tekst uitlezen (pdf of platte tekst)
  → Opdelen in stukken (per alinea, met schuivend venster als reserve)
  → Embedden (all-MiniLM-L6-v2-Q8_0.gguf, meegeleverd met de app)
  → Opslaan in SQLite op het apparaat

Als je een vraag stelt:
  → Je vraag gaat door hetzelfde MiniLM-model
  → Cosinusgelijkenis met alle stukken
  → De meest relevante stukken gaan als context naar het LLM
  → Het LLM antwoordt met jouw document als bron

De tool search_knowledge_base wordt automatisch toegevoegd aan elk gesprek in een project met documenten. Geschikte modellen roepen hem zelf aan als ze informatie uit je documenten nodig hebben.


Een kennisbank instellen

  1. Open Off Grid AI → Projects
  2. Maak een nieuw project of tik op een bestaand project
  3. Tik op Knowledge Base → Add Document
  4. Kies een pdf of tekstbestand op je apparaat

Off Grid AI leest de tekst uit en verwerkt die. Dat duurt per document een paar seconden, afhankelijk van de lengte.


Ondersteunde formaten

  • Pdf: native tekst uitlezen via de platform-API’s (PDFKit op iOS, PdfRenderer op Android)
  • Tekstbestanden: .txt, .md, .log
  • Code: .py, .js, .ts, .java, .swift, .kt, .go, .rs, .sql, .sh en meer
  • Databestanden: .csv, .json, .xml, .yaml, .toml, .html

De kennisbank gebruiken in een gesprek

Zodra er documenten in staan, roepen geschikte modellen search_knowledge_base zelf aan als ze informatie nodig hebben. Je ziet de aanroep gewoon in de chat.

Je kunt het ook expliciet vragen:

“Zoek in mijn kennisbank alles over de onboarding”

“Leg op basis van het geüploade architectuurdocument uit hoe de downloadservice werkt”


Embeddingmodel

all-MiniLM-L6-v2-Q8_0.gguf zit in Off Grid AI (ongeveer 24 MB). Het is er altijd, zonder download, en snel genoeg om een pdf van 20 pagina’s op een moderne telefoon in minder dan 10 seconden te verwerken.


Welke LLM’s kunnen in de kennisbank zoeken?

Elk model met tool-aanroepen kan de kennisbank gebruiken. De volledige lijst staat in de handleiding over tool-aanroepen.


Meer handleidingen

HEB JE HIER IETS AAN?
UPDATES VAN DE MAKER