GuidaDocumenti e ricercaTelefono2 min di lettura

In questa pagina
  1. Come funziona
  2. Creare una base di conoscenza
  3. Formati supportati
  4. Usare la base di conoscenza in conversazione
  5. Modello di embedding
  6. Quali LLM possono cercare nella base di conoscenza?
  7. Altre guide

Base di conoscenza e RAG: ricerca nei documenti sul dispositivo

Ogni progetto di Off Grid AI può avere la sua base di conoscenza. Carica PDF, file di testo o codice: l’app li elabora interamente sul dispositivo e li rende consultabili nelle conversazioni.

È generazione aumentata dal recupero (RAG) completamente in locale. Nessun documento lascia il dispositivo, e le statistiche facoltative non includono mai i nomi dei file.


Come funziona

Il tuo documento
  → Estrazione del testo (PDF o testo semplice)
  → Suddivisione in frammenti (per paragrafi, con finestra scorrevole di riserva)
  → Embedding (all-MiniLM-L6-v2-Q8_0.gguf, incluso nell’app)
  → Salvataggio in SQLite sul dispositivo

Quando fai una domanda:
  → La domanda passa dallo stesso modello MiniLM
  → Similarità del coseno con tutti i frammenti
  → I frammenti più rilevanti vanno all’LLM come contesto
  → L’LLM risponde usando il tuo documento come fonte

Lo strumento search_knowledge_base viene aggiunto in automatico a ogni conversazione di un progetto con documenti. I modelli compatibili lo chiamano quando hanno bisogno di informazioni dai tuoi documenti.


Creare una base di conoscenza

  1. Apri Off Grid AI → Projects
  2. Crea un nuovo progetto o tocca uno esistente
  3. Tocca Knowledge Base → Add Document
  4. Scegli un PDF o un file di testo dal dispositivo

Off Grid AI estrae il testo e lo elabora. Servono pochi secondi per documento, in base alla lunghezza.


Formati supportati

  • PDF: estrazione nativa con le API della piattaforma (PDFKit su iOS, PdfRenderer su Android)
  • File di testo: .txt, .md, .log
  • Codice: .py, .js, .ts, .java, .swift, .kt, .go, .rs, .sql, .sh e altri
  • File di dati: .csv, .json, .xml, .yaml, .toml, .html

Usare la base di conoscenza in conversazione

Una volta aggiunti i documenti, i modelli compatibili chiamano search_knowledge_base da soli quando serve. Vedi la chiamata direttamente in chat.

Puoi anche chiederlo in modo esplicito:

“Cerca nella mia base di conoscenza tutto ciò che riguarda l’onboarding”

“In base al documento di architettura caricato, spiega come funziona il servizio di download”


Modello di embedding

all-MiniLM-L6-v2-Q8_0.gguf è incluso in Off Grid AI (circa 24 MB). È sempre disponibile, non richiede download ed è abbastanza veloce da elaborare un PDF di 20 pagine in meno di 10 secondi su un telefono recente.


Quali LLM possono cercare nella base di conoscenza?

Qualsiasi modello con chiamate agli strumenti può usare la base di conoscenza. L’elenco completo è nella guida alle chiamate agli strumenti.


Altre guide

TI È STATO UTILE?
NOVITÀ DAL CREATORE