In questa pagina
Base di conoscenza e RAG: ricerca nei documenti sul dispositivo
Ogni progetto di Off Grid AI può avere la sua base di conoscenza. Carica PDF, file di testo o codice: l’app li elabora interamente sul dispositivo e li rende consultabili nelle conversazioni.
È generazione aumentata dal recupero (RAG) completamente in locale. Nessun documento lascia il dispositivo, e le statistiche facoltative non includono mai i nomi dei file.
Come funziona
Il tuo documento
→ Estrazione del testo (PDF o testo semplice)
→ Suddivisione in frammenti (per paragrafi, con finestra scorrevole di riserva)
→ Embedding (all-MiniLM-L6-v2-Q8_0.gguf, incluso nell’app)
→ Salvataggio in SQLite sul dispositivo
Quando fai una domanda:
→ La domanda passa dallo stesso modello MiniLM
→ Similarità del coseno con tutti i frammenti
→ I frammenti più rilevanti vanno all’LLM come contesto
→ L’LLM risponde usando il tuo documento come fonte
Lo strumento search_knowledge_base viene aggiunto in automatico a ogni conversazione di un progetto con documenti. I modelli compatibili lo chiamano quando hanno bisogno di informazioni dai tuoi documenti.
Creare una base di conoscenza
- Apri Off Grid AI → Projects
- Crea un nuovo progetto o tocca uno esistente
- Tocca Knowledge Base → Add Document
- Scegli un PDF o un file di testo dal dispositivo
Off Grid AI estrae il testo e lo elabora. Servono pochi secondi per documento, in base alla lunghezza.
Formati supportati
- PDF: estrazione nativa con le API della piattaforma (PDFKit su iOS, PdfRenderer su Android)
- File di testo:
.txt,.md,.log - Codice:
.py,.js,.ts,.java,.swift,.kt,.go,.rs,.sql,.she altri - File di dati:
.csv,.json,.xml,.yaml,.toml,.html
Usare la base di conoscenza in conversazione
Una volta aggiunti i documenti, i modelli compatibili chiamano search_knowledge_base da soli quando serve. Vedi la chiamata direttamente in chat.
Puoi anche chiederlo in modo esplicito:
“Cerca nella mia base di conoscenza tutto ciò che riguarda l’onboarding”
“In base al documento di architettura caricato, spiega come funziona il servizio di download”
Modello di embedding
all-MiniLM-L6-v2-Q8_0.gguf è incluso in Off Grid AI (circa 24 MB). È sempre disponibile, non richiede download ed è abbastanza veloce da elaborare un PDF di 20 pagine in meno di 10 secondi su un telefono recente.
Quali LLM possono cercare nella base di conoscenza?
Qualsiasi modello con chiamate agli strumenti può usare la base di conoscenza. L’elenco completo è nella guida alle chiamate agli strumenti.