PoradnikDokumenty i researchTelefon1 min czytania

Na tej stronie
  1. Jak to działa
  2. Jak założyć bazę wiedzy
  3. Obsługiwane formaty
  4. Baza wiedzy w rozmowie
  5. Model embeddingów
  6. Które LLM mogą przeszukiwać bazę wiedzy?
  7. Więcej poradników

Baza wiedzy i RAG: wyszukiwanie w dokumentach na urządzeniu

Każdy projekt w Off Grid AI może mieć własną bazę wiedzy. Dodaj PDF-y, pliki tekstowe albo kod: aplikacja przetwarza je w całości na urządzeniu i pozwala je przeszukiwać w rozmowach.

To generowanie wspomagane wyszukiwaniem (RAG) działające w pełni lokalnie. Żaden dokument nie opuszcza urządzenia, a opcjonalne statystyki nigdy nie zawierają nazw plików.


Jak to działa

Twój dokument
  → Wyciągnięcie tekstu (PDF lub zwykły tekst)
  → Podział na fragmenty (według akapitów, awaryjnie oknem przesuwnym)
  → Embedding (all-MiniLM-L6-v2-Q8_0.gguf, wbudowany w aplikację)
  → Zapis w SQLite na urządzeniu

Gdy zadajesz pytanie:
  → Pytanie przechodzi przez ten sam model MiniLM
  → Podobieństwo cosinusowe ze wszystkimi fragmentami
  → Najtrafniejsze fragmenty trafiają do LLM jako kontekst
  → LLM odpowiada, korzystając z twojego dokumentu

Narzędzie search_knowledge_base dodaje się samo do każdej rozmowy w projekcie z dokumentami. Zgodne modele wywołują je, gdy potrzebują informacji z twoich dokumentów.


Jak założyć bazę wiedzy

  1. Otwórz Off Grid AI → Projects
  2. Utwórz nowy projekt albo stuknij istniejący
  3. Stuknij Knowledge Base → Add Document
  4. Wybierz PDF lub plik tekstowy z urządzenia

Off Grid AI wyciąga tekst i go przetwarza. Zajmuje to kilka sekund na dokument, zależnie od długości.


Obsługiwane formaty

  • PDF: natywne wyciąganie tekstu przez API platformy (PDFKit na iOS, PdfRenderer na Androidzie)
  • Pliki tekstowe: .txt, .md, .log
  • Kod: .py, .js, .ts, .java, .swift, .kt, .go, .rs, .sql, .sh i inne
  • Pliki z danymi: .csv, .json, .xml, .yaml, .toml, .html

Baza wiedzy w rozmowie

Po dodaniu dokumentów zgodne modele same wywołują search_knowledge_base, gdy potrzebują informacji. Wywołanie zobaczysz w czacie.

Możesz też poprosić wprost:

“Przeszukaj moją bazę wiedzy pod kątem wszystkiego o onboardingu”

“Na podstawie dodanego dokumentu architektury wyjaśnij, jak działa usługa pobierania”


Model embeddingów

all-MiniLM-L6-v2-Q8_0.gguf jest dołączony do Off Grid AI (około 24 MB). Jest zawsze dostępny, nie wymaga pobierania i działa tak szybko, że 20-stronicowy PDF na nowym telefonie przetwarza się w mniej niż 10 sekund.


Które LLM mogą przeszukiwać bazę wiedzy?

Każdy model z wywoływaniem narzędzi może korzystać z bazy wiedzy. Pełna lista jest w poradniku o wywoływaniu narzędzi.


Więcej poradników

CZY TO POMOGŁO?
WIEŚCI OD TWÓRCY