Na tej stronie
Baza wiedzy i RAG: wyszukiwanie w dokumentach na urządzeniu
Każdy projekt w Off Grid AI może mieć własną bazę wiedzy. Dodaj PDF-y, pliki tekstowe albo kod: aplikacja przetwarza je w całości na urządzeniu i pozwala je przeszukiwać w rozmowach.
To generowanie wspomagane wyszukiwaniem (RAG) działające w pełni lokalnie. Żaden dokument nie opuszcza urządzenia, a opcjonalne statystyki nigdy nie zawierają nazw plików.
Jak to działa
Twój dokument
→ Wyciągnięcie tekstu (PDF lub zwykły tekst)
→ Podział na fragmenty (według akapitów, awaryjnie oknem przesuwnym)
→ Embedding (all-MiniLM-L6-v2-Q8_0.gguf, wbudowany w aplikację)
→ Zapis w SQLite na urządzeniu
Gdy zadajesz pytanie:
→ Pytanie przechodzi przez ten sam model MiniLM
→ Podobieństwo cosinusowe ze wszystkimi fragmentami
→ Najtrafniejsze fragmenty trafiają do LLM jako kontekst
→ LLM odpowiada, korzystając z twojego dokumentu
Narzędzie search_knowledge_base dodaje się samo do każdej rozmowy w projekcie z dokumentami. Zgodne modele wywołują je, gdy potrzebują informacji z twoich dokumentów.
Jak założyć bazę wiedzy
- Otwórz Off Grid AI → Projects
- Utwórz nowy projekt albo stuknij istniejący
- Stuknij Knowledge Base → Add Document
- Wybierz PDF lub plik tekstowy z urządzenia
Off Grid AI wyciąga tekst i go przetwarza. Zajmuje to kilka sekund na dokument, zależnie od długości.
Obsługiwane formaty
- PDF: natywne wyciąganie tekstu przez API platformy (PDFKit na iOS, PdfRenderer na Androidzie)
- Pliki tekstowe:
.txt,.md,.log - Kod:
.py,.js,.ts,.java,.swift,.kt,.go,.rs,.sql,.shi inne - Pliki z danymi:
.csv,.json,.xml,.yaml,.toml,.html
Baza wiedzy w rozmowie
Po dodaniu dokumentów zgodne modele same wywołują search_knowledge_base, gdy potrzebują informacji. Wywołanie zobaczysz w czacie.
Możesz też poprosić wprost:
“Przeszukaj moją bazę wiedzy pod kątem wszystkiego o onboardingu”
“Na podstawie dodanego dokumentu architektury wyjaśnij, jak działa usługa pobierania”
Model embeddingów
all-MiniLM-L6-v2-Q8_0.gguf jest dołączony do Off Grid AI (około 24 MB). Jest zawsze dostępny, nie wymaga pobierania i działa tak szybko, że 20-stronicowy PDF na nowym telefonie przetwarza się w mniej niż 10 sekund.
Które LLM mogą przeszukiwać bazę wiedzy?
Każdy model z wywoływaniem narzędzi może korzystać z bazy wiedzy. Pełna lista jest w poradniku o wywoływaniu narzędzi.