Di halaman ini
Basis pengetahuan dan RAG: pencarian dokumen di perangkat
Setiap proyek di Off Grid AI bisa punya basis pengetahuan sendiri. Unggah PDF, file teks, atau kode: aplikasi memprosesnya sepenuhnya di perangkat dan membuatnya bisa dicari di percakapanmu.
Ini Retrieval-Augmented Generation (RAG) yang berjalan sepenuhnya lokal. Tidak ada dokumen yang keluar dari perangkatmu, dan analitik opsional tidak pernah memuat nama file.
Cara kerjanya
Dokumenmu
→ Ekstraksi teks (PDF atau teks biasa)
→ Dipotong per bagian (per paragraf, dengan jendela geser sebagai cadangan)
→ Embedding (all-MiniLM-L6-v2-Q8_0.gguf, bawaan aplikasi)
→ Disimpan di SQLite di perangkat
Saat kamu bertanya:
→ Pertanyaanmu diproses dengan model MiniLM yang sama
→ Kemiripan kosinus dihitung terhadap semua potongan
→ Potongan paling relevan dikirim ke LLM sebagai konteks
→ LLM menjawab dengan dokumenmu sebagai sumber
Alat search_knowledge_base otomatis ditambahkan ke setiap percakapan dalam proyek yang punya dokumen. Model yang kompatibel memanggilnya sendiri saat butuh info dari dokumenmu.
Menyiapkan basis pengetahuan
- Buka Off Grid AI → Projects
- Buat proyek baru atau ketuk proyek yang ada
- Ketuk Knowledge Base → Add Document
- Pilih PDF atau file teks dari perangkatmu
Off Grid AI mengambil teksnya dan memprosesnya. Butuh beberapa detik per dokumen, tergantung panjangnya.
Format yang didukung
- PDF: ekstraksi teks native lewat API platform (PDFKit di iOS, PdfRenderer di Android)
- File teks:
.txt,.md,.log - Kode:
.py,.js,.ts,.java,.swift,.kt,.go,.rs,.sql,.sh, dan lainnya - File data:
.csv,.json,.xml,.yaml,.toml,.html
Memakai basis pengetahuan di percakapan
Setelah dokumen ditambahkan, model yang kompatibel otomatis memanggil search_knowledge_base saat butuh informasi. Panggilannya terlihat langsung di chat.
Kamu juga bisa memintanya secara langsung:
“Cari di basis pengetahuanku semua hal tentang alur onboarding”
“Berdasarkan dokumen arsitektur yang diunggah, jelaskan cara kerja layanan unduhan”
Model embedding
all-MiniLM-L6-v2-Q8_0.gguf sudah termasuk di Off Grid AI (sekitar 24 MB). Selalu tersedia, tanpa unduhan, dan cukup cepat untuk memproses PDF 20 halaman dalam kurang dari 10 detik di HP modern.
LLM mana yang bisa mencari di basis pengetahuan?
Semua model yang mendukung pemanggilan alat bisa memakai basis pengetahuan. Daftar lengkapnya ada di panduan pemanggilan alat.