PanduanDokumen dan risetHP1 menit baca

Di halaman ini
  1. Cara kerjanya
  2. Menyiapkan basis pengetahuan
  3. Format yang didukung
  4. Memakai basis pengetahuan di percakapan
  5. Model embedding
  6. LLM mana yang bisa mencari di basis pengetahuan?
  7. Panduan lainnya

Basis pengetahuan dan RAG: pencarian dokumen di perangkat

Setiap proyek di Off Grid AI bisa punya basis pengetahuan sendiri. Unggah PDF, file teks, atau kode: aplikasi memprosesnya sepenuhnya di perangkat dan membuatnya bisa dicari di percakapanmu.

Ini Retrieval-Augmented Generation (RAG) yang berjalan sepenuhnya lokal. Tidak ada dokumen yang keluar dari perangkatmu, dan analitik opsional tidak pernah memuat nama file.


Cara kerjanya

Dokumenmu
  → Ekstraksi teks (PDF atau teks biasa)
  → Dipotong per bagian (per paragraf, dengan jendela geser sebagai cadangan)
  → Embedding (all-MiniLM-L6-v2-Q8_0.gguf, bawaan aplikasi)
  → Disimpan di SQLite di perangkat

Saat kamu bertanya:
  → Pertanyaanmu diproses dengan model MiniLM yang sama
  → Kemiripan kosinus dihitung terhadap semua potongan
  → Potongan paling relevan dikirim ke LLM sebagai konteks
  → LLM menjawab dengan dokumenmu sebagai sumber

Alat search_knowledge_base otomatis ditambahkan ke setiap percakapan dalam proyek yang punya dokumen. Model yang kompatibel memanggilnya sendiri saat butuh info dari dokumenmu.


Menyiapkan basis pengetahuan

  1. Buka Off Grid AI → Projects
  2. Buat proyek baru atau ketuk proyek yang ada
  3. Ketuk Knowledge Base → Add Document
  4. Pilih PDF atau file teks dari perangkatmu

Off Grid AI mengambil teksnya dan memprosesnya. Butuh beberapa detik per dokumen, tergantung panjangnya.


Format yang didukung

  • PDF: ekstraksi teks native lewat API platform (PDFKit di iOS, PdfRenderer di Android)
  • File teks: .txt, .md, .log
  • Kode: .py, .js, .ts, .java, .swift, .kt, .go, .rs, .sql, .sh, dan lainnya
  • File data: .csv, .json, .xml, .yaml, .toml, .html

Memakai basis pengetahuan di percakapan

Setelah dokumen ditambahkan, model yang kompatibel otomatis memanggil search_knowledge_base saat butuh informasi. Panggilannya terlihat langsung di chat.

Kamu juga bisa memintanya secara langsung:

“Cari di basis pengetahuanku semua hal tentang alur onboarding”

“Berdasarkan dokumen arsitektur yang diunggah, jelaskan cara kerja layanan unduhan”


Model embedding

all-MiniLM-L6-v2-Q8_0.gguf sudah termasuk di Off Grid AI (sekitar 24 MB). Selalu tersedia, tanpa unduhan, dan cukup cepat untuk memproses PDF 20 halaman dalam kurang dari 10 detik di HP modern.


LLM mana yang bisa mencari di basis pengetahuan?

Semua model yang mendukung pemanggilan alat bisa memakai basis pengetahuan. Daftar lengkapnya ada di panduan pemanggilan alat.


Panduan lainnya

MEMBANTU?
KABAR DARI PEMBUAT