RehberBelgeler ve araştırmaTelefon1 dk okuma

Bu sayfada
  1. Nasıl çalışır
  2. Bilgi tabanı kurma
  3. Desteklenen biçimler
  4. Bilgi tabanını sohbette kullanma
  5. Gömme modeli
  6. Hangi LLM’ler bilgi tabanında arayabilir?
  7. Diğer rehberler

Bilgi tabanı ve RAG: belgelerde cihazda arama

Off Grid AI’daki her projenin kendi bilgi tabanı olabilir. PDF, metin dosyası ya da kod yükle: uygulama hepsini tamamen cihazda işler ve sohbetlerinde aranabilir hale getirir.

Bu, tamamen yerelde çalışan erişimle güçlendirilmiş üretimdir (RAG). Hiçbir belge cihazından çıkmaz, isteğe bağlı analizler de asla dosya adı içermez.


Nasıl çalışır

Belgen
  → Metin çıkarma (PDF ya da düz metin)
  → Parçalara ayırma (paragraf bazlı, gerekirse kayan pencere)
  → Gömme (all-MiniLM-L6-v2-Q8_0.gguf, uygulamayla gelir)
  → Cihazda SQLite’a kaydetme

Bir soru sorduğunda:
  → Sorun aynı MiniLM modeliyle gömülür
  → Tüm parçalarla kosinüs benzerliği hesaplanır
  → En ilgili parçalar LLM’e bağlam olarak gider
  → LLM, belgeni kaynak alarak yanıt verir

search_knowledge_base aracı, belgesi olan her projenin sohbetlerine kendiliğinden eklenir. Uyumlu modeller belgelerinden bilgi gerektiğinde onu kendileri çağırır.


Bilgi tabanı kurma

  1. Off Grid AI’ı aç → Projects
  2. Yeni bir proje oluştur ya da mevcut birine dokun
  3. Knowledge Base → Add Document’a dokun
  4. Cihazından bir PDF ya da metin dosyası seç

Off Grid AI metni çıkarır ve işler. Uzunluğa göre belge başına birkaç saniye sürer.


Desteklenen biçimler

  • PDF: platform API’leriyle yerel metin çıkarma (iOS’ta PDFKit, Android’de PdfRenderer)
  • Metin dosyaları: .txt, .md, .log
  • Kod: .py, .js, .ts, .java, .swift, .kt, .go, .rs, .sql, .sh ve diğerleri
  • Veri dosyaları: .csv, .json, .xml, .yaml, .toml, .html

Bilgi tabanını sohbette kullanma

Belgeler eklendikten sonra uyumlu modeller bilgi gerektiğinde search_knowledge_base’i kendileri çağırır. Çağrıyı sohbetin içinde görürsün.

İstersen açıkça da isteyebilirsin:

“Bilgi tabanımda onboarding akışıyla ilgili her şeyi ara”

“Yüklediğim mimari belgesine göre indirme servisinin nasıl çalıştığını açıkla”


Gömme modeli

all-MiniLM-L6-v2-Q8_0.gguf Off Grid AI ile birlikte gelir (yaklaşık 24 MB). Her zaman hazırdır, indirme gerektirmez ve yeni bir telefonda 20 sayfalık bir PDF’i 10 saniyeden kısa sürede işleyecek kadar hızlıdır.


Hangi LLM’ler bilgi tabanında arayabilir?

Araç çağırabilen her model bilgi tabanını kullanabilir. Uyumlu modellerin tam listesi araç çağırma rehberinde.


Diğer rehberler

İŞİNE YARADI MI?
GELİŞTİRİCİDEN HABERLER