Bu sayfada
Bilgi tabanı ve RAG: belgelerde cihazda arama
Off Grid AI’daki her projenin kendi bilgi tabanı olabilir. PDF, metin dosyası ya da kod yükle: uygulama hepsini tamamen cihazda işler ve sohbetlerinde aranabilir hale getirir.
Bu, tamamen yerelde çalışan erişimle güçlendirilmiş üretimdir (RAG). Hiçbir belge cihazından çıkmaz, isteğe bağlı analizler de asla dosya adı içermez.
Nasıl çalışır
Belgen
→ Metin çıkarma (PDF ya da düz metin)
→ Parçalara ayırma (paragraf bazlı, gerekirse kayan pencere)
→ Gömme (all-MiniLM-L6-v2-Q8_0.gguf, uygulamayla gelir)
→ Cihazda SQLite’a kaydetme
Bir soru sorduğunda:
→ Sorun aynı MiniLM modeliyle gömülür
→ Tüm parçalarla kosinüs benzerliği hesaplanır
→ En ilgili parçalar LLM’e bağlam olarak gider
→ LLM, belgeni kaynak alarak yanıt verir
search_knowledge_base aracı, belgesi olan her projenin sohbetlerine kendiliğinden eklenir. Uyumlu modeller belgelerinden bilgi gerektiğinde onu kendileri çağırır.
Bilgi tabanı kurma
- Off Grid AI’ı aç → Projects
- Yeni bir proje oluştur ya da mevcut birine dokun
- Knowledge Base → Add Document’a dokun
- Cihazından bir PDF ya da metin dosyası seç
Off Grid AI metni çıkarır ve işler. Uzunluğa göre belge başına birkaç saniye sürer.
Desteklenen biçimler
- PDF: platform API’leriyle yerel metin çıkarma (iOS’ta PDFKit, Android’de PdfRenderer)
- Metin dosyaları:
.txt,.md,.log - Kod:
.py,.js,.ts,.java,.swift,.kt,.go,.rs,.sql,.shve diğerleri - Veri dosyaları:
.csv,.json,.xml,.yaml,.toml,.html
Bilgi tabanını sohbette kullanma
Belgeler eklendikten sonra uyumlu modeller bilgi gerektiğinde search_knowledge_base’i kendileri çağırır. Çağrıyı sohbetin içinde görürsün.
İstersen açıkça da isteyebilirsin:
“Bilgi tabanımda onboarding akışıyla ilgili her şeyi ara”
“Yüklediğim mimari belgesine göre indirme servisinin nasıl çalıştığını açıkla”
Gömme modeli
all-MiniLM-L6-v2-Q8_0.gguf Off Grid AI ile birlikte gelir (yaklaşık 24 MB). Her zaman hazırdır, indirme gerektirmez ve yeni bir telefonda 20 sayfalık bir PDF’i 10 saniyeden kısa sürede işleyecek kadar hızlıdır.
Hangi LLM’ler bilgi tabanında arayabilir?
Araç çağırabilen her model bilgi tabanını kullanabilir. Uyumlu modellerin tam listesi araç çağırma rehberinde.