Bu sayfada
Uzak sunucular: Ollama, LM Studio ve LocalAI’ı bağla
Telefonun etkileyici modelleri yerel olarak çalıştırabilir, ama bilgisayarın ya da Mac’in çok daha büyüklerini çalıştırır: Llama 3.1 70B, Mistral Large, DeepSeek, CodeLlama 34B.
Off Grid AI, yerel ağındaki OpenAI uyumlu herhangi bir sunucuya bağlanır; böylece bu modelleri Wi-Fi ile telefonundan kullanırsın. İnternet gerekmez.
Desteklenen sunucular
| Sunucu | Platform | Notlar |
|---|---|---|
| Ollama | macOS, Linux, Windows | En popüler, kurulumu en kolay |
| LM Studio | macOS, Windows | Harika arayüz, kolay model yönetimi |
| LocalAI | Linux, Docker | Kendi sunucunda, birçok model biçimi |
| vLLM | Linux | Yüksek verim, GPU odaklı |
| OpenAI uyumlu herhangi biri | Hepsi | /v1/chat/completions ve /v1/models gerekir |
Ollama kurulumu
1. Ollama’yı bilgisayarına kur:
# macOS
brew install ollama
# Linux
curl -fsSL https://ollama.ai/install.sh | sh
2. Uzak bağlantılara izin ver (Ollama varsayılan olarak yalnızca localhost’u dinler):
# macOS/Linux
OLLAMA_HOST=0.0.0.0 ollama serve
# ~/.zshrc / ~/.bashrc
export OLLAMA_HOST=0.0.0.0
3. Bir model indir:
ollama pull llama3.1:8b
ollama pull qwen2.5:14b
4. Bilgisayarının yerel IP’sini bul:
- macOS: Sistem Ayarları → Ağ → Wi-Fi → Ayrıntılar → IP adresi
- Linux:
ip addr showve Wi-Fi arayüzünü bul
LM Studio kurulumu
- LM Studio’yu indir ve kur
- Uygulamada bir model indir
- Local Server sekmesine git → Start Server’a tıkla
- Sunucu ayarlarında “Allow connections from network” seçeneğini aç
- Gösterilen IP’yi ve portu not et (varsayılan port: 1234)
Off Grid AI’dan bağlanma
- Off Grid AI’ı aç → Settings → Remote Servers
- Add Server’a dokun
- Sunucu adresini yaz:
- Ollama:
http://192.168.1.42:11434 - LM Studio:
http://192.168.1.42:1234
- Ollama:
- Sunucun istiyorsa bir API anahtarı ekle (sistem anahtar zincirinde saklanır)
- Test Connection’a dokun; yeşil görünmeli
- Save’e dokun
Off Grid AI, sunucudaki tüm modelleri /v1/models üzerinden kendisi bulur.
Uzak model seçme
Model seçiciyi aç. Uzak modeller sunucunun adının altında görünür. Birine dokunarak etkinleştir.
Off Grid AI yanıtları Server-Sent Events (SSE) ile anlık gösterir. Yerel bir modele geri dönmek anında olur.
Uzak sunucularda görsel ve araç çağırma
Off Grid AI görsel ve araç çağırma desteğini model adından anlar. Adda vision, vl, vlm ya da benzeri varsa Off Grid AI kamera ekini açar. Araç çağırma da aynı şekilde algılanır.
Destekleyen sunucularda (uyumlu modellerle Ollama, LM Studio) araç çağırma ve görsel, uzak bağlantı üzerinden de sorunsuz çalışır.
Tailscale ile evin dışından erişim
Tailscale cihazların arasında özel bir VPN kurar. Hem bilgisayarına hem telefonuna kur, sonra sunucu adresi olarak bilgisayarının Tailscale IP’sini kullan.
Böylece evdeki bilgisayarının modellerine her yerden (kafeden, yolculukta, ofisten) ulaşırsın ve hiçbir şey açık internete çıkmaz.
Güvenlik notu
Off Grid AI, herkese açık bir internet adresine (özel IP aralıkları dışında) bağlanmadan önce seni uyarır. Uzaktan erişim için sunucunu doğrudan internete açmak yerine her zaman Tailscale ya da benzer bir özel tünel kullan.
Diğer rehberler
- 2026’da Android telefonundan Ollama nasıl kullanılır
- 2026’da telefonundan Off Grid AI Desktop nasıl kullanılır
- Hangi modeli kullanmalıyım?
- Araç çağırma