Bu sayfada
2026’da iPhone’da LLM’leri yerel olarak çalıştırma (tamamen çevrimdışı, abonelik yok)
Apple’ın Metal GPU’su ve Neural Engine’i 2017’den beri her iPhone’da var. Bunlar yapay zekâya özel hızlandırıcılar ve sen sorularını başkasının sunucusuna göndermek için her ay abonelik öderken çoğu zaman boşta bekliyorlar.
Off Grid AI bunu değiştiriyor. Qwen 3.5, Gemma 4, Mistral ve diğer güçlü modelleri doğrudan iPhone’unda çalıştır: çevrimdışı, gizli ve sürekli bir ücret olmadan. Hesaplama, Metal hızlandırmalı llama.cpp ile yapılır.
Gerekenler
- iPhone 12 veya daha yenisi (A14 Bionic veya daha yeni)
- iOS 17 veya daha yenisi
- En az 3 GB boş alan
- Model indirmesi için bir kez internet
Adım 1: Off Grid AI’ı yükle
Adım 2: Modelini seç
Tüm modeller Q4_K_M nicemlemesi kullanır; telefonda kalite ile boyut arasındaki en iyi dengedir.
| Model | En düşük iPhone | RAM | Boyut | En uygun |
|---|---|---|---|---|
| Qwen 3.5 0.8B | iPhone 12 | 3GB | ~0.8GB | Çok hızlı, 262K bağlam |
| Qwen 3.5 2B | iPhone 12 | 4GB | ~1.7GB | 4 ila 6 GB’lık cihazlar için en iyisi |
| Gemma 4 E2B | iPhone 12 | 4GB | ~1.5GB | Görsel ve düşünme modu |
| Mistral 7B | iPhone 14 | 6GB | ~4.1GB | Her iş için hızlı ve güvenilir |
| Gemma 4 E4B | iPhone 14 | 6GB | ~2.5GB | Akıl yürütme ve görsel, düşünme modu |
| Qwen 3.5 9B | iPhone 15 Pro | 8GB | ~5.5GB | Cihazda genel olarak en iyi kalite |
iPhone 12 ya da 13 kullanıyorsan Qwen 3.5 2B ile başla. iPhone 15 Pro ya da 16 kullanıyorsan Qwen 3.5 9B’u dene.
Adım 3: İndir, yükle, sohbet et
- Off Grid AI’ı aç → Models
- Bir modele dokun → Download
- Load’a dokun; model Metal (Apple’ın GPU çerçevesi) üzerinden yüklenir
- Chat’i aç
Artık yapay zekâ Apple Silicon üzerinde yerel çalışıyor. Sohbetlerin telefonundan hiç çıkmaz.
iPhone yerel yapay zekâ için neden harika
iPhone’ların önemli bir avantajı var: birleşik bellek. Metal GPU ve CPU aynı belleği paylaşır; bu yüzden modeller daha hızlı yüklenir ve hesaplama, yalnızca CPU kullanan cihazlardan daha verimlidir.
iPhone 14’te Qwen 3.5 2B saniyede yaklaşık 20 ila 30 token üretir. Akıcı bir sohbet için yeterince hızlı.
Düşünme modu (Qwen 3.5, Gemma 4) iPhone’da özellikle iyi çalışır, çünkü Metal hızlandırması uzun akıl yürütmelerin yavaşlamasını önler.
Cihaza göre performans
| iPhone | RAM | Önerilen model | Yaklaşık token/sn |
|---|---|---|---|
| iPhone 16 Pro Max | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 16 / 16 Plus | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 15 Pro | 8GB | Qwen 3.5 9B | 15–25 |
| iPhone 14 Pro | 6GB | Gemma 4 E4B | 15–22 |
| iPhone 14 | 6GB | Qwen 3.5 2B | 20–30 |
| iPhone 13 | 4GB | Qwen 3.5 2B | 18–26 |
| iPhone 12 | 4GB | Qwen 3.5 0.8B | 25–40 |
Diğer rehberler
- 2026’da Android telefonunda LLM’leri yerel olarak çalıştırma
- Hangi modeli kullanmalıyım?
- iPhone’da Stable Diffusion nasıl çalıştırılır
- Görsel yapay zekâ: görselleri cihazda analiz et