RehberModeller ve performansiPhone2 dk okuma

Bu sayfada
  1. Gerekenler
  2. Adım 1: Off Grid AI’ı yükle
  3. Adım 2: Modelini seç
  4. Adım 3: İndir, yükle, sohbet et
  5. iPhone yerel yapay zekâ için neden harika
  6. Cihaza göre performans
  7. Diğer rehberler
  8. Off Grid AI karşılaştırmaları

2026’da iPhone’da LLM’leri yerel olarak çalıştırma (tamamen çevrimdışı, abonelik yok)

Apple’ın Metal GPU’su ve Neural Engine’i 2017’den beri her iPhone’da var. Bunlar yapay zekâya özel hızlandırıcılar ve sen sorularını başkasının sunucusuna göndermek için her ay abonelik öderken çoğu zaman boşta bekliyorlar.

Off Grid AI bunu değiştiriyor. Qwen 3.5, Gemma 4, Mistral ve diğer güçlü modelleri doğrudan iPhone’unda çalıştır: çevrimdışı, gizli ve sürekli bir ücret olmadan. Hesaplama, Metal hızlandırmalı llama.cpp ile yapılır.


Gerekenler

  • iPhone 12 veya daha yenisi (A14 Bionic veya daha yeni)
  • iOS 17 veya daha yenisi
  • En az 3 GB boş alan
  • Model indirmesi için bir kez internet

Adım 1: Off Grid AI’ı yükle

App Store’dan indir


Adım 2: Modelini seç

Tüm modeller Q4_K_M nicemlemesi kullanır; telefonda kalite ile boyut arasındaki en iyi dengedir.

Model En düşük iPhone RAM Boyut En uygun
Qwen 3.5 0.8B iPhone 12 3GB ~0.8GB Çok hızlı, 262K bağlam
Qwen 3.5 2B iPhone 12 4GB ~1.7GB 4 ila 6 GB’lık cihazlar için en iyisi
Gemma 4 E2B iPhone 12 4GB ~1.5GB Görsel ve düşünme modu
Mistral 7B iPhone 14 6GB ~4.1GB Her iş için hızlı ve güvenilir
Gemma 4 E4B iPhone 14 6GB ~2.5GB Akıl yürütme ve görsel, düşünme modu
Qwen 3.5 9B iPhone 15 Pro 8GB ~5.5GB Cihazda genel olarak en iyi kalite

iPhone 12 ya da 13 kullanıyorsan Qwen 3.5 2B ile başla. iPhone 15 Pro ya da 16 kullanıyorsan Qwen 3.5 9B’u dene.


Adım 3: İndir, yükle, sohbet et

  1. Off Grid AI’ı aç → Models
  2. Bir modele dokun → Download
  3. Load’a dokun; model Metal (Apple’ın GPU çerçevesi) üzerinden yüklenir
  4. Chat’i aç

Artık yapay zekâ Apple Silicon üzerinde yerel çalışıyor. Sohbetlerin telefonundan hiç çıkmaz.


iPhone yerel yapay zekâ için neden harika

iPhone’ların önemli bir avantajı var: birleşik bellek. Metal GPU ve CPU aynı belleği paylaşır; bu yüzden modeller daha hızlı yüklenir ve hesaplama, yalnızca CPU kullanan cihazlardan daha verimlidir.

iPhone 14’te Qwen 3.5 2B saniyede yaklaşık 20 ila 30 token üretir. Akıcı bir sohbet için yeterince hızlı.

Düşünme modu (Qwen 3.5, Gemma 4) iPhone’da özellikle iyi çalışır, çünkü Metal hızlandırması uzun akıl yürütmelerin yavaşlamasını önler.


Cihaza göre performans

iPhone RAM Önerilen model Yaklaşık token/sn
iPhone 16 Pro Max 8GB Qwen 3.5 9B 18–28
iPhone 16 / 16 Plus 8GB Qwen 3.5 9B 18–28
iPhone 15 Pro 8GB Qwen 3.5 9B 15–25
iPhone 14 Pro 6GB Gemma 4 E4B 15–22
iPhone 14 6GB Qwen 3.5 2B 20–30
iPhone 13 4GB Qwen 3.5 2B 18–26
iPhone 12 4GB Qwen 3.5 0.8B 25–40

Diğer rehberler

Off Grid AI karşılaştırmaları

İŞİNE YARADI MI?
GELİŞTİRİCİDEN HABERLER