このページの内容
2026年版:iPhoneでLLMをローカル実行する方法(完全オフライン、サブスク不要)
AppleのMetal GPUとNeural Engineは、2017年以降のすべてのiPhoneに搭載されています。AI専用のアクセラレーターなのに、ほとんどの時間は眠ったまま。その間あなたは、質問を他社のサーバーに送るために毎月お金を払っています。
Off Grid AIがそれを変えます。Qwen 3.5、Gemma 4、Mistralなどの主要モデルをiPhone上で直接動かせます。オフラインで、プライベートに、継続的な費用もかかりません。推論はllama.cppとMetalによる高速化で動きます。
必要なもの
- iPhone 12以降(A14 Bionic以降)
- iOS 17以降
- 3GB以上の空き容量
- モデルのダウンロード時に一度だけインターネット
ステップ1:Off Grid AIをインストール
ステップ2:モデルを選ぶ
すべてのモデルはQ4_K_M量子化を使っています。スマホにとって品質とサイズのバランスが最も良い方式です。
| モデル | 対応iPhone | 必要なRAM | サイズ | おすすめの用途 |
|---|---|---|---|---|
| Qwen 3.5 0.8B | iPhone 12 | 3GB | ~0.8GB | 超高速、262Kコンテキスト |
| Qwen 3.5 2B | iPhone 12 | 4GB | ~1.7GB | RAM 4〜6GBの端末に最適 |
| Gemma 4 E2B | iPhone 12 | 4GB | ~1.5GB | ビジョンと思考モード |
| Mistral 7B | iPhone 14 | 6GB | ~4.1GB | 速くて頼れる万能モデル |
| Gemma 4 E4B | iPhone 14 | 6GB | ~2.5GB | 推論とビジョン、思考モード対応 |
| Qwen 3.5 9B | iPhone 15 Pro | 8GB | ~5.5GB | デバイス上で総合的に最高品質 |
iPhone 12/13の方はQwen 3.5 2Bから、iPhone 15 Pro/16の方はQwen 3.5 9Bを試してみてください。
ステップ3:ダウンロード、読み込み、チャット
- Off Grid AIを開き → Models
- モデルをタップ → Download
- Loadをタップします。モデルはMetal(AppleのGPUフレームワーク)で読み込まれます
- Chatを開きます
これでApple Silicon上でローカルに推論が動いています。チャットがスマホの外に出ることはありません。
iPhoneがローカルAIに向いている理由
iPhoneには大きな強みがあります。ユニファイドメモリです。Metal GPUとCPUが同じメモリを共有するので、CPUだけの端末に比べてモデルの読み込みが速く、推論も効率的です。
iPhone 14でQwen 3.5 2Bを動かすと、毎秒約20〜30トークンを生成します。会話がスムーズに進む速さです。
思考モード(Qwen 3.5、Gemma 4)はiPhoneで特によく動きます。Metalによる高速化のおかげで、長い推論でももたつきません。
端末ごとの性能
| iPhone | RAM | おすすめモデル | 目安(トークン/秒) |
|---|---|---|---|
| iPhone 16 Pro Max | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 16 / 16 Plus | 8GB | Qwen 3.5 9B | 18–28 |
| iPhone 15 Pro | 8GB | Qwen 3.5 9B | 15–25 |
| iPhone 14 Pro | 6GB | Gemma 4 E4B | 15–22 |
| iPhone 14 | 6GB | Qwen 3.5 2B | 20–30 |
| iPhone 13 | 4GB | Qwen 3.5 2B | 18–26 |
| iPhone 12 | 4GB | Qwen 3.5 0.8B | 25–40 |