このページの内容
2026年版:AndroidスマホでLLMをローカル実行する方法(クラウド不要、アカウント不要)
ChatGPTに質問するたびに、その記録はサーバーに残ります。質問、回答、時刻、あなたのアカウント。期限なしで保存され、モデルの改善や広告、捜査機関からの要請への対応に使われます。
Off Grid AIはその層をまるごと取り除きます。モデルはARM64上のllama.cppでスマホのメモリの中で動きます。あなたのプロンプトはどこにも送られません。
設定方法は次のとおりです。
必要なもの
- RAM 4GB以上のAndroidスマホ(Android 10以降)
- モデルに応じて2〜5GBの空き容量
- 最初のダウンロードで一度だけインターネット。その後は不要
ステップ1:Off Grid AIをダウンロード
ステップ2:モデルを選ぶ
すべてのモデルは標準でQ4_K_M量子化を使います。スマホにとって品質とサイズのバランスが最も良い方式です。
| モデル | 最小RAM | サイズ | おすすめの用途 |
|---|---|---|---|
| Qwen 3.5 0.8B | 3GB | ~0.8GB | 超高速、262Kコンテキスト、手頃な端末向け |
| Qwen 3.5 2B | 4GB | ~1.7GB | RAM 4〜6GBの端末に最適、262Kコンテキスト |
| Gemma 4 E2B | 4GB | ~1.5GB | ビジョンと思考モード、MoEアーキテクチャ |
| Mistral 7B | 6GB | ~4.1GB | 速くて頼れる万能モデル |
| Gemma 4 E4B | 6GB | ~2.5GB | 高い推論力とビジョン、思考モード対応 |
| Qwen 3.5 9B | 8GB | ~5.5GB | デバイス上で総合的に最高品質 |
RAM 4〜6GBの端末ならQwen 3.5 2Bから、8GB以上ならQwen 3.5 9Bから始めましょう。
ステップ3:ダウンロードして読み込む
- Off Grid AIを開き → Modelsをタップ
- モデルを選び → Downloadをタップ
- ダウンロードが終わったらLoadをタップ
- Chatを開いて始めます
ここから先、モデルは完全にあなたの端末上で動きます。ネットワーク通信はありません。
ステップ4:オフラインにする
機内モードをオンにしてチャットを開いてみてください。そのまま動きます。
これがポイントです。接続なしで、どのネットワークでも、どの国でも、月額料金なしで動く頼れるAIアシスタントが手に入りました。
端末ごとの性能
Off Grid AIはARM64上でNEON、i8mm、dotprodのSIMD命令を使うllama.cppで動きます。Qualcomm AdrenoのGPUでは、OpenCLによるGPUオフロードも選べます。
| 端末 | RAM | おすすめモデル | 目安(トークン/秒) |
|---|---|---|---|
| Pixel 9 Pro | 16GB | Qwen 3.5 9B | 15–25 |
| Samsung Galaxy S25 | 12GB | Qwen 3.5 9B | 15–25 |
| Pixel 8 Pro | 12GB | Qwen 3.5 9B | 12–20 |
| Samsung S24 | 8GB | Qwen 3.5 9B または Gemma 4 E4B | 10–18 |
| Pixel 7 | 8GB | Qwen 3.5 9B | 8–15 |
| OnePlus 12 | 12GB | Qwen 3.5 9B | 12–20 |
| Samsung A55 | 8GB | Qwen 3.5 2B | 15–25 |
| RAM 4GBの手頃な端末 | 4GB | Qwen 3.5 0.8B | 20–35 |
クラウドではなくローカルでLLMを動かす理由
プライバシー。 質問が端末の外に出ることはありません。
費用ゼロ。 API料金もサブスクもありません。モデルは無料でダウンロードでき、ずっと使えます。
オフライン。 機内でも、電波の悪い場所でも、クラウドAIが制限されている国でも動きます。
速さ。 短い質問なら、最新のARMチップでのローカル推論は驚くほど速く、遅い回線でクラウドの返事を待つより速いこともよくあります。
関連ガイド
- 2026年版:iPhoneでLLMをローカル実行する方法
- どのモデルを使えばいい?
- AndroidスマホでStable Diffusionを動かす方法
- 2026年版:AndroidスマホからOllamaを使う方法
- 2026年版:スマホからOff Grid AI Desktopを使う方法
- ビジョンAI:画像をデバイス上で分析