Android 设置
在 Android 手机上运行本地 AI 模型:完全离线,无需账号,无需 API 密钥。
准备条件
- Android 10 或更新版本
- 至少 4GB 内存(较大的模型建议 6GB 以上)
- 至少 3GB 可用空间
- 只有第一次下载模型时需要联网
第 1 步:安装 Off Grid AI
第 2 步:下载模型
- 打开 Off Grid AI
- 点击 Models
- 选择一个模型。对大多数 Android 设备来说,Qwen 3.5 0.8B 或 Qwen 3.5 2B 是最好的起点
- 点击 Download
模型保存在你的设备上。只有这一步需要联网。
第 3 步:加载并开始聊天
- 点击已下载模型旁边的 Load
- 模型加载到内存中(视设备需要 5 到 20 秒)
- 点击 Chat,开始对话
Android 专属说明
Vulkan 加速:在支持的设备上,Off Grid AI 使用 Vulkan 在 GPU 上推理,响应比只用 CPU 快得多。支持搭载骁龙 8 Gen 2 及更新、天玑 9000 及以上和 Exynos 2400 的设备。
后台运行:如果应用在后台停留太久,Android 可能会结束模型进程。长对话时请让 Off Grid AI 保持在前台,或在设置中为它关闭电池优化。
存储:模型保存在应用的私有存储中。它们不会出现在相册或文件应用里,所以清理类应用也不会误删它们。
已测试的设备
| 设备 | 内存 | 确认可运行的模型 |
|---|---|---|
| Pixel 8 Pro | 12 GB | Llama 3.1 8B, Mistral 7B |
| Samsung S24 | 8 GB | Llama 3.2 3B, Mistral 7B Q4 |
| Pixel 7 | 8 GB | Llama 3.2 3B, Phi-3 Mini |
| OnePlus 12 | 12 GB | Llama 3.1 8B |
| Samsung A55 | 8 GB | Phi-3 Mini, Gemma 2B |