指南入门Android1 分钟阅读

本页内容
  1. 准备条件
  2. 第 1 步:安装 Off Grid AI
  3. 第 2 步:下载模型
  4. 第 3 步:加载并开始聊天
  5. Android 专属说明
  6. 已测试的设备
  7. 相关指南

Android 设置

在 Android 手机上运行本地 AI 模型:完全离线,无需账号,无需 API 密钥。

准备条件

  • Android 10 或更新版本
  • 至少 4GB 内存(较大的模型建议 6GB 以上)
  • 至少 3GB 可用空间
  • 只有第一次下载模型时需要联网

第 1 步:安装 Off Grid AI

在 Google Play 下载

第 2 步:下载模型

  1. 打开 Off Grid AI
  2. 点击 Models
  3. 选择一个模型。对大多数 Android 设备来说,Qwen 3.5 0.8B 或 Qwen 3.5 2B 是最好的起点
  4. 点击 Download

模型保存在你的设备上。只有这一步需要联网。

第 3 步:加载并开始聊天

  1. 点击已下载模型旁边的 Load
  2. 模型加载到内存中(视设备需要 5 到 20 秒)
  3. 点击 Chat,开始对话

Android 专属说明

Vulkan 加速:在支持的设备上,Off Grid AI 使用 Vulkan 在 GPU 上推理,响应比只用 CPU 快得多。支持搭载骁龙 8 Gen 2 及更新、天玑 9000 及以上和 Exynos 2400 的设备。

后台运行:如果应用在后台停留太久,Android 可能会结束模型进程。长对话时请让 Off Grid AI 保持在前台,或在设置中为它关闭电池优化。

存储:模型保存在应用的私有存储中。它们不会出现在相册或文件应用里,所以清理类应用也不会误删它们。

已测试的设备

设备 内存 确认可运行的模型
Pixel 8 Pro 12 GB Llama 3.1 8B, Mistral 7B
Samsung S24 8 GB Llama 3.2 3B, Mistral 7B Q4
Pixel 7 8 GB Llama 3.2 3B, Phi-3 Mini
OnePlus 12 12 GB Llama 3.1 8B
Samsung A55 8 GB Phi-3 Mini, Gemma 2B

相关指南

有帮助吗?
来自开发者的动态