本页内容
2026 年如何在 Android 手机上使用 Ollama
Ollama 让你在电脑上运行大语言模型。手机装不下的模型(Llama 3.1 70B、Mistral Large、CodeLlama 34B)在电脑上运行,你通过家里的网络在手机上使用。
准备工作
- 一台装有 Ollama 并至少有一个模型的电脑
- 一部装有 Off Grid AI 的 Android 手机
- 两台设备连在同一个 Wi-Fi 上(或可通过 VPN、Tailscale 访问 Ollama)
第 1 步:让 Ollama 接受远程连接
Ollama 默认只监听 localhost。要接受来自手机的连接:
macOS / Linux:
OLLAMA_HOST=0.0.0.0 ollama serve
或者设为永久环境变量:
# ~/.zshrc 或 ~/.bashrc
export OLLAMA_HOST=0.0.0.0
Windows: 把 OLLAMA_HOST=0.0.0.0 设为系统环境变量,然后重启 Ollama。
第 2 步:查找电脑的局域网 IP
macOS: 系统设置 → 网络 → 你的 Wi-Fi 连接 → IP 地址(例如 192.168.1.42)
Windows: 在终端运行 ipconfig → 查看 Wi-Fi 适配器的 IPv4 地址
Linux: 运行 ip addr show,找到你的 Wi-Fi 接口
第 3 步:在 Off Grid AI 中连接
- 打开 Off Grid AI → Settings → Remote Servers
- 点击 Add Server
- 输入
http://192.168.1.42:11434(换成你电脑的 IP) - 点击 Test Connection,应显示绿色
- 点击 Save
第 4 步:选择模型开始聊天
- 打开模型选择器
- Ollama 服务器上的模型会列在 Remote 下
- 选一个开始聊天
你的问题从手机发到电脑,再回到手机,全程不经过互联网。
用 Tailscale 在外面也能访问
如果离开家也想在手机上用 Ollama,Tailscale 会在你的设备之间建立私有 VPN。在电脑和手机上都安装它,然后用电脑的 Tailscale IP 代替局域网 IP。
常见问题
没有网络时能在手机上用 Ollama 吗? 可以,通过本地 Wi-Fi。要远程访问,需要 Tailscale 或类似的 VPN。
从手机上用哪些 Ollama 模型最好?
电脑上加载的任何模型都可以。llama3.1:70b 和 mistral-large 很受欢迎,因为它们太大,手机本身跑不动。