工具调用
Off Grid AI 内置了一些工具,兼容的模型会在对话中自动调用。何时使用由模型决定,你不需要手动触发。
可用工具
| 工具 | 作用 | 是否需要联网 |
|---|---|---|
| 网页搜索 | 搜索网页并返回带可点击链接的结果 | 是 |
| 计算器 | 计算数学表达式 | 否 |
| 日期 / 时间 | 返回当前日期、时间和时区 | 否 |
| 设备信息 | 返回设备名称、系统版本和可用内存 | 否 |
| 知识库搜索 | 搜索你上传到项目中的文档 | 否 |
工作原理
你发送消息后,模型会读取可用工具的定义,判断是否调用。如果调用:
- 模型发出一个函数调用(例如
search("best offline AI apps 2026")) - Off Grid AI 执行工具,把结果返回给模型
- 模型读取结果,生成最终回答
- 这个循环会重复,直到模型获得足够信息,并有防止无限循环的保护
工具调用会以可折叠卡片的形式显示在对话中。
哪些模型支持工具调用
函数调用需要专门训练过的模型。在 Off Grid AI 的推荐目录中:
| 模型 | 工具调用 |
|---|---|
| Qwen 3.5 0.8B | 支持 |
| Qwen 3.5 2B | 支持 |
| Qwen 3.5 9B | 支持 |
| Gemma 4 E2B | 支持 |
| Gemma 4 E4B | 支持 |
| Phi-4 Mini | 支持 |
| Mistral 7B | 支持 |
| SmolLM3 3B | 部分支持 |
| SmolLM2 360M | 不支持 |
如果你从 Hugging Face 下载自己的 GGUF,请在模型卡中查找 “function calling” 或 “tool use”。
使用网页搜索
网页搜索是自动的。只要问一个需要最新信息的问题:
“llama.cpp 的最新版本是多少?”
模型会调用 web_search,获取结果,并在回答中附上可点击的链接。
注意: 只有网页搜索需要联网,其他工具都能离线使用。
使用知识库工具
只要项目里上传了文档,search_knowledge_base 工具就会自动可用。设置方法见知识库指南。
关闭工具
进入 Chat settings,逐个关闭工具。关闭网页搜索后,所有回答都完全离线;关闭全部工具,就只做纯文本生成。