Ollama
Ollama
Section titled “Ollama”Ollama 是一个本地 LLM 运行时,使您可以轻松地在机器上运行开源模型。OpenClaw 与 Ollama 的 OpenAI 兼容 API 集成,并且当您使用 OLLAMA_API_KEY(或身份验证配置文件)加入并且未定义显式 models.providers.ollama 条目时,可以 自动发现支持工具的模型。
安装 Ollama: https://ollama.ai
拉取模型:
ollama pull llama3.3# 或ollama pull qwen2.5-coder:32b# 或ollama pull deepseek-r1:32b- 为 OpenClaw 启用 Ollama(任何值都可以;Ollama 不需要真正的密钥):
# 设置环境变量export OLLAMA_API_KEY="ollama-local"
# 或在您的配置文件中配置openclaw config set models.providers.ollama.apiKey "ollama-local"- 使用 Ollama 模型:
{ agents: { defaults: { model: { primary: "ollama/llama3.3" }, }, },}模型发现 (隐式提供商)
Section titled “模型发现 (隐式提供商)”当您设置 OLLAMA_API_KEY(或身份验证配置文件)并且 未 定义 models.providers.ollama 时,OpenClaw 会从 http://127.0.0.1:11434 的本地 Ollama 实例中发现模型:
- 查询
/api/tags和/api/show - 仅保留报告
tools能力的模型 - 当模型报告
thinking时标记reasoning - 可用时从
model_info["<arch>.context_length"]读取contextWindow - 将
maxTokens设置为上下文窗口的 10 倍 - 将所有成本设置为
0
这避免了手动输入模型条目,同时保持目录与 Ollama 的能力一致。
要查看可用模型:
ollama listopenclaw models list要添加新模型,只需使用 Ollama 拉取它:
ollama pull mistral新模型将被自动发现并可供使用。
如果您显式设置 models.providers.ollama,则会跳过自动发现,您必须手动定义模型(见下文)。
基本设置 (隐式发现)
Section titled “基本设置 (隐式发现)”启用 Ollama 最简单的方法是通过环境变量:
export OLLAMA_API_KEY="ollama-local"显式设置 (手动模型)
Section titled “显式设置 (手动模型)”在以下情况下使用显式配置:
- Ollama 运行在另一个主机/端口上。
- 您想强制使用特定的上下文窗口或模型列表。
- 您想包含不报告工具支持的模型。
{ models: { providers: { ollama: { // 使用包含 /v1 的主机用于 OpenAI 兼容 API baseUrl: "http://ollama-host:11434/v1", apiKey: "ollama-local", api: "openai-completions", models: [ { id: "llama3.3", name: "Llama 3.3", reasoning: false, input: ["text"], cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 }, contextWindow: 8192, maxTokens: 8192 * 10 } ] } } }}如果设置了 OLLAMA_API_KEY,您可以在提供商条目中省略 apiKey,OpenClaw 将填充它以进行可用性检查。
自定义基础 URL (显式配置)
Section titled “自定义基础 URL (显式配置)”如果 Ollama 运行在不同的主机或端口上(显式配置会禁用自动发现,因此请手动定义模型):
{ models: { providers: { ollama: { apiKey: "ollama-local", baseUrl: "http://ollama-host:11434/v1", }, }, },}配置完成后,您的所有 Ollama 模型均可用:
{ agents: { defaults: { model: { primary: "ollama/llama3.3", fallback: ["ollama/qwen2.5-coder:32b"], }, }, },}当 Ollama 在 /api/show 中报告 thinking 时,OpenClaw 会将模型标记为具备推理能力:
ollama pull deepseek-r1:32bOllama 是免费的并在本地运行,因此所有模型成本均设置为 $0。
对于自动发现的模型,OpenClaw 使用 Ollama 报告的上下文窗口(如果可用),否则默认为 8192。您可以在显式提供商配置中覆盖 contextWindow 和 maxTokens。
未检测到 Ollama
Section titled “未检测到 Ollama”确保 Ollama 正在运行,并且您设置了 OLLAMA_API_KEY(或身份验证配置文件),并且您 未 定义显式的 models.providers.ollama 条目:
ollama serve并且 API 可访问:
curl http://localhost:11434/api/tags没有可用模型
Section titled “没有可用模型”OpenClaw 仅自动发现报告工具支持的模型。如果您的模型未列出,要么:
- 拉取一个支持工具的模型,要么
- 在
models.providers.ollama中显式定义模型。
添加模型:
ollama list # 查看已安装的模型ollama pull llama3.3 # 拉取模型检查 Ollama 是否在正确的端口上运行:
# 检查 Ollama 是否正在运行ps aux | grep ollama
# 或重启 Ollamaollama serve