OpenClaw（龙虾 AI）Linux 快速搭建：用 TaoToken 统一 Key 接入已有 vLLM/Ollama 模型

1. 先搞清楚OpenClaw 在 Linux 上到底解决什么问题OpenClaw社区里也叫龙虾 AI是一个跑在终端里的 AI 编码与对话客户端它本身不训练模型也不绑定某一家云厂商而是通过 provider 配置去连接你已经有的模型服务。这一点对 Linux 服务器用户特别友好你机器上大概率已经用 vLLM 或 Ollama 跑着几个模型GPU 也在转缺的只是一个统一的调用入口。OpenClaw 补的就是这一环——它把本地 vLLM、本地 Ollama、以及远端 OpenAI 兼容接口统一成一套命令和一份配置让你不用为每个模型记不同的端口和参数。适合谁手里有 Linux 服务器物理机或云主机都行、已经用 Docker 跑过 vLLM、或者用 Ollama 拉过几个 GGUF 模型、想用一个客户端统一调度的人。如果你还没跑过任何模型服务这篇也能跟着做只是要先补一步模型部署。这篇的路线是先扫描本机已经在跑的 vLLM / Ollama 服务拿到端口和模型名再用 TaoToken 统一 Key 与 API 通道把模型发现和接入收敛到一处最后给出可复制的 config.toml 与 settings.json 骨架、Docker 启动参数以及 curl 验证模型列表和对话连通性的具体动作。全程命令可直接粘贴端口和模型名按你机器实际情况替换即可。2. TaoToken 前置统一 Key 与 API 通道怎么准备在接入本地模型之前先把 TaoToken 这一层准备好原因是它承担两个角色一是给 OpenClaw 提供一个稳定的 OpenAI 兼容入口二是当本地模型临时不可用比如 GPU 被占、容器重启时可以切到远端模型兜底不至于整个客户端不可用。第一步注册并登录后进入控制台在 API Keys 页面创建一个 Key。建议按用途分开建比如openclaw-local给本地调试、openclaw-prod给长期跑的服务方便后续按 Key 排查调用来源。创建后立刻复制保存页面刷新后通常不再完整显示。第二步确认你要用的接入地址。OpenClaw 里配置 provider 时baseUrl 填https://taotoken.net/api协议选 OpenAI 兼容的 chat completions 即可。注意这里不要带多余的路径后缀客户端一般会自己拼/v1/chat/completions多写反而会 404。第三步把 Key 放进环境变量而不是硬编码进配置文件。这样配置文件可以进 GitKey 不会泄露# 写入当前用户的 shell 配置长期生效 echo export TAOTOKEN_API_KEYsk-你的Key ~/.bashrc source ~/.bashrc # 验证是否读到 echo $TAOTOKEN_API_KEY | head -c 8如果你打算用 Docker 跑 OpenClaw环境变量要在docker run时用-e传进去或者写进--env-file容器内读不到宿主机的~/.bashrc这是新手最常踩的一个坑。提示Key 只用于你自己的客户端调用不要贴到公开仓库、issue 或聊天记录里。一旦怀疑泄露直接在控制台吊销重建成本很低。3. 可复制配置扫描已有模型并写入 OpenClaw3.1 先扫描本机已运行的模型服务别急着改配置先用几条命令把机器上已经跑着的东西摸清楚。模型服务通常跑在 Docker 里所以从容器入手最快# 看所有容器包括已退出的 docker ps -a # 按关键词过滤vllm / ollama / qwen 都是常见命名 docker ps -a | grep -iE vllm|ollama|qwen|deepseek # 只看名字和端口映射端口是后面配置的关键 docker ps --format table {{.Names}}\t{{.Ports}}\t{{.Status}} # 确认 GPU 占用情况 nvidia-smi拿到端口后直接探测接口是否活着。vLLM 走 OpenAI 兼容协议Ollama 有自己的 tags 接口# vLLM 的模型列表 curl -s http://localhost:30113/v1/models | python3 -m json.tool # Ollama 的模型列表 curl -s http://localhost:11434/api/tags | python3 -m json.tool # 通用探测任何 OpenAI 兼容服务都能这样试 curl -s http://localhost:端口/v1/models | python3 -m json.tool如果python3 -m json.tool报解析错误说明返回的不是合法 JSON去掉管道直接看原始输出通常是 404 或连接被拒那就回到上一步确认容器状态和端口映射。3.2 config.toml 骨架OpenClaw 支持 TOML 配置适合把 provider 和默认模型写清楚。下面这份骨架把本地 vLLM、本地 Ollama、以及 TaoToken 远端通道都列上你按实际端口和模型名改# ~/.openclaw/config.toml [general] default_model vllm-local/qwen3-14b log_level info # 本地 vLLMOpenAI 兼容 [providers.vllm-local] base_url http://localhost:30113/v1 api openai-completions api_key not-needed # 内网 vLLM 通常不校验 models [qwen3-14b] # 本地 OllamaOpenClaw 原生识别 [providers.ollama] base_url http://localhost:11434 api ollama models [qwen3:14b, llama3.3] # TaoToken 统一通道作为远端兜底 [providers.taotoken] base_url https://taotoken.net/api api openai-completions api_key ${TAOTOKEN_API_KEY} # 从环境变量读取 models [deepseek-v4-flash] [fallbacks] chain [ollama/qwen3:14b, taotoken/deepseek-v4-flash]3.3 settings.json 骨架如果你更习惯 JSON或者团队里有人用 GUI 配置可以维护一份 settings.json字段与 TOML 一一对应{ general: { default_model: vllm-local/qwen3-14b, log_level: info }, providers: { vllm-local: { baseUrl: http://localhost:30113/v1, api: openai-completions, apiKey: not-needed, models: [{ id: qwen3-14b, name: Qwen3 14B (本地) }] }, ollama: { baseUrl: http://localhost:11434, api: ollama, models: [{ id: qwen3:14b }] }, taotoken: { baseUrl: https://taotoken.net/api, api: openai-completions, apiKey: ${TAOTOKEN_API_KEY}, models: [{ id: deepseek-v4-flash }] } }, fallbacks: [ollama/qwen3:14b, taotoken/deepseek-v4-flash] }3.4 Docker 启动参数用 Docker 跑 OpenClaw 时最容易出问题的是网络模式。容器里的localhost指的是容器自己不是宿主机所以访问宿主机的 vLLM 必须走host.docker.internal或直接用宿主机内网 IP。Linux 上更省事的做法是--network hostdocker run -d \ --name openclaw \ --network host \ --restart unless-stopped \ -e TAOTOKEN_API_KEY${TAOTOKEN_API_KEY} \ -v ~/.openclaw:/root/.openclaw \ openclaw/openclaw:latest--network host让容器直接共享宿主机网络栈localhost:30113和localhost:11434就能直接通。代价是端口不再隔离如果你机器上端口紧张可以改用桥接模式并把 baseUrl 换成宿主机 IP。-v挂载配置目录是为了容器重建后配置不丢这一步别省。4. 验证请求模型列表与对话连通性配置写完不代表通了必须用命令逐层验证。先看 OpenClaw 是否读到了 provider# 查看所有已配置模型 openclaw models status # 按 provider 过滤 openclaw models list --provider vllm-local # 主动探测连通性这一步会真实发请求 openclaw models status --probe--probe是关键它比单纯列配置更能说明问题如果某个 provider 显示超时或 401就锁定到那一层去查。接着做一次真实对话openclaw 你好请用一句话介绍你自己如果默认模型是本地 vLLM这条命令走的就是http://localhost:30113/v1。想单独验证 TaoToken 通道可以临时指定模型openclaw --model taotoken/deepseek-v4-flash 用 Python 写一个快速排序再补一条纯 curl 的验证排除 OpenClaw 本身的干扰直接确认 TaoToken 通道可用curl -s https://taotoken.net/api/v1/chat/completions \ -H Authorization: Bearer ${TAOTOKEN_API_KEY} \ -H Content-Type: application/json \ -d { model: deepseek-v4-flash, messages: [{role: user, content: ping}] } | python3 -m json.tool返回里能看到choices数组和内容就说明 Key、地址、模型名三者都对上了。这一步过了再回到 OpenClaw 里用基本不会出问题。5. 本篇常见错排查模型连不上--probe超时。先确认容器在跑docker ps -a | grep vllm。容器是Exited状态就docker logs 容器名 -n 50看退出原因常见是端口冲突或显存不足。端口不通curl 直接 connection refused。检查端口有没有被监听ss -antul | grep 端口或lsof -i :端口。如果容器在跑但端口没映射出来说明docker run时漏了-p或者用了--network host但服务本身只绑了 127.0.0.1。Docker 里访问不到宿主机服务。这是网络模式问题不是配置问题。要么加--network host要么把 baseUrl 从localhost改成宿主机内网 IP用ip addr查一下。TaoToken 返回 401。九成是环境变量没传进容器。在容器里执行env | grep TAOTOKEN确认没有就在docker run时补-e。另外注意 Key 前后不要带空格或引号。返回 404。baseUrl 多写了/v1或/chat/completions。OpenClaw 会自己拼路径baseUrl 只写到域名或/api这一层就够了。GPU 显存没释放新模型起不来。nvidia-smi看占用进程docker stop 容器释放必要时docker system prune -a清旧镜像腾磁盘。中文输出乱码。检查echo $LANG不是 UTF-8 就export LANGen_US.UTF-8并写进~/.bashrc持久化。服务 SSH 断开就死。这是没做持久化。执行sudo loginctl enable-linger $USER再用systemctl --user管理服务具体命令见下一节。6. 持久化与后续接入建议OpenClaw 跑在 SSH 会话里断开就被杀所以持久化是必做项。先开启 linger让用户级 systemd 服务在未登录时也能运行sudo loginctl enable-linger $USER openclaw daemon install systemctl --user enable openclaw-gateway.service systemctl --user start openclaw-gateway.service systemctl --user status openclaw-gateway.service看日志用journalctl --user -u openclaw-gateway.service -f排障时这个窗口别关。后续如果你要把 OpenClaw 用在长期编码或 Agent 场景建议把模型调用收敛到 TaoToken 的 Coding Plan 上本地 vLLM 作为低延迟补充远端通道作为兜底这样单机 GPU 被占或重启时任务不会断。需要管理多个 Key、查看调用量就去控制台要新增或吊销 Key在 API Keys 页面操作接入细节和字段说明以接入文档为准。模型能力想先试再配可以直接在模型对话里跑几条 prompt 对比效果确认合适再写进 config.toml。最后留一个我踩过的坑改完配置一定要openclaw models status --probe再重启服务光重启不探测配置写错了也看不出来等真正调用时才报错排查成本翻倍。