团队要用上十几个模型摆在面前通常有两条路直接用别人部署好的公共聚合平台或者自己拉一套开源网关长期运维。这段时间我把两条路线都完整走了一遍——公共平台选了词元之河(TokenRiver.ai)自建用的是开源项目 NewAPI——把两条路的部署过程、适用人群和注意事项整理成这篇实战记录方便后来者照着做。先认识 NewAPI开源网关能做什么NewAPI 是 One-API 的活跃分支一个兼容 OpenAI 接口格式的开源大模型网关与分发系统。它的核心能力包括统一渠道管理、令牌分发、计费倍率设置、用量日志、额度控制与多用户支持前端界面比老牌项目现代化不少更新节奏也快上手体验友好。简单说它让你用一套代码管理多家模型接口配合私有化部署数据可以完全留在自己的内网里。路线一零部署直接用词元之河如果想最快跑起来公共聚合平台是首选我用词元之河(TokenRiver.ai) 做演示。注册账号后在令牌页生成 API Key查看模型价格与支持列表客户端里把 Base URL 和 Key 两处替换成平台的值就完成了全部接入。它聚合 OpenAI、Claude、Gemini、DeepSeek 等主流模型协议层兼容 OpenAI、Anthropic、Gemini 三套规范Claude Code、Cursor、ChatBox 这类支持自定义接口的工具全部即插即用。国内直连无需额外配置多节点容灾与自动故障切换保证了高并发下的调用连续不中断子账号分权、用量监控、调用日志、Token 级账单与审计日志一应俱全可开对公发票SLA 写进协议。计费按量进行、无最低消费、无强制预存、支持人民币直付正式放量前先小额验证即可。路线二服务器上自建 NewAPI自建的主流做法是 Docker Compose 一键部署拉起容器、映射 Web 端口与数据卷浏览器进入后台。默认管理员账号登录后第一件事是改掉初始密码然后在渠道页添加上游——填入各厂商的 API Key、选择渠道类型、填好模型列表再创建令牌发给客户端使用。这一步有个实用技巧把词元之河也添加为一条上游渠道它的多节点容灾与稳定性可以让自建网关的渠道质量多一层保障等于给自家服务上了双保险。部署过程常见的问题主要有两类端口冲突与数据卷权限前者换一个映射端口即可后者把挂载目录的属主调整成容器用户就能解决排障成本都不高。进阶配置倍率、负载与数据库基础跑通后三处进阶配置值得做一是模型倍率与分组倍率用来实现内部各部门的成本核算二是负载均衡把同一个模型挂多条渠道互为备份请求失败时自动换路三是用 MySQL 替换默认的 SQLite支撑更高并发的读写压力。配置完成后建议先在测试环境观察一周的请求成功率与延迟曲线再决定是否全面切换。安全与运维清单无论哪条路线三件事别省给部署实例套上 HTTPSNginx 反向代理加证书是标准做法定期备份数据库渠道与令牌配置丢了重建很费时间敏感数据场景优先自建或选择合规渠道注册前先核实平台运营主体资质。日常运维还要养成看日志的习惯请求成功率的波动、单渠道的错误集中往往在故障前就有征兆。两条路线怎么选也有经验可循快速尝鲜、轻度使用、不想碰运维直接用词元之河这类公共聚合平台十分钟接入重度定制、内网合规要求高、有专人维护自建 NewAPI 更可控。两者甚至可以组合使用这也是不少团队最终的形态。
