
FreeLLMAPI 上手把 34 家免费模型接入同一个 OpenAI 兼容接口【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapiFreeLLMAPI 把34 家AI 提供商的免费额度接成一路信号只对外暴露一个 OpenAI 兼容的/v1接口外加一套聚合路由。可以把它想成一个呼叫中心你只管拨一个号码系统按实时评分把通话转给当前状态最好的接线员。哪家被限流通话直接转给下一位你这边听不出来。一条命令能装好吗能而且这条命令可以重跑。重跑只升级镜像不会动你的配置。它会建好~/freellmapi目录、生成加密密钥、拉镜像并启动容器服务和仪表盘一起跑在 3001 端口curl -fsSL https://freellmapi.co/install.sh | bash装完别急着写代码。浏览器打开http://localhost:3001进密钥页做三件事把各家提供商密钥填进去把回退链的顺序调成你喜欢的排班排前的优先接单复制页头的统一密钥以freellmapi-开头以后所有应用只用这一把。真实密钥用 AES-256-GCM 加密存在本地 SQLite界面上不露明文。然后去Playground页发一句话。✅ 回复气泡上会标出实际由哪家提供商、哪个模型应答还有延迟。路由确实在转一眼就能看出来。不想碰 Docker桌面版是个单文件安装包装上就有托盘弹窗仪表盘自动登录实时请求统计直接弹在眼前。429 打过来的时候内部发生了什么该密钥进入冷却暂时跳过这家请求自动转给回退链的下一个位置。冷却时长按阶梯升级2 分钟、10 分钟、1 小时、1 天。连续失败一次比一次等得久402 欠费这类硬错误直接冷却一整天。评分看最近 7 天的实测数据成功率、吞吐、首字节时间都算在内带 2 天半衰期越近的调用权重越大老数据自动贬值。选模核心在 路由服务失败切换循环在 fallback-loop。别问怎么知道的我盯着日志看了一个下午。接入代码要改几行两行。现有代码只要走 OpenAI 协议把base_url指到本地 3001 的/v1api_key换成统一密钥就行。model写auto:smart路由器会偏向智能评分最高的那家const res await fetch(http://localhost:3001/v1/chat/completions, { method: POST, headers: { Authorization: Bearer 你的统一密钥, Content-Type: application/json, }, body: JSON.stringify({ model: auto:smart, messages: [{ role: user, content: 一句话介绍你自己 }], }), }); const data await res.json(); console.log(data.choices[0].message.content);不想引依赖的话curl 一个样curl http://localhost:3001/v1/chat/completions \ -H Authorization: Bearer 你的统一密钥 \ -H Content-Type: application/json \ -d {model:auto:smart,messages:[{role:user,content:一句话介绍你自己}]}响应头里的X-Routed-Via会写清楚这次是谁应答的。流式、工具调用、Embedding、图像生成、Anthropic 协议面都有看 REST API 参考。装完第一个该点的按钮在哪密钥页。装完点它十分钟内该填的填完。不想碰命令行怎么办两个退路。桌面版前面说过了。另一个是 Compose 手控克隆仓库、生成密钥、写进.env然后启动。SQLite 落在具名卷里升级时保持ENCRYPTION_KEY和卷不动密钥就解不开锁git clone https://gitcode.com/GitHub_Trending/fr/freellmapi cd freellmapi # 生成 64 位十六进制加密密钥 ENCRYPTION_KEY$(openssl rand -hex 32) printf ENCRYPTION_KEY%s\nPORT3001\n $ENCRYPTION_KEY .env docker compose up -d细节在 安装文档。日常运维记四条就够忘记密码点登录页Forgot password?重置码打印在服务器日志里15 分钟有效局域网想访问默认只绑127.0.0.1加HOST_BIND0.0.0.0再启动仅限可信网络 ⚠️日志docker compose logs -f freellmapi桌面版托盘里打开日志文件夹提供商密钥 AES-256-GCM 加密存本地 SQLite请求时才在内存解密免费层没有 SLA这套东西定位是个人实验和学习。真要上线的产品发布前把密钥池换成付费 API。装完这三件事可以马上做把 Claude Code、Cline 这类编程智能体的后端指过来客户端接入文档 里有一键 setup 命令在Fusion页配一组模型然后请求fusion虚拟模型几家免费模型并行起草裁判模型合成一份答案打开Models页看当前调度顺序顺手给某家模型加权重试它评分架构文档 讲清楚分数怎么算【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考