FreeLLMAPI 指南把 34 家 LLM 厂商的免费额度接进同一个 API每月白拿 74 亿 Token【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapiFreeLLMAPI 是一个可自托管的 LLM 路由网关把 Google、Groq、Mistral 等 34 家厂商的免费层接到同一个 OpenAI 兼容的 /v1 接口上合计 635 个免费模型端点每月约 74 亿 token 的免费容量。它替你接手三件事每个请求自动挑最优模型、某家被限流时自动切走、厂商密钥加密落盘。如果你不想为十几家平台分别注册账号、分别写适配代码又想用免费 token 跑原型或给编程智能体接上后脑这篇文章能让你在 10 分钟里把服务跑起来、拿到统一密钥、看到第一条免费回复。十分钟跑通装好、配好、发出第一笔请求最短路径是 Docker 一行命令curl -fsSL https://freellmapi.co/install.sh | bash装这一行会建好~/freellmapi数据目录、生成加密密钥、拉镜像并启动容器。脚本可以重复执行容器只会更新到最新版已有的密钥和配置不丢。跑完在浏览器打开http://localhost:3001直接就是仪表盘。配在 Keys 页把你手头的厂商密钥填进去Google AI Studio、Groq、Mistral 都行再拖动 Fallback Chain 调整顺序排前面的优先被选最后在页顶拿走以freellmapi-…开头的统一密钥往后你的程序只用它一把。厂商原始密钥落进本地 SQLite 前已经过 AES-256-GCM 加密程序侧只能看到统一密钥。发把 OpenAI SDK 指到本地一次调用就有回复from openai import OpenAI client OpenAI(base_urlhttp://localhost:3001/v1, api_keyfreellmapi-your-unified-key) resp client.chat.completions.create( modelauto, messages[{role: user, content: 用一句话总结罗马帝国衰落的原因。}], ) print(resp.choices[0].message.content)modelauto交给路由器挑选。响应头里还有一行X-Routed-Via直接标出这次是哪家应答的。把这个池子用出更多4 种切换与接入方式按请求调取向这次想快就写auto:fast想聪明就写auto:smart取向只对本次请求生效写具体模型名则直接点名。按请求换回退链命名好的回退链配置档编程链、视觉链平时在仪表盘切换临时换用auto:配置档名。多模型并行合成请求虚拟模型fusion一条提示词会同时发给多个风格各异的免费模型再由裁判模型把几份草稿合成一个最终答案。接入自己的模型任何 OpenAI 兼容端点Ollama、vLLM、LM Studio都能在 Keys 页挂成自定义提供商本地小模型从此和云端免费层共享同一条路由。不想敲代码就在 Playground 页发一句话回复下方会标出实际应答的模型和耗时。流式、工具调用、Embedding、Anthropic Messages 接口的完整参数在 API 参考Claude Code、Codex CLI、Aider 等编程智能体各有一键接入写法见 客户端接入文档。一张图看懂请求是怎么被路由的一个请求进来先过评分表路由器按速度、能力、可靠性三个轴给所有候选模型打分评分从实时流量里持续学习然后只在密钥健康、没触限的模型里挑分最高的一家应答。这次调用如果撞上 429 或 5xx对应密钥立刻进冷却请求转给回退链上的下一家重试整轮最多 20 次尝试。链路底下还压着一本账按(平台, 模型, 密钥)粒度记 RPM、RPD、TPM、TPD 四类计数器保证没有任何一把密钥被池子推着越过免费上限。看懂这条链路某家厂商一直没被用到时你就能立刻定位卡点不用瞎猜。实现细节可以看 路由核心源码 和 架构文档。免费 Token 花到哪了看这两个面板Models 页每个模型挂着可靠性、速度、智能三项实时评分列表顺序就是此刻真实的路由顺序页面顶部还有整个模型池的月度 token 预算消耗进度。它回答我的免费容量还剩多少、谁在干活。Analytics 页请求量、成功率、token 进出量、平均延迟、按提供商拆分p50/p95 与首 token 时延TTFT都能查时间窗从 24 小时一直拉到 90 天。它回答这个池子靠不靠谱、哪家贡献最大。四个常见卡点服务器版要登录密码桌面版内置隐藏本地账号打开即自动登录只有 Docker 或源码部署的服务器版首次启动才需要设邮箱和密码。服务器版密码忘了登录页点 Forgot password?重置码直接打在服务器日志里docker compose logs -f freellmapi可取15 分钟内有效。局域网别的设备打不开默认只绑定127.0.0.1别处够不着带HOST_BIND0.0.0.0重跑才能暴露到局域网——只在可信网络里这么做单用户服务唯一的防护就是那把统一密钥。宿主机连得上厂商容器里却连不上容器内的127.0.0.1指容器自己若你靠宿主机的代理客户端访问上游把代理地址改指向host.docker.internal。免费层的三个真实取舍一别期待稳定用上前沿模型它们确实出现在个别厂商的免费层但日额度最小、最可能随时被下线或转收费。二端点的有效智能在每天后半段往下走要等 UTC 午夜日额度重置才回来。三没有 SLA设计上就是单用户延迟也会随应答厂商浮动。适合个人实验、学习和给原型接编程智能体不适合需要稳定能力上限与可用性的生产服务。最后提醒一句各厂商的服务条款从一开始就约束着你打磨真实产品没问题但上线之前请换成付费 API。【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
