文章目录Kong Gateway4.3 万 Star 的 API 网关现在也能管 AI 流量了重点说说 AI 这块插件生态适合什么场景和同类比怎么样Kong Gateway4.3 万 Star 的 API 网关现在也能管 AI 流量了Kong Gateway 在 GitHub 上有 4.3 万 StarAPI 网关领域里的老项目了。最近它加了一个新方向开始支持 LLM 和 MCP 流量管理。先说基础能力。Kong 把 API 管理的脏活累活集中到一个层里处理。路由、负载均衡、健康检查、认证鉴权这些功能它都有。认证方式也覆盖得全JWT、OAuth、基本认证、ACL 都支持。它跑在 Kubernetes 上是原生支持的官方维护了一个 Ingress Controller不用额外折腾。部署模式有两种比较实用一种是无数据库的声明式部署配置全写文件里适合简单场景另一种是混合部署控制面和数据面分开适合规模大一点的团队。重点说说 AI 这块Kong 现在提供了一个统一的 LLM API 接口。什么意思呢你后端接了 OpenAI、Anthropic、Gemini、Bedrock、Azure AI、Mistral 这些不同厂商的模型Kong 能帮你统一路由。前端调用方不用关心后端到底用的哪个模型Kong 在中间做转换和分发。对做 AI 应用的团队来说这个能力解决了实际问题。大模型厂商多每个接口格式不同业务代码里到处写适配逻辑很麻烦。Kong 把这层抽出来业务代码只对接一个统一接口。另外它还做了 MCP 流量治理。MCP 是 Anthropic 推出来的模型上下文协议最近在 AI 工具链里用得越来越多。Kong 对 MCP 的支持包括流量安全、可观测性甚至能把现有的 RESTful API 自动生成 MCP 接口。这个功能比较新但方向是对的。AI 相关的功能有 60 多个包括语义安全、语义缓存、语义路由、AI 可观测性。数字看着多做的事情其实就一件把传统 API 网关的治理手段搬到 AI 流量上来。插件生态Kong 的扩展性靠插件体系支撑。官方有个 Plugin Hub上面有 AWS Lambda、请求响应转换、日志、监控等各种插件。社区也能贡献你自己写的插件可以发布上去给别人用。插件开发支持 Lua、Go、JavaScript 三种语言门槛不算高。如果你有特殊的流量处理需求写个插件挂上去就行不用改 Kong 本身的代码。适合什么场景Kong 适合的场景比较明确微服务架构下服务之间调用关系复杂需要一个统一的网关做流量管理。Kong 在这个方向上打磨了很多年稳定性经过验证。AI 应用场景后端接了多个大模型厂商需要统一路由和治理。这是 Kong 新加的能力对正在做 AI 产品的团队比较有吸引力。已经有 Kubernetes 集群的团队想在现有基础设施上加一层网关Kong 的 Ingress Controller 可以直接用不用额外引入一套东西。不太适合的场景团队规模很小服务就两三个上一个完整的网关反而增加了复杂度。这种情况下用 Nginx 或者云厂商自带的负载均衡可能更简单。和同类比怎么样API 网关这个赛道竞争挺激烈。Traefik、Envoy、APISIX 都是 Kong 的竞品。Kong 的优势在于生态成熟、文档完善、商业支持到位。劣势是 Lua 技术栈相对小众性能在某些基准测试里不如 Envoy。但 Kong 现在把 AI 流量管理加进来算是和竞品拉开了一个差异化。其他网关目前还没在这个方向上投入这么多。Kong 本身是一个成熟的 API 网关AI 能力是它新增的卖点。业务涉及大量 API 管理或者多模型路由的话可以花时间看看。网关AI 能力是它新增的卖点。业务涉及大量 API 管理或者多模型路由的话可以花时间看看。
