2026 年，企业自建大模型网关已经有不少成熟起点。LiteLLM、Higress、Apache APISIX、Kong、Portkey、New API 和 Agent Router，分别覆盖模型接入、API 流量治理、路由、用量和云原生管理。
MAI Gateway 则把模型调用与企业组织管理放在一起，支持项目预算、费用分账、脱敏、告警和审计，并提供软件与硬件私有化交付。
这些方案的区别，会直接影响企业后续需要补多少功能、安排多少维护人员，以及怎样处理费用和安全问题。
先分清三种建设路线
基于开源项目自建
这条路线直接使用开源网关，再对接身份、财务、安全和观测系统。企业负责部署、配置、升级和自身扩展代码。
适合有平台团队、已有基础设施，或者需要特殊协议与路由规则的公司。
采购企业网关
企业使用产品提供的控制台和治理功能，由内部团队完成业务接入，厂商提供产品交付与支持。
MAI Gateway 属于这条路线。它支持模型、供应商、组织、项目、令牌、预算、费用、安全和审计集中管理。
采购通用能力，自研业务扩展
企业采购统一接入、权限、计量和审计功能，同时保留自研的 Agent 编排、模型评测、审批和业务系统。
这条路线适合希望减少基础管理开发，又需要控制业务流程的企业。
八种方案的定位对比
| 方案 | 主要特点 | 企业需要重点投入的工作 | 适合的团队 |
|---|---|---|---|
| MAI Gateway | 组织、项目、预算、分账、安全与审计集中管理 | 业务接入、规则配置与系统对接 | 需要完整治理和私有化交付的企业 |
| LiteLLM | 多模型接口、虚拟密钥、预算、成本和路由 | 部署维护、内部系统对接、扩展需求 | AI 平台和研发团队 |
| Higress | Istio、Envoy 与 Wasm 插件，统一管理模型和 MCP 接口 | 插件配置、平台集成与运维 | 云原生平台团队 |
| Apache APISIX | API 与 AI 流量共管，AI 代理和 Token 控制插件 | 企业组织、财务与安全系统集成 | 已有 APISIX 体系的企业 |
| Kong | API 治理、模型协议转换与插件体系 | AI 插件组合、授权与平台集成 | 已有 Kong 平台的企业 |
| Portkey Gateway | 配置化重试、回退、负载均衡与护栏 | 高级管理能力选择及应用集成 | AI 应用和产品团队 |
| New API | 模型渠道、访问、用量、费用与 Web 控制台 | 组织流程对接、维护与许可管理 | 团队内部模型管理 |
| Agent Router | 基于 Envoy Gateway 管理模型访问与推理流量 | 声明式策略、平台运维与业务集成 | Envoy 与 Kubernetes 平台团队 |
第一组对比 接口统一与企业管理
LiteLLM 的虚拟密钥可以管理模型访问和花费，支持预算与速率限制。启用这套密钥管理需要 PostgreSQL。它同时提供管理界面，适合研发团队快速建立多模型入口。
New API 支持自托管，集中管理上游模型、路由、访问、用量与成本。带有 Web 控制台，适合团队内部共享模型服务。
MAI Gateway 进一步提供组织、角色、部门、项目和令牌管理，可以把一次调用对应到业务主体。项目负责人查看自己的消耗，财务按部门与项目分账，管理员按角色分配操作权限。
企业若已有完整身份和财务平台，可以把开源网关接进去。企业若希望直接使用组织、预算和费用管理功能，MAI Gateway 的产品形态更完整。
第二组对比 流量平台与模型平台
Higress 基于 Istio 和 Envoy，可以通过 Wasm 插件扩展，并提供控制台。它支持模型 API 与 MCP API 统一管理，也支持将 OpenAPI 转成远程 MCP 服务。已有 Envoy 或 Istio 经验的团队，可以沿用相近的管理方式。
Apache APISIX 通过 AI 插件提供模型代理、多上游路由、重试、Token 限额、缓存和日志。其优势是把传统 API 与 AI 请求放在同一套流量体系中。
Kong AI Proxy 支持把标准化请求转换到不同模型服务，并将响应转换回来。企业可以复用 Kong 的鉴权、路由与部署方式，再增加 AI 插件。
这组方案适合企业已有的网关团队。MAI Gateway 则更贴近业务管理，除模型接入与路由外，还提供部门预算、项目费用、脱敏和审计界面。
第三组对比 路由、回退与云原生扩展
Portkey Gateway 支持按配置执行重试、回退、加权负载均衡和超时控制，并集成护栏。它的开源网关采用 MIT 许可证，企业版增加组织管理、治理和安全等能力。
Agent Router 的前身是 Envoy AI Gateway，支持多模型统一访问，也可以在 Kubernetes 中与 Envoy Gateway 配合部署。它的两级网关设计分别处理集中鉴权、顶层路由，以及自托管推理集群的细粒度访问与端点选择。
MAI Gateway 支持默认、高可用和主备路由，监控模型供应商状态、延迟与成功率。它把路由操作与组织、费用、安全记录放进同一控制台，方便企业统一运维。
第四组对比 预算与财务分账
预算管理需要同时处理身份、价格和用量。供应商账单通常按账户汇总，企业内部则希望知道哪个部门、哪个项目、哪个应用用了多少钱。
| 管理任务 | 开源自建路线 | MAI Gateway |
|---|---|---|
| 调用身份 | 使用虚拟密钥、消费者或客户端标识 | 组织、项目、用户与令牌关联 |
| 价格维护 | 使用项目价格数据或自定义计费逻辑 | 配置模型输入与输出单价 |
| 配额管理 | 使用预算、限速或 Token 限额 | 部门与项目的日、月、总配额 |
| 费用归属 | 对接内部项目与成本中心 | 部门与项目费用视图 |
| 周期统计 | 日志聚合、报表与数据接口 | 消费总览、明细、趋势与导出 |
LiteLLM 已经具备较完整的成本和预算能力，不能把开源方案简单归为只有转发。MAI Gateway 的差异，是把预算、组织、项目和费用界面一起交付，减少企业自行整合的工作。
第五组对比 许可证与商业成本
不同产品的免费范围差别很大。
| 方案 | 许可或交付特点 | 成本重点 |
|---|---|---|
| LiteLLM | 核心 MIT，企业目录另行授权 | 企业功能授权与运维 |
| Higress | Apache 2.0，另有商业云服务 | 自建运维或商业服务 |
| Apache APISIX | Apache 2.0 | 自建平台与扩展开发 |
| Kong | 开源核心与商业 AI 能力并存 | 插件授权与平台维护 |
| Portkey Gateway | 开源网关 MIT，另有企业版 | 高级管理与支持 |
| New API | AGPLv3，附界面署名与项目链接条款 | 许可管理与内部维护 |
| Agent Router | Apache 2.0 | 平台集成与运维 |
| MAI Gateway | 软件订阅与硬件采购 | 产品、实施与运行资源 |
LiteLLM 的企业目录需要付费许可才能用于生产。Kong 的 AI Semantic Cache 标注需要 AI 许可。New API 的修改版本需要保留指定署名和原项目链接。这些差异会影响预算、二次开发和对外交付。
自建还是买，按企业现状选择
如果公司已经有 API 网关、身份系统、日志平台和专职维护团队，优先评估沿用现有体系。Higress、APISIX、Kong 与 Agent Router 都能提供较强的扩展空间。
如果团队的主要任务是统一多模型调用与基础预算，LiteLLM、Portkey 或 New API 更容易进入试点。
如果企业需要把组织、项目、令牌、预算、分账、脱敏与审计一起落地，MAI Gateway 更适合进入采购首选。它提供软件私有部署和硬件交付，企业可以把精力放到业务接入与规则配置上。
比较时给每个候选方案安排相同任务，记录需要新增的组件、代码、运维事项和人员投入。功能能否完成，以及完成以后谁来维护，会比单独比较采购价格更有用。