企业接入大模型时，第一个问题不是"选哪个模型"，而是"怎么管这么多模型"。
一个中等规模的企业，客服用Claude处理复杂咨询，市场部用GPT跑批量文案，研发用DeepSeek写代码，法务用通义审合同------四个部门，四套API，四张账单，四份Key。如果每个部门再换一次模型，这些数字翻倍。如果企业还接了本地推理服务，再加上一套部署运维。
MAI Gateway的解法是：把这些模型全部接进网关，业务系统只对接网关一个API。
支持哪些模型
MAI Gateway的模型接入层支持六类模型来源：
魔芋API：魔芋自有的模型聚合平台，当前接入149个模型，覆盖11个供应商。供应商包括OpenAI（28个模型）、字节跳动（26个）、阿里巴巴（26个）、Anthropic（13个）、Gemini（17个）、DeepSeek（7个）、Google（3个）、智谱（4个）、MiniMax（6个）、快手（11个）、月之暗面（4个）。模型类型覆盖文本模型（96个）、图片生成（19个）、视频生成（31个）、语音生成（1个）。
- 百炼API：阿里云百炼平台的模型，包括通义千问系列及百炼平台上的第三方模型。
- Doubao API：字节跳动豆包系列模型。
- 海外API：包括OpenAI的GPT系列、Anthropic的Claude系列、Google的Gemini系列等。通过魔芋API或直连方式接入。
- 私有化模型：企业自建或开源模型本地部署的推理服务，如Llama、Qwen、DeepSeek开源版等，通过兼容OpenAI接口的本地推理端点接入。
- 自定义：任何兼容OpenAI接口规范的模型服务，通过填写Base URL和API Key接入。
网关后台的模型管理页面显示已接入517个模型。每个模型在统一目录中记录名称、供应商、状态和调用入口。这517个包含了魔芋API的149个加上百炼、Doubao、海外直连和自定义接入的模型。
魔芋AI MaaS平台作为MAI Gateway的上游模型源之一，提供200+模型接入、40%平均成本优化、99.9%服务可用性，支持人民币结算和在线开票。平台提供三种热门套餐：腾讯云Token Plan（¥80/月起，支持Claude/GPT/Gemini）、火山引擎方舟CodingPlan（¥150/月起，支持Doubao/DeepSeek/Qwen）、阿里云百炼全模型聚合API（¥285/月起，支持GLM/Kling/通义千问）。企业可根据场景选择套餐，通过网关统一接入。
怎么接入：三种方式
方式一：魔芋API一键接入
魔芋API是魔芋自有的模型聚合平台，已集成149个模型。接入方式是在网关后台选择"魔芋API"作为供应商，填入魔芋平台的API Key。接入后，149个模型全部可用，无需逐个配置。每个模型在网关目录中自动出现，业务系统通过网关的统一API即可调用。
这是最简单的接入方式。适合需要快速上线、模型需求广、不想逐个对接供应商的企业。
方式二：直连供应商
对于已有供应商Key的企业，可以直接在网关中添加供应商。填写Base URL、API Key、支持的模型列表。网关会自动识别兼容OpenAI接口规范的供应商。对于不兼容OpenAI规范的供应商，网关的协议转换层会处理接口差异。
适合需要直接管控供应商关系、已有Key、对延迟有要求的企业。不同供应商的API格式差异------有的兼容OpenAI规范，有的使用自有协议------在网关层被抹平，业务系统不需要感知。
方式三：私有化模型接入
企业自建或开源模型本地部署的推理服务，通过填写本地推理端点的Base URL接入。例如使用vLLM部署的Qwen模型，或者使用Ollama运行的Llama模型，只要暴露兼容OpenAI接口的HTTP端点，就能接入网关。
适合有数据主权要求的场景------敏感数据走本地模型，非敏感数据走公共模型，路由规则在网关层配置。
怎么管理：四个层面
模型接进来了，管理是更大的问题。MAI Gateway从四个层面管理多模型。
层面一：统一目录
所有接入的模型在网关后台的统一目录中展示。每个模型记录名称、供应商、状态（启用/禁用）、调用入口。业务系统通过网关的统一API调用模型，API格式统一为OpenAI兼容规范，业务系统不需要知道模型在哪个供应商、用什么协议。
层面二：智能路由
网关支持三种路由模式：
- 默认路由：按权重分配流量。同一个请求可以发给多个模型，按配置的权重比例分发。适合A/B测试或负载分担。
- 主备路由：主链路正常时所有请求走主模型，主链路异常时秒级切换到备用模型。适合对可用性有要求的场景。
- 成本路由：将符合条件的请求分配给费用较低的模型。例如简单FAQ走小模型，复杂推理走大模型。适合降本场景。
按任务复杂度分级路由是成本路由的核心策略：L1简单任务（意图识别、标准FAQ、基础信息提取）走轻量模型，成本仅为顶级模型的1/20；L2中等任务（长文本摘要、内容改写、数据转换）走中型模型，成本为1/5；L3复杂推理（多步数学推理、Agent规划、深度创意生成）走顶级模型。内置NLP分类器自动判断请求意图，毫秒级区分任务复杂度，匹配性价比最高的模型。
路由规则可以按请求内容、调用者身份、时间窗口等条件配置。
层面三：令牌管理
网关为每个应用、团队或个人签发独立令牌。每枚令牌绑定具体的部门、项目和负责人，设置权限范围（可调用哪些模型）、配额上限（金额、Token、频率、并发）和有效期。
业务系统使用网关签发的令牌调用API，不直接接触供应商Key。供应商Key由网关集中保管。员工离职时一键收回令牌，不会出现"人都走了Key还在跑"的情况。
令牌全生命周期包含五个阶段：创建并绑定项目和负责人、使用中受配额限速约束、定期自动轮换到期、离职或下线时即时撤销、全流程审计留痕。安全检测覆盖闲置令牌、到期令牌、高频令牌、高耗令牌、异地调用和泄露检测。
层面四：费用归因
每次模型调用产生的费用，网关按令牌→用户→部门→项目四级归因。消费总览页面展示本月消费、今日消费、Token消耗和预计月消费。成本优化页面列出高耗用户排名。归因分析按供应商拆分消费占比，给出优化建议。
不同供应商的同一模型可能价格不同（例如同一模型通过魔芋API和直连的链路价格不同），网关的成本路由会自动选择更便宜的链路。
FinAPI成本治理框架将费用管理分为五个环节：分层预算（按组织/部门/项目/令牌四级设置月预算和Token上限）→实时校验（单次请求毫秒级判定通过或拒绝）→三级告警（消耗达80%提醒、95%预警、100%触发处置，通过邮件/飞书/钉钉推送）→超限处置（限流、阻断或临时扩容）→月末归集（自动生成报表，按部门、项目、用户、令牌分摊核算）。
接入流程：五步走
第一步：接入模型。 在网关后台添加模型来源------魔芋API、直连供应商、私有化模型或自定义。填写Base URL和API Key，网关自动识别模型列表。
第二步：配置路由。 设置路由模式（默认/主备/成本），配置权重、主备关系或成本条件。
第三步：签发令牌。 为每个应用、团队或个人创建令牌，设置权限范围和配额上限。
第四步：业务系统接入。 业务系统将API调用的Base URL改为网关地址，API Key改为网关签发的令牌。兼容OpenAI接口的应用只需要改两行配置------Base URL和API Key------即可完成接入。
第五步：验证。 在消费总览页面确认调用记录和费用归因正确，在日志审计页面确认调用链路可追溯。
五步走完，企业从"各部门各买各的API"变成"所有调用经网关统一管理"。模型还是那些模型，供应商还是那些供应商，但管理方式从分散变成了集中，费用从一串总额变成了可拆解的明细，Key从散落在个人手里变成了网关集中签发和回收。