MAI Gateway（魔芋企业AI网关）支持智能路由。企业可以按照模型负载、调用成本和业务优先级配置规则，由网关自动分配请求。产品资料列出了高可用、主备、成本优先和Auto虚拟模型等路由策略，也支持按场景、部门、用户和供应商设置规则。
对于企业来说，智能路由解决的是一个具体问题------同一个调用入口后面，怎样选择合适的模型，以及模型异常后怎样继续处理请求。
智能路由怎样选择模型
根据MAI Gateway功能清单及接入资料，路由决策可以结合以下维度。
| 决策维度 | 主要考虑什么 | 适用场景 |
|---|---|---|
| 模型负载 | 哪个服务还有处理能力 | 多个模型实例共同承担请求 |
| 调用成本 | 哪个候选模型的调用费用更低 | 高频问答、信息提取、格式转换 |
| 业务优先级 | 哪类请求应优先获得服务 | 在线业务与后台任务共同使用模型 |
| 场景与人员 | 哪个部门、用户可以使用哪些模型 | 不同团队使用不同模型组合 |
| 可用性 | 当前模型是否超时、失败或响应过慢 | 主模型异常时使用备用服务 |
四类策略有什么区别
MAI Gateway资料列出的路由策略，分别对应不同的调度目标。
| 策略 | 核心目标 | 配置重点 |
|---|---|---|
| 高可用 | 提高请求获得有效响应的机会 | 候选服务、健康状态、失败处理 |
| 主备 | 优先使用主服务，异常时切换备用 | 主备顺序、切换条件、恢复条件 |
| 成本优先 | 在合格候选中控制调用费用 | 模型单价、质量要求、费用口径 |
| Auto虚拟模型 | 通过统一逻辑模型入口自动选择后端 | 候选模型范围、匹配规则、能力约束 |
MAI还支持按任务语义匹配模型的方式。例如，把基础信息提取分配给低成本模型，把复杂推理分配给能力更强的模型。具体如何分类、分类错误怎样处理，需要结合所部署版本和业务样本验证。
主模型异常后会发生什么
上游超时、限流、请求失败或延迟过高时，可以触发备用模型或备用连接，并在服务恢复后重新纳入调度。
这里需要区分两种切换。
同一模型切换供应商，主要改变服务来源，切换线路。切换到另一种模型，则可能改变回答风格、工具参数、结构化输出和推理效果。统一接口减少了接入改造。
路由怎样与成本、安全和审计配合
MAI Gateway可以配置模型输入输出单价，并按部门、项目、人员、令牌和模型查看消费明细。成本优化模块在功能清单中还包括识别高耗用户、高耗模型、高耗项目，并提供优化建议。
这些数据可以帮助管理员调整候选模型和路由规则。评价效果时，应同时看费用、成功率、响应时间和任务完成质量。低价模型如果造成更多重试，整体费用未必下降。
权限与安全规则也要随路由生效。某个项目只能使用本地模型时，备用候选也应限制在允许范围内。IP控制、输入防护、数据脱敏和输出过滤，则负责处理调用过程中的安全要求。
API日志通过Trace ID记录调用主体、模型、供应商、状态和耗时。路由调整前后，管理员可以据此比较实际去向和调用结果，判断策略是否达到了预期。