MAI Gateway 从部署到上线，可以按六个阶段推进。
确定部署位置，安装服务，接入模型，建立治理规则，完成业务验证，再分批切换流量。
每个阶段都要有可交付结果。运行环境交付访问地址，模型接入交付可调用目录，治理配置交付项目与预算，上线阶段交付监控、备份和回退方案。
一、先确定网关放在哪里
MAI Gateway 可以部署在企业机房、私有云或专有 VPC，并接入公有云模型和已有的私有模型。
| 部署位置 | 适合条件 | 优点 | 主要工作 |
|---|---|---|---|
| 企业机房 | 内部系统多，已有运维体系 | 便于接内部服务与身份系统 | 规划外部模型出口 |
| 专有 VPC | 业务已经在云上 | 网络和资源申请较方便 | 配置路由、证书与访问策略 |
| Kubernetes 平台 | 已有容器平台和发布流程 | 复用资源调度与版本管理 | 配置副本、存储和健康检查 |
| 软硬一体设备 | 需要本地交付与本地模型 | 减少集成工作 | 规划设备与推理容量 |
私有部署管理的是网关所在位置。业务调用公共模型时，请求仍会经过外部接口；涉及敏感数据的业务，要同时规划脱敏、外发范围和本地模型使用规则。
二、安装前完成资产盘点
把现有模型调用整理成清单。
| 对象 | 需要记录的内容 |
|---|---|
| 应用 | 名称、负责人、运行环境、调用接口 |
| 模型 | 模型 ID、用途、供应商、备选模型 |
| 凭证 | Key 所属账号、保管位置、使用范围 |
| 费用 | 月度账单、价格、折扣、计费方式 |
| 数据 | 是否涉及客户资料、代码、合同等内容 |
| 运行 | 峰值并发、超时、重试、历史故障 |
这张清单决定后续配置。遗漏一个应用，就可能留下绕过网关的直接调用；遗漏一把 Key，费用和权限就可能继续分散在原账号中。
三、安装网关与运行依赖
使用 MAI Gateway 交付包中的镜像、脚本和配置模板启动服务，再接入企业域名与 HTTPS。
安装阶段重点处理三件事。
第一，持久化。配置和业务数据要有固定存储位置，日志要有容量规划，备份要能恢复。
第二，网络。应用访问网关、网关访问模型服务、管理员访问控制台，应分别检查。管理入口可以限制在内网或受控网络中。
第三，版本。记录镜像版本、配置版本和依赖版本，后续升级才能找到对应关系。
Docker Compose 可以用于单服务器部署，生产环境还要配置重启策略、日志和外部服务连接。Docker 官方也建议为生产环境维护单独的配置覆盖文件。Docker 生产部署文档
如果需要高可用，还要一起规划入口负载均衡、网关实例和持久化依赖。增加网关副本，只解决其中一部分故障。
四、完成模型与治理配置
MAI Gateway 支持组织、项目、令牌、配额、费用、安全、告警和审计管理。
建议按依赖顺序配置。
| 顺序 | 配置对象 | 完成结果 |
|---|---|---|
| 1 | 供应商与模型 | 模型能够被正确调用 |
| 2 | 输入、输出价格 | 用量可以换算为金额 |
| 3 | 组织与项目 | 调用能够归到责任主体 |
| 4 | 应用令牌与模型权限 | 每个应用有独立身份 |
| 5 | 日、月、总配额 | 项目有明确使用额度 |
| 6 | 路由与备用供应商 | 异常时有处理路径 |
| 7 | 脱敏、日志与告警 | 请求处理可以检查和追踪 |
先配价格再看费用，先配项目再发令牌，先验证主链路再增加备用链路。依赖顺序清楚，排障会省很多时间。
五、验证业务与故障处理
上线测试至少覆盖正常请求、权限拒绝、预算触达和上游故障。
| 测试方向 | 测什么 | 关注结果 |
|---|---|---|
| 兼容性 | 真实 SDK、流式输出、工具调用、文件 | 业务字段与行为正常 |
| 权限 | 无权限模型、停用令牌、过期身份 | 访问被正确限制 |
| 费用 | 输入输出 Token、失败请求、价格变化 | 金额与归属可核对 |
| 故障 | 超时、429、上游断开 | 重试和切换符合策略 |
| 安全 | 敏感信息与正常业务文本 | 处理准确，任务仍可完成 |
| 恢复 | 重启、备份恢复、版本回退 | 配置和业务能够恢复 |
六、分批切换生产流量
| 切换方式 | 优点 | 代价 |
|---|---|---|
| 一次切换全部应用 | 推进快 | 出错影响范围大 |
| 按部门切换 | 方便组织推动 | 部门内应用复杂度可能差异很大 |
| 按应用切换 | 责任清楚，便于对比 | 需要逐个推进 |
| 按环境切换 | 先测试后生产，风险较低 | 周期相对长 |
通常先接测试环境，再选择一个调用方式清楚的生产应用。稳定后扩大到其他项目。
切换前记录原地址、原配置和版本；切换后比较成功率、延迟、费用与日志完整性。出现问题时按预定条件恢复应用配置，排查完成后再继续推进。
七、上线后交接什么
运维交接应包含访问地址、版本信息、负责人、告警接收人、备份位置、恢复步骤和升级流程。
日常观察可以分成三组。
- 运行看成功率、错误率、首包时间和完整响应时间。
- 成本看部门预算、项目费用、高耗令牌和账单差异。
- 治理看共享令牌、权限回收、脱敏记录和管理员操作。