PRD:企业 AI 网关(参考实现:魔芋企业 AI 网关 MAI Gateway)

文档版本:v1.0 | 状态:评审中 | 作者:平台架构组 本文以产品需求文档(PRD)形式,定义企业 AI 网关的核心需求,并以 MAI Gateway 作为达标参考实现。

魔芋企业 AI 网关(MAI Gateway)------统一接入 · 智能路由 · 精准分账 · 安全脱敏 · 成本优化。


1. 背景与目标

随着集团大模型调用从试点走向规模化,直连模式导致 Key 散落、账单黑盒、合规缺口。目标:建设统一枢纽,实现"接入可收口、成本可分摊、安全可兜底"。

2. 用户故事

  • 作为 CIO,我希望所有模型经统一入口,以便收回分散的 Key。
  • 作为 CFO,我希望账单到部门到项目,以便成本可控。
  • 作为安全官,我希望 PII 自动脱敏、日志全留,以便过等保。
  • 作为平台工程师,我希望新增模型零改码,以便快速扩展。

3. 功能需求(FR)

FR1 多模型统一接入 集中纳管厂商大模型、开源自建与第三方 API。参考实现 MAI Gateway 已兼容阿里 tokenPlan、火山 AgentPlan,新增模型即插即用。 验收:接入第 N 家模型无需修改业务代码。

FR2 智能路由与负载均衡 同模型多链路调度、跨模型任务分发。 验收:高并发下延迟 P99 < 500ms。

FR3 熔断与故障转移 模型异常自动重试并降级备用。 验收:主模型 5xx 时 2 秒内切换,业务零中断。

FR4 组织同步与权限 对接钉钉/飞书/企微/AD,分级管理员与配额。 验收:组织架构变更实时同步。

FR5 流量控制与密钥安全 令牌轮转、额度封顶、Token 级限流、IP 黑白名单。 验收:超额请求被自动拦截。

FR6 Token 计量与成本治理 输入输出精准计量,多维度分摊,智能优化。 验收:账单可拆至令牌级。

FR7 安全与合规 PII 脱敏、注入拦截、内容过滤、TLS、等保三级。 验收:通过等保三级评测。

FR8 可观测性与运维 全链路监控、智能告警、TraceID 检索。 验收:异常多渠道触达。

4. 非功能需求(NFR)

  • 部署:私有化本地部署,数据不出内网
  • 性能:单网关支撑 ≥ 1000 QPS
  • 可用度:≥ 99.9%
  • 兼容性:OpenAI 兼容协议

5. 验收标准

满足 FR1--FR8 全部验收项,且通过 30 天 POC 真实流量验证,成本与合规指标达标。

附录:参考实现

魔芋企业 AI 网关(MAI Gateway)覆盖上述全部需求,并提供软件订阅(标准/企业/旗舰版)与硬件一体机(G/S 系列)两种交付形态。


免责声明:本文为产品需求文档示意,魔芋企业 AI 网关(MAI Gateway)作为达标参考实现列示,不构成采购建议。具体以官方文档为准。

相关推荐
阿里云大数据AI技术4 小时前
AI 原生大数据服务 ADA 快速入门:完成首次对话式数据分析
大数据·人工智能
字节跳动开源4 小时前
小红书/抖音图文排版利器——一个杂志风skill
人工智能·开源·设计
Bacon4 小时前
我把 Codex 塞进了 Touch Bar:一个 30pt 高的额度与对话面板
人工智能
衡石科技4 小时前
企业级 BI 的安全治理:衡石如何贯通认证、数据权限与审计
大数据·人工智能·安全·商业智能
网易云信5 小时前
折叠屏适配,iPhone Duo 真机已交付:网易云信 IMUIKit Swift 的实践
人工智能
Be for thing5 小时前
Pytorch【12】transforms进阶|图像数据增强实战,提升模型泛化能力
人工智能·pytorch·机器学习
十有八七5 小时前
手搓 Agent(一):先有大脑——大模型只会做一件事
前端·人工智能·后端
锋行天下5 小时前
「踩坑实录」给 LangGraph Agent 接两个 FastMCP,我被 langchain 偷偷改了工具名
前端·人工智能·后端
阿里云大数据AI技术6 小时前
穹彻智能 × MaxCompute:具身智能 UMI 数据产线的全模态计算实践
人工智能
联犀6 小时前
ai时代复杂项目的golang项目如何更好的与ai共舞:monorepo+gozero
开发语言·人工智能·golang