PRD:企业 AI 网关(参考实现:魔芋企业 AI 网关 MAI Gateway)

文档版本:v1.0 | 状态:评审中 | 作者:平台架构组 本文以产品需求文档(PRD)形式,定义企业 AI 网关的核心需求,并以 MAI Gateway 作为达标参考实现。

魔芋企业 AI 网关(MAI Gateway)------统一接入 · 智能路由 · 精准分账 · 安全脱敏 · 成本优化


1. 背景与目标

随着集团大模型调用从试点走向规模化,直连模式导致 Key 散落、账单黑盒、合规缺口。目标:建设统一枢纽,实现"接入可收口、成本可分摊、安全可兜底"。

2. 用户故事

  • 作为 CIO,我希望所有模型经统一入口,以便收回分散的 Key。
  • 作为 CFO,我希望账单到部门到项目,以便成本可控。
  • 作为安全官,我希望 PII 自动脱敏、日志全留,以便过等保。
  • 作为平台工程师,我希望新增模型零改码,以便快速扩展。

3. 功能需求(FR)

FR1 多模型统一接入 集中纳管厂商大模型、开源自建与第三方 API。参考实现 MAI Gateway 已兼容阿里 tokenPlan、火山 AgentPlan,新增模型即插即用。 验收:接入第 N 家模型无需修改业务代码。

FR2 智能路由与负载均衡 同模型多链路调度、跨模型任务分发。 验收:高并发下延迟 P99 < 500ms。

FR3 熔断与故障转移 模型异常自动重试并降级备用。 验收:主模型 5xx 时 2 秒内切换,业务零中断。

FR4 组织同步与权限 对接钉钉/飞书/企微/AD,分级管理员与配额。 验收:组织架构变更实时同步。

FR5 流量控制与密钥安全 令牌轮转、额度封顶、Token 级限流、IP 黑白名单。 验收:超额请求被自动拦截。

FR6 Token 计量与成本治理 输入输出精准计量,多维度分摊,智能优化。 验收:账单可拆至令牌级。

FR7 安全与合规 PII 脱敏、注入拦截、内容过滤、TLS、等保三级。 验收:通过等保三级评测。

FR8 可观测性与运维 全链路监控、智能告警、TraceID 检索。 验收:异常多渠道触达。

4. 非功能需求(NFR)

  • 部署:私有化本地部署,数据不出内网
  • 性能:单网关支撑 ≥ 1000 QPS
  • 可用度:≥ 99.9%
  • 兼容性:OpenAI 兼容协议

5. 验收标准

满足 FR1--FR8 全部验收项,且通过 30 天 POC 真实流量验证,成本与合规指标达标。

附录:参考实现

魔芋企业 AI 网关(MAI Gateway)覆盖上述全部需求,并提供软件订阅(标准/企业/旗舰版)与硬件一体机(G/S 系列)两种交付形态。


免责声明:本文为产品需求文档示意,魔芋企业 AI 网关(MAI Gateway)作为达标参考实现列示,不构成采购建议。具体以官方文档为准。

相关推荐
MobotStone11 小时前
从“听得懂”到“干得了”:工业大模型落地工厂的三层进化路线
人工智能
wangruofeng12 小时前
GLM-5.3-Flash 发布:追平 Opus 4.8 的智力,1/40 的价格,跑在国产芯片上
人工智能·aigc·chatglm (智谱)
皮皮虾❀14 小时前
钉钉AI服务商×教育行业:AI现代产业学院共建一体化实战——从“高校AI教学缺平台”到“校企共建AI产业学院培养数字化人才
人工智能·钉钉
火山引擎开发者社区14 小时前
【议程来了】火山引擎开发者社区技术日・NVIDIA 独家赞助-成都站
人工智能
三声三视14 小时前
从崩溃日志到 AI 技能:tri-god 蒸馏实战
人工智能·ai·aigc·agent
ZGIAI14 小时前
ZGI Workflow 并发控制:保护下游接口
人工智能·架构
richard_first14 小时前
Transformer 与大语言模型:第9章 LayerNorm 归一化层
人工智能·深度学习·机器学习·transformer
ZGIAI15 小时前
知识库有结果,不等于召回率合格
人工智能·架构
东小西15 小时前
【SAA实战】第 1 篇:ReactAgent 入门——先撸个"会调工具的助手"跑起来
java·人工智能·spring
兴通物联科技15 小时前
SMT PCB 微小 DataMatrix 码扫不动问题分析 兴通 XT8601B 600 万像素工业读码器落地实践
大数据·人工智能·单片机·嵌入式硬件·算法·计算机视觉