选AI网关的时候，开源方案里LiteLLM是常被提到的名字。MIT协议、100多家供应商、可以自己部署，对有技术团队的公司来说很有吸引力。那它和MAI Gateway这种企业级AI网关有什么区别？这篇聊清楚。
先说LiteLLM是什么
LiteLLM是BerriAI公司出品的开源AI网关，SDK和Proxy部分是MIT协议，可以免费用。它支持100多家模型供应商，包括OpenAI、Anthropic、AWS Bedrock、Azure、Cohere、Ollama等。部署方式是自部署------Docker镜像、Helm Chart（Kubernetes）、Terraform模块都有，支持单体和微服务两种架构。
开源版已经有不少能力：虚拟密钥（按用户/团队/项目发Key）、预算控制、RPM/TPM限流、负载均衡、fallback降级、护栏（内容安全检测回调）、请求/响应日志、Prometheus指标。
企业版额外加了SSO+SCIM、RBAC细粒度权限、审计日志、密钥轮换、多区域部署、SOC 2和ISO 27001合规、24/7支持+SLA。企业版是商业授权，要联系销售报价。
客户案例里有NVIDIA、Netflix、Okta、AT&T这些名字。定位偏"有技术团队的企业自建AI平台"。
LiteLLM和MAI Gateway的共同点
先说一样的地方，这样区别才看得清楚。两个产品都做这几件事：
- 统一接入多家模型供应商
- 私有化部署，数据不出企业
- 虚拟密钥/令牌管理，不直接暴露供应商Key
- 预算控制和限流
- 内容安全检测
- fallback降级和负载均衡
- 请求/响应日志
也就是说，"AI网关该有的基础能力"，两边都有。区别在管多深、怎么管、谁来管。
区别一：开箱即用 vs 自行搭建
LiteLLM是开源项目，能力都在代码里，但要用起来得自己搭。Docker镜像拉下来能跑，但数据库（PostgreSQL+Redis）、监控（Prometheus）、日志系统（Langfuse/LangSmith）这些配套，得自己装、自己连、自己运维。开源版的Admin UI有基础管理功能，但深度治理（组织架构对接、多级配额、内容审计）要么自己开发，要么买企业版。
MAI Gateway是开箱即用的产品。组织架构从企业微信、飞书、钉钉、AD直接同步------同步源2个、用户89个、部门9个，不用手动配。消费明细按五个维度拆账，成本优化页面排高耗用户、做归因分析，配额四维、令牌管理、日志审计全部内置。装上就能用，不用自己写。
这个区别的本质是"谁来干活"：有技术团队的公司，自己搭一套开源方案完全可行，灵活度高、可控性强；没有技术团队或不想投入运维的公司，开箱即用的产品省事。
区别二：组织架构对接的深度
LiteLLM企业版有SSO+SCIM，可以同步用户、按组织/团队做权限控制。开源版这一块比较薄------有虚拟密钥和团队管理，但没有跟企业IM（飞书、钉钉、企业微信）的直接对接，需要自己写同步逻辑。
MAI Gateway的组织管理直接跟企业IM打通。组织架构从源头同步，员工列表按组织树展开，每人的角色、部门、配额（日/月/总）、可用模型范围都列出来。需要批量调整，选中多人一键授权。
区别三：内容安全的实现方式
LiteLLM有护栏框架，开源版支持多种回调：llmguard、llamaguard、openai moderations、google text moderation、lakera prompt injection。数据脱敏用Presidio做PII masking。但这些是"框架"------给你接口和回调机制，具体规则要自己配、自己调。
MAI Gateway的内容安全是"装好就有"的。输入防护三个检测项（提示词注入、文本毒性、图像NSFW）每个独立开关，页面上方四张卡片实时显示检测请求数、拦截数、脱敏处理数和防护率。数据脱敏8条规则预置好------身份证、银行卡、军官证、手机号，按高中低三级处理。输出过滤查文字和图片两路，过滤日志按动作、关键字、时间范围可查。
区别是"框架+回调" vs "预置规则+可视化"。有技术团队能调好框架，灵活度更高；想省事的，预置规则开箱就能拦。
区别四：成本管理的可视化
LiteLLM开源版有成本追踪，每请求记录消耗，支持预算控制。但可视化要看你接了什么------Langfuse、Arize Phoenix、LangSmith，这些是外部工具，得自己搭自己连。
MAI Gateway的消费日志自带可视化：182条记录，每条写着时间、谁用的、哪个模型、花了多少钱，金额精确到小数点后八位。筛选栏按用户、令牌、供应商、模型、部门、项目组合查询，顶部汇总总消费、总调用次数、总Token消耗，导出就能对账。
怎么选
两个产品都支持私有化部署，都不让数据出企业------这是共同前提。在这个前提下，选择标准就两个：
第一个问题：有没有技术团队来运维？
有技术团队，想自己掌控代码、深度定制，LiteLLM开源版是合理选择。MIT协议，灵活度高，社区活跃。但要自己搭数据库、接监控、配安全规则、写组织同步------这些活儿都得有人干。
没有技术团队，或者不想让人力花在运维上，MAI Gateway开箱即用。装上就有组织同步、四维配额、内容安全、成本分析------不用自己搭。
第二个问题：企业级的深度功能是刚需还是可选项？
如果组织架构对接、多级配额、内容审计、成本归因这些是硬要求（比如金融、政务行业），那要么买LiteLLM企业版，要么选MAI Gateway------开源版LiteLLM这些能力需要自己补建。
如果只是基础接入和限流就够，开源版LiteLLM完全可以用。
MAI Gateway（魔芋企业级AI网关）由武汉魔芋数字有限公司开发，有三个软件版本和两个一体机系列，对应的是"不想自己搭、企业级功能要开箱即用"这条路。
https://www.konjac.ai/sign-up?aff=nHChLiteLLM对应的是"有技术团队、想自己掌控"这条路。两条路都对，看团队和需求在哪个阶段。
