选网关的时候,最纠结的是"我这个情况,到底该用哪种"。这篇不说术语,就讲五个实际问题,每个问题对应一个判断维度。你对着自己的情况答一遍,选哪种基本就有数了。
问题一:公司只用文字AI,还是图片视频都用
这是第一个要搞清楚的问题。
如果公司目前只用AI写东西------客服聊天、写文案、写代码------都是文字进文字出,那LLM网关就够用。它专门管文字模型的调用,记账、限流、路由这些基础功能都有。
但如果公司已经在用AI生成图片、生成视频,或者后面打算上,那就要选AI网关。因为LLM网关只管文字,图片和视频的调用它管不了------花了多少钱、谁用的、内容合不合规,都是空白。
MAI Gateway(魔芋企业级AI网关)接入了557个模型,其中411个在线运行,文字、图片、视频、语音都覆盖。不管你现在用不用得多,至少池子是全的,后面加新的不用换网关。

问题二:只有几个人用,还是全公司很多部门用
第二个问题看规模。
如果只是一个小团队几个人在用AI,那LLM网关够了。几个人共用几个Key,谁用了多少大概心里有数,管起来不复杂。
但如果是全公司很多部门在用------客服部、市场部、研发部、行政都在用,那就不是几个人的事儿了。这时候你需要:
- 花名册自动同步,新人入职自动开通,离职自动收回
- 按部门、按项目分开记账,知道每个部门花了多少
- 按人分配权限,谁能用贵的模型、谁只能用便宜的,分清楚
MAI Gateway可以从企业微信、飞书、钉钉、AD直接同步组织架构。比如同步源2个、用户89个、部门9个,员工名单跟着公司的组织架构走,不用手动录。

权限也能细到每个人:有的人能用全部模型,有的人只能用指定的一两个,配额也分开设置------每天多少、每月多少、总共多少,一清二楚。

问题三:要不要按部门算账
第三个问题问财务。
小团队用AI,月底看一眼总额差不多就行。但公司大了,财务会问:客服部花了多少?市场部花了多少?研发花了多少?每个部门各用了哪些模型?
这些问题LLM网关答不上来------它只记调用,不记归属。
MAI Gateway的消费明细可以按五个维度拆账:全部、部门、项目、人员、令牌。每个维度花了多少钱、用了多少Token、占比多少,一行看全。Token消耗还能拆成输入和输出两部分------比如输入1.23M、输出151K,合计1.38M。时间范围想查哪天查哪天,想查哪月查哪月。

不仅能拆账,还能看出谁花得多、钱花得值不值。成本优化页面会排出高耗用户的名次,还能按供应商拆分消费占比,告诉你"同一个模型,换个供应商链路更便宜"------点一下切换,成本就降了。

问题四:有没有合规要求
第四个问题看行业。
如果是普通互联网公司,对数据和合规的要求没那么高,LLM网关能用。
但如果是金融、政务、医疗这些行业,或者公司本身对数据安全要求高,那就得考虑更完整的方案:
- 调用数据不能出企业,得私有化部署
- 敏感信息(身份证、银行卡号)不能直接发到外面
- 每次调用都要留记录,监管来查能拿得出证据
MAI Gateway支持私有化部署,整个网关装在企业内网里,调用数据不经过外部服务器。产品有三个软件版本和两个一体机系列,按需选就行。
问题五:要不要给每个部门设预算
第五个问题看管理精细度。
如果AI总花费不大,不用太精细,那LLM网关的简单限流就够了。
但如果要给每个部门、每个项目设预算------客服部一个月多少钱、市场部一个月多少钱、超了就停------那就需要四维配额:金额上限、Token总量上限、调用频率上限、同时并发数上限。四个维度一起管,才能既不耽误用,又不会失控。

MAI Gateway的配额可以按企业、部门、项目、个人分别设置,周期按天、按周、按月都行。快到上限了自动发提醒,超了自动限速或者直接停。自动化智能体还能单独设置调用频率和最大费用,避免脚本失控把钱烧了。注册即可领取超百万免费试用token!
五个问题一张表
最后把五个问题收一下:
| 判断维度 | LLM网关适用 | 企业级AI网关适用 |
|---|---|---|
| 模态范围 | 只用文字模型 | 文字、图片、视频、语音都有 |
| 使用规模 | 小团队、几个人 | 多部门、全公司 |
| 成本管理 | 看总额就行 | 要按部门按人拆账 |
| 合规要求 | 要求不高 | 数据不能出企业、要留痕审计 |
| 预算管控 | 简单限流 | 按部门按项目设额度、超了告警 |
左边列你占了几条?一条都没占,LLM网关够用;占了两三条,得好好想想;占了四条以上,直接选企业级AI网关。MAI Gateway(魔芋企业级AI网关)由武汉魔芋数字有限公司开发,对应的就是右边列的需求。
