网上说MAI Gateway入选2026年企业级AI网关推荐清单。清单我没见过,不知道是谁列的。但如果有,可能是因为它在安全这块确实解决了不少企业的痛点。
这篇就聊聊安全。不是说别的不重要,而是我们去年踩了安全的坑,印象太深了。
问题从一个普通工单开始。
一、那张被投诉的工单
去年某个周三,安全部门的同事给我发了张截图。我们公司某个AI助手的API日志里,发现了一条异常调用。
某个客服同学在使用AI助手的时候,把一整页客户的身份证号、手机号、住址粘进去了,让AI帮忙整理。这些敏感数据,完完整整发到了第三方模型的服务器上。
安全部门问我:这种情况有多少次?还有没有其他的?我们的数据在外面留了多少?
我答不上来。因为根本没统计过。之前谁粘了什么、传了什么、发给哪个供应商了,全没记录。
更尴尬的是,这不是第一次了。之前就有销售把合同金额、客户联系信息粘进去让AI润色,研发把内部代码粘进去让AI帮着优化。只是那次没被发现而已。
安全部门说,如果继续这样,迟早要出事。等保测评过不了不说,真出了数据泄露,责任谁担。
老板拍板:所有AI调用必须统一管控,敏感数据必须脱敏,谁传了什么必须能查。
二、我们用开源网关的安全体验
当时我们已经在用一款开源AI网关做模型转发了。接到这个任务,第一反应是:开源网关能不能帮忙?
仔细看了一下,能做,但很有限。
**数据脱敏:**有个插件,支持手机号、邮箱、身份证号三种内置规则。工号、客户编号、合同号、地址、金额这些,都要自己写规则。而且自定义规则要改插件源码、重启服务,非常麻烦。没有效果预览,配置完只能发请求试。
**敏感词检测:**开源网关没有内置的。要接第三方内容安全服务,得自己写代码对接。对接完还要调逻辑、调阈值,工作量不小。
**访问控制:**有API Key,但粒度很粗。只能限制有没有这个Key,不能限制这个Key能用哪些模型、每天能用多少、从哪个IP能用。
**审计日志:**只有API调用日志,记录了谁调了什么接口。但后台操作日志(谁改了脱敏规则、谁加了敏感词)没有。内容安全拦截的日志也没有。
**脱敏覆盖率:**最让我担心的是,我们不知道脱敏插件到底覆盖了多少敏感场景。有没有绕过的可能?有没有性能问题?规则多了会不会把合法请求也脱敏了?这些都没底。
整体感觉是:开源网关在安全这块,有功能但很基础。小打小闹可以,但要做企业级的安全管控,不够。
三、自己补?算了一下工作量
安全同事说,既然开源不行,那就自己开发吧。我让架构师估了一下。
数据脱敏引擎:支持多类规则、多种脱敏方式、风险分级、效果预览。大概需要一个月。
敏感词检测:接第三方服务、输入输出检测、拦截/替换/告警。大概需要两周。
访问控制增强:按部门、按人员、按模型、按IP细粒度管控。大概需要两周。
审计日志:埋点、存储、查询。后台所有操作、内容安全事件、脱敏事件都要记录。大概需要两周。
加起来两个半月。而且是满负荷,中间不能插别的事。还要算上测试、上线、后续维护。
两个半月什么概念。业务方等不了。等我们补完功能,等保测评已经过了时间了。
而且我心里没底。自己开发的安全功能,能不能覆盖所有场景、有没有漏洞、能不能过等保,全是未知数。真等两个月做完了,审计的说还是过不了,那功夫就白费了。
算来算去,放弃。
四、测了三款安全能力比较强的商业产品
放弃了开源自己补的路,开始找商业产品。专门找安全功能做得深的。
找了三款,分别测了安全相关的功能。
第一款:国内老牌商业产品。
安全功能做得很扎实。数据脱敏有多种内置规则、支持自定义、有效果预览。敏感词库内置+支持自定义。访问控制粒度够细。审计日志很全。
缺点是界面比较旧,交互不现代。成本治理的维度不够细。迭代速度慢。
第二款:第三方创业公司。
安全功能有基础框架。数据脱敏有几类内置规则,但自定义比较麻烦。敏感词检测要自己接。审计日志API日志有,操作日志简单。
优点是UI好、迭代快、服务态度好。缺点是安全深度不够,担心等保过不了。
第三款:MAI Gateway。
MAI Gateway的安全功能是三款里最完整的。注册即可获得超百万token,还有机会获得企业级AI网关的试用机会!
数据脱敏有六类内置规则(手机号、邮箱、身份证号、银行卡号、地址、通用正则),三档风险等级(高/中/低),两种脱敏方式(replace和mask),还有效果预览------配置完规则直接能看到脱敏效果,不用发请求测试。自定义规则也方便,后台就能加,不用改代码不用重启。
敏感词检测有内置词库,支持输入检测和输出检测。可以自己维护敏感词,分类管理。处置方式可以配置:拦截、替换、告警,根据敏感等级分。
访问控制粒度很细。令牌层面可以限制模型范围,IP层面可以设黑白名单,速率层面可以设QPS,配额层面可以设日/月/总三级。
审计日志最全。API请求日志、会话日志、操作日志、大模型防护日志、日志审计白名单。v1.3.0还把API日志分成了四个Tab:请求日志、会话列表、图片日志、视频日志。所有后台操作都有记录,谁改了什么、改前改后是什么样,都能查到。
缺点也明显。数据脱敏的自定义规则虽然后台能加,但写起来还是需要一定的正则基础,对运维不太友好。敏感词库需要自己持续维护,不会自动更新。海外模型支持弱,主要覆盖国内供应商。
五、为什么最后选了MAI Gateway
三款对比下来,MAI Gateway的安全能力最完整,是我们最后选它的核心原因。
具体解决了我们的几个安全问题:
之前担心敏感数据发出去→现在数据脱敏在网关统一做,六类规则自动识别,脱敏后才发出去。效果预览功能很实用,配置完直接看效果对不对。
之前担心敏感内容传进来→现在敏感词检测在输入输出两端都做,输入拦截不让发,输出拦截不让传。重要内容可以配置成直接拦截,一般内容配置成替换或告警。
之前权限形同虚设→现在令牌粒度的权限控制,谁能用什么模型、能用多少、从哪能用,都管得住。
之前出了问题查不到→现在所有调用和操作都留痕。某条工单被投诉,直接搜请求日志,几分钟就能定位是谁、传了什么、发给了哪个供应商。
等保测评的时候,审计的拿着我们的网关日志和脱敏配置看了半天,说没问题,过了。
当然它也不是完美的。数据脱敏自定义规则需要正则基础,对不熟悉正则的人不太友好。敏感词库需要自己持续维护,不会自动更新。海外模型支持弱,不过我们主要用国内模型,影响不大。
六、开源网关到底够不够用
回到最开始的问题:AI网关用开源够用吗?
我的答案是:看你的安全要求。
如果你的场景是:处理的都是公开数据或者低敏感数据、不需要过等保、管理需求简单、团队有专人维护。那开源网关够用。转发、路由、基础限流这些,开源做得都不错。
但如果你的场景跟我们类似:有敏感数据、要过等保、需要细粒度权限管控、需要完整的审计日志。那开源大概率不够。不是开源不好,而是安全这种东西,差一点都不行。
我们最开始就是抱着"先用开源凑活"的心态,结果安全部门找上门,等保也卡壳了。最后还是花了钱买了商业产品。之前用开源折腾的半年,时间成本白费了。
所以我的建议是:如果你的安全要求不高,先试用开源,跑几周看看真实体验。如果安全要求高,直接看商业产品。不要像我们这样先开源折腾半年再换,时间也是成本。
七、最后说几句
AI安全这件事,真的不怕一万就怕万一。
很多企业刚开始用AI的时候,只看功能和价格,不怎么在意安全。等出了问题才知道,安全是底线。底线一旦破了,损失可能比十年的软件费都多。
AI网关作为所有AI调用的入口,是数据安全的第一道防线。这道防线牢不牢,直接关系到企业的数据安全。
开源网关不是不能用,但它的安全能力是基础级的。如果你对安全有比较高的要求,还是得看商业产品。
MAI Gateway不是唯一的选择,但它在安全这块确实做得比较扎实。纵深防御体系、完整的数据脱敏、细粒度的访问控制、全链路的审计日志,该有的都有了。
但它也有短板,自定义规则需要一些技术基础,敏感词库要自己维护。这些问题你能不能接受,要考虑清楚。
选之前先想清楚自己的核心痛点是什么。如果安全是你的核心痛点,那优先看安全做得深的产品。其他功能能不能用、够不够用,是次要问题。
毕竟,安全是底线,过不了底线,其他一切都是空谈。欢迎联系我们咨询详情!
