大模型会话里的手机号、身份证,怎么自动脱敏?

很多企业上线大模型之后,都踩过同一个隐形大坑。员工和 AI 对话的时候,随手粘贴业务资料,客户身份证号、联系电话直接丢进会话框。模型能正常读取内容给出回答,但这些敏感信息会留在请求日志、模型缓存、会话记录里。等到审计检查或者数据泄露风险排查时,才发现到处散落着明文隐私数据,整改起来工作量巨大。

不少团队一开始想靠制度解决,发通知要求员工不能在 AI 对话里粘贴证件信息。但人的操作很难完全约束,业务赶工的时候,谁都有可能图省事直接复制文本。单纯依靠人为自觉,本质上是把数据安全的赌注押在人的细心程度上,风险始终悬在头顶。

手动脱敏,治标但很难持续

有些技术团队会写简单的正则脚本,识别文本里的手机号和身份证号,在发送给大模型之前替换星号。这套方案上手门槛低,短文本场景看着效果不错,所以很多企业初期都会优先尝试。

实际跑一段时间就会暴露出不少短板。正则表达式只能匹配格式标准的字符串,一旦文本里夹杂换行、空格、备注文字,号码被拆分,脚本就识别失效。业务文档的格式千变万化,很难靠一套固定规则覆盖全部场景。

脱敏本身也会带来新麻烦。只做简单替换,容易把非敏感的相似数字误杀。比如订单编号、产品序列号,被误识别成身份证号直接打码,传给大模型的信息残缺,AI 输出结果出错,反过来影响业务效率。而且脱敏之后,缺少完整的审计链路,谁发起的请求、哪些内容做了脱敏,没法统一留存记录,满足不了合规核查要求。

维护这套脚本同样消耗人力。业务场景持续新增,规则要不断迭代,不同大模型 API 接入之后,还要适配各个接口的数据格式。分散在各个业务侧的脱敏逻辑,没法统一管控,一旦某个业务模块忘记更新规则,就会出现防护缺口。

会话全链路脱敏,要兼顾安全与可用性

真正适配大模型场景的脱敏,不能只在发送前做简单字符串替换。需要在 AI 请求流转的链路中,识别、脱敏、记录,同时尽量不破坏原有业务上下文,保证模型还能正常完成任务。

敏感信息识别,不只是匹配固定格式。除了手机号、身份证,企业还会遇到银行卡、地址、邮箱这类信息。引擎需要结合上下文语义判断,区分是真实证件号码,还是长得类似的编码,降低误识别率。脱敏策略也可以灵活配置,部分场景选择掩码替换,部分场景直接剔除敏感字段,按需调整。

数据流向也需要分层处理。原始明文只在网关内部完成识别脱敏,转发给上游大模型的请求内容,已经去除敏感信息。模型返回的结果同样可以做扫描,防止模型复述出会话里的隐私内容。整个会话过程,外部模型侧全程拿不到原始敏感数据,从源头减少外泄风险。

很多企业担心脱敏会影响业务使用。好的脱敏机制不会改动无关业务内容,只替换命中规则的字段。业务人员不用改变自己的使用习惯,照常输入对话,整个过程无感完成。不会要求员工额外操作,也就不会出现为了规避限制绕开管控的情况。

合规层面的配套能力也不能忽略。脱敏操作本身留下日志,记录触发脱敏的会话 ID、命中类型、处理时间,原始明文不会写入日志。后续审计需要核验时,可以调取脱敏事件记录,不用存储完整敏感原文,兼顾审计追溯和数据保护。

统一网关承载脱敏能力,降低企业落地成本

单独为每一套大模型应用开发脱敏模块,重复开发成本高,后续维护麻烦。借助 AI 网关,把敏感信息识别、脱敏、审计能力放在请求入口,是现在很多企业更倾向的落地方式。

流量经过网关时统一扫描处理,不管后端对接的是多家公有大模型,还是私有化部署模型,都复用同一套脱敏规则。规则集中管理,一次配置,所有接入模型的业务会话都生效,不用逐个业务系统改造。

除了脱敏,网关还能和请求过滤、访问权限、用量审计能力联动。同一个平台管控 AI 会话的安全与成本,不用搭建多个独立组件,减少运维负担。当业务扩张,新增模型或者新增员工使用场景,安全策略也能同步复用,扩展起来更省心。

不少企业在落地时,会先做小范围试点。选取一两个内部业务场景开启脱敏,持续调优识别规则,平衡误报和漏报,验证稳定之后,再逐步全量推广,降低一次性上线的风险。

写在最后

大模型的普及,让数据流动变得更加频繁。隐私信息不再只藏在数据库,还会散落在每一次员工和模型的对话当中。单纯依靠员工自律,或是零散的脚本脱敏,很难长期守住安全底线。

自动脱敏不是一次性项目,而是 AI 应用长期治理里的基础能力。在会话入口完成敏感内容识别处理,既能守住隐私合规的底线,也不用牺牲业务效率。借助 AI 网关把脱敏能力统一收敛,企业在使用各类大模型时,可以更安心地释放 AI 价值,不用持续担心隐私信息在调用链路里意外泄露。

相关推荐
她说可以呀3 小时前
Vue插槽
前端·javascript·vue.js
qq_448011163 小时前
Vue + Jinja2两套模版与法冲突造成undefinedError
前端·javascript·vue.js
FRing035 小时前
JavaScript入门到精通三十二(深拷贝、浅拷贝、递归函数)
开发语言·前端·javascript
择势6 小时前
iPhone Duo 适配实践:从几何原理到工程封装
ai编程
时早玖沐6 小时前
给 AstrBot 写一个天气推送插件:12 次提交、6 个坑
python·开源·ai编程
qinglongcn6 小时前
当 Agent “很努力但没用”——伪进展检测
agent·ai编程
灿飞6 小时前
第 3 章 第一个 Mojo 程序与 CLI 全解
ai编程
程序员老刘7 小时前
从短剧App的bug看响应式编程在AI时代的优势
flutter·ai编程·客户端
ServBay7 小时前
API Key 泄露如何在 10 分钟内止血?AI 密钥管理必备
后端·ai编程