大模型会话里的手机号、身份证,怎么自动脱敏?

很多企业上线大模型之后,都踩过同一个隐形大坑。员工和 AI 对话的时候,随手粘贴业务资料,客户身份证号、联系电话直接丢进会话框。模型能正常读取内容给出回答,但这些敏感信息会留在请求日志、模型缓存、会话记录里。等到审计检查或者数据泄露风险排查时,才发现到处散落着明文隐私数据,整改起来工作量巨大。

不少团队一开始想靠制度解决,发通知要求员工不能在 AI 对话里粘贴证件信息。但人的操作很难完全约束,业务赶工的时候,谁都有可能图省事直接复制文本。单纯依靠人为自觉,本质上是把数据安全的赌注押在人的细心程度上,风险始终悬在头顶。

手动脱敏,治标但很难持续

有些技术团队会写简单的正则脚本,识别文本里的手机号和身份证号,在发送给大模型之前替换星号。这套方案上手门槛低,短文本场景看着效果不错,所以很多企业初期都会优先尝试。

实际跑一段时间就会暴露出不少短板。正则表达式只能匹配格式标准的字符串,一旦文本里夹杂换行、空格、备注文字,号码被拆分,脚本就识别失效。业务文档的格式千变万化,很难靠一套固定规则覆盖全部场景。

脱敏本身也会带来新麻烦。只做简单替换,容易把非敏感的相似数字误杀。比如订单编号、产品序列号,被误识别成身份证号直接打码,传给大模型的信息残缺,AI 输出结果出错,反过来影响业务效率。而且脱敏之后,缺少完整的审计链路,谁发起的请求、哪些内容做了脱敏,没法统一留存记录,满足不了合规核查要求。

维护这套脚本同样消耗人力。业务场景持续新增,规则要不断迭代,不同大模型 API 接入之后,还要适配各个接口的数据格式。分散在各个业务侧的脱敏逻辑,没法统一管控,一旦某个业务模块忘记更新规则,就会出现防护缺口。

会话全链路脱敏,要兼顾安全与可用性

真正适配大模型场景的脱敏,不能只在发送前做简单字符串替换。需要在 AI 请求流转的链路中,识别、脱敏、记录,同时尽量不破坏原有业务上下文,保证模型还能正常完成任务。

敏感信息识别,不只是匹配固定格式。除了手机号、身份证,企业还会遇到银行卡、地址、邮箱这类信息。引擎需要结合上下文语义判断,区分是真实证件号码,还是长得类似的编码,降低误识别率。脱敏策略也可以灵活配置,部分场景选择掩码替换,部分场景直接剔除敏感字段,按需调整。

数据流向也需要分层处理。原始明文只在网关内部完成识别脱敏,转发给上游大模型的请求内容,已经去除敏感信息。模型返回的结果同样可以做扫描,防止模型复述出会话里的隐私内容。整个会话过程,外部模型侧全程拿不到原始敏感数据,从源头减少外泄风险。

很多企业担心脱敏会影响业务使用。好的脱敏机制不会改动无关业务内容,只替换命中规则的字段。业务人员不用改变自己的使用习惯,照常输入对话,整个过程无感完成。不会要求员工额外操作,也就不会出现为了规避限制绕开管控的情况。

合规层面的配套能力也不能忽略。脱敏操作本身留下日志,记录触发脱敏的会话 ID、命中类型、处理时间,原始明文不会写入日志。后续审计需要核验时,可以调取脱敏事件记录,不用存储完整敏感原文,兼顾审计追溯和数据保护。

统一网关承载脱敏能力,降低企业落地成本

单独为每一套大模型应用开发脱敏模块,重复开发成本高,后续维护麻烦。借助 AI 网关,把敏感信息识别、脱敏、审计能力放在请求入口,是现在很多企业更倾向的落地方式。

流量经过网关时统一扫描处理,不管后端对接的是多家公有大模型,还是私有化部署模型,都复用同一套脱敏规则。规则集中管理,一次配置,所有接入模型的业务会话都生效,不用逐个业务系统改造。

除了脱敏,网关还能和请求过滤、访问权限、用量审计能力联动。同一个平台管控 AI 会话的安全与成本,不用搭建多个独立组件,减少运维负担。当业务扩张,新增模型或者新增员工使用场景,安全策略也能同步复用,扩展起来更省心。

不少企业在落地时,会先做小范围试点。选取一两个内部业务场景开启脱敏,持续调优识别规则,平衡误报和漏报,验证稳定之后,再逐步全量推广,降低一次性上线的风险。

写在最后

大模型的普及,让数据流动变得更加频繁。隐私信息不再只藏在数据库,还会散落在每一次员工和模型的对话当中。单纯依靠员工自律,或是零散的脚本脱敏,很难长期守住安全底线。

自动脱敏不是一次性项目,而是 AI 应用长期治理里的基础能力。在会话入口完成敏感内容识别处理,既能守住隐私合规的底线,也不用牺牲业务效率。借助 AI 网关把脱敏能力统一收敛,企业在使用各类大模型时,可以更安心地释放 AI 价值,不用持续担心隐私信息在调用链路里意外泄露。

相关推荐
guslegend3 小时前
从需求分析到 Spec-Kit 落地:三种思维、施工方案与规格驱动开发
aigc·软件工程·需求分析·ai编程·spec-kit
爱喝水的小周3 小时前
实验十 Vue‑Router 王者荣耀战绩查询 APP 开发实践
前端·javascript·vue.js
yexianglunbai3 小时前
Vue 3 全面详解:从核心特性到工程化实践
前端·javascript·vue.js
孟陬4 小时前
JavaScript 反引号(` backtick)和双引号的不完全等价 ≠ 场景
javascript·node.js·bun
谢亮_vipxieliang5 小时前
深入理解 JavaScript 数据类型与类型转换
开发语言·javascript·ecmascript
AINative软件工程5 小时前
LLM 应用的预取工程实践:用预测性调用把首 Token 延迟砍掉 60%
性能优化·llm·ai编程
xhy_07075 小时前
AI 读了 .env,密钥会原样发给大模型吗?WES Code 的密钥打码(附实测)
人工智能·python·数据挖掘·flask·ai编程·wes code
小和尚同志12 小时前
1.8k star 的开源 token 使用量监控神器— TokenTracker
人工智能·ai编程
程序员Sunday14 小时前
JavaScript 事件循环面试题,宏任务与微任务怎么执行|Sunday面试指南
开发语言·javascript·面试·校招·事件循环·程序员sunday