识别并脱敏上传到deepseek/chatgpt的文本文件中的护照信息

本文将介绍一种简单高效的方法解决用户在上传文件到DeepSeek、ChatGPT,文心一言,AI等大语言模型平台过程中的护照号识别和脱敏问题。

DeepSeek、ChatGPT,Qwen,Claude等AI平台工具快速的被接受和使用,用户每天上传的文本数据中潜藏着大量敏感信息,大量的AI服务数据泄漏事件源于未正确处理输入数据。

  • 你是否在上传数据到deepseek,chatgpt,通义千问,豆包,腾讯元宝,纳米搜索等平台之前犹豫过?
  • 是否纠结如何快速的检查数据中是否存在敏感信息?
  • 是否受制于如何快速轻量的对这些数据进行脱敏?
  • 你是否担心数据上传到大语言模型等AI平台之后,敏感信息等会被用于特殊的用途?
  • 你是否担心数据不仅会被大模型平台获取,还会被诸多的插件应用获取?

那么本文将帮你找到答案。前面的文章介绍了手机号,身份证号的脱敏,详见这里

如果不想了解原理部分的内容,可以直接跳转到护照号脱敏章节获取使用的方法和技巧,本文的目录结构如下:

如果不想了解原理部分的内容,可以直接跳转到单一敏感信息脱敏章节获取使用的方法和技巧。

护照号脱敏

下面将使用cyberchef对于护照号进行识别和脱敏。相信大家现在万事都会首先问下deepseek,先看询问deepseek结果如何:

对于cyberchef的使用,目前deepseek给出的结果大方向正确的,但是不能够直接拿来使用,例如其中的正则只是覆盖了部分的护照格式,同时出现了AI幻觉的问题,生成的内容填入cyberchef是无法被识别的,有比较多的操作性的错误。这也是本文有别于AI的价值,能够帮助你高效的完成这一项工作。

上述的答案虽然结果虽然不全对,但是仍有一些地方倒是存在一些价值,例如可以基于其中的正则进行修改。对于文本文件来说,识别这些信息主要靠的是正则表达式。有了正则表达式之后,就可以使用cyberchef的正则模块,进行识别,测试正则是否正确。

护照号测试用例

由于护照号的的类型是非常的多,上述的提问只是给出的正则只是覆盖了护照的几种形式,因此需要针对护照的种类,继续提问deepseek,如下:

基于deepseek的回答,构造一组包含护照信息的测试数据如下:

xml 复制代码
手机号:18811112222 姓名:张三 护照:G12345678 URL:https://xiaofan.blog.csdn.net
手机号:17711112222 姓名:李小四 护照:DE1234567  URL:https://xiaofan.blog.csdn.net
手机号:19911112222 姓名:村中少年 护照:SE 12 3456  URL:https://xiaofan.blog.csdn.net
手机号:16611112222 姓名:王五 护照:H12-345-678  URL:https://xiaofan.blog.csdn.net

find操作正则

虽然deepseek给出的所有护照种类仍然的不完整,但是其中给出的正则已经能够满足一些场景的需求。有了上述cyberchef的提示,并基于测试用例优化正则直至匹配上所有的测试用例为止,效果如下:

对应的cyberchef脚本如下:

xml 复制代码
[
  { "op": "Regular expression",
    "args": ["User defined", "([EG]|DE|SE|H|M)[-\\s]*(\\d{2,})[-\\s]*(\\d{2,3})[-\\s]*(\\d{1,})", true, true, false, false, false, false, "Highlight matches"] }
]

确认上述的正则能够匹配所有的测试用例之后,只保留前一到两位的字母,使用replace操作替换如下:

对应的cyberchef脚本如下:

xml 复制代码
[
  { "op": "Find / Replace",
    "args": [{ "option": "Regex", "string": "([EG]|DE|SE|H|M)[-\\s]*(\\d{2,})[-\\s]*(\\d{2,3})[-\\s]*(\\d{1,})" }, "$1*******", true, false, true, false] }
]

这里需要知道$1的用法,表示的是第一个被识别和提取的部分。

register操作正则

如果直接让deepseek给出正则的识别护照,给出的正则表达式可能和上述的正则不同,如下:

使用上述正同样能够匹配上述的测试用例,如下:

cyberchef对应的脚本为:

xml 复制代码
[
  { "op": "Regular expression",
    "args": ["User defined", "(?P<ordinary>[EG](?:[\\s-]*\\d){8})|(?P<diplomatic>DE(?:[\\s-]*\\d){7})|(?P<official>SE(?:[\\s-]*\\d){6})|(?P<hk>H(?:[\\s-]*\\d){8})|(?P<macau>M(?:[\\s-]*\\d){8}) ", true, true, false, false, false, false, "Highlight matches"] }
]

如果使用上述的正则,则需要使用register操作进行替换(find操作使用该正则不生效),对于护照号保留前2位即可,其他部分使用星号进行替换,如下:

对应的cyberchef脚本如下:

xml 复制代码
[
  { "op": "Fork",
    "args": ["\\n", "\\n", false] },
  { "op": "Register",
    "args": ["(?P<ordinarynew>G(?:[\\s-]*\\d){8})|(?P<ordinaryold>E(?:[\\s-]*\\d){8})|(?P<diplomatic>DE(?:[\\s-]*\\d){7})|(?P<official>SE(?:[\\s-]*\\d){6})|(?P<hk>H(?:[\\s-]*\\d){8})|(?P<macau>M(?:[\\s-]*\\d){8})", true, false, false] },
  { "op": "Find / Replace",
    "args": [{ "option": "Regex", "string": "$R0" }, "G*****", true, false, true, false] },
  { "op": "Find / Replace",
    "args": [{ "option": "Regex", "string": "$R2" }, "DE******", true, false, true, false] },
  { "op": "Find / Replace",
    "args": [{ "option": "Regex", "string": "$R3" }, "SE******", true, false, true, false] },
  { "op": "Find / Replace",
    "args": [{ "option": "Regex", "string": "$R4" }, "H*******", true, false, true, false] }
]

这里面涉及到几个关键点:

  • 正则的编写直接询问deepseek即可。
  • 关于fork的用法详见 详见我之前的文章《Cyberchef基础概念之-分叉合并-fork/merge》,详见这里
  • 关于register的用法详见我之前的文章《cyberchef基础概念之-寄存器-Register》,详见这里
  • 对于register中R0,R1,R2,R3的理解和使用

增加护照名识别

如果想要更加精准的识别,在上述的基础上加上护照的限定会更加的准确,如下:

xml 复制代码
[
  { "op": "Regular expression",
    "args": ["User defined", "护照[::\\s]*([EG]|DE|SE|H|M)[-\\s]*(\\d{2,})[-\\s]*(\\d{2,3})[-\\s]*(\\d{1,})", true, true, false, false, false, false, "Highlight matches"] }
]
xml 复制代码
[
  { "op": "Regular expression",
    "args": ["User defined", "护照[::\\s]*((?P<ordinarynew>G(?:[\\s-]*\\d){8})|(?P<ordinaryold>E(?:[\\s-]*\\d){8})|(?P<diplomatic>DE(?:[\\s-]*\\d){7})|(?P<official>SE(?:[\\s-]*\\d){6})|(?P<hk>H(?:[\\s-]*\\d){8})|(?P<macau>M(?:[\\s-]*\\d){8}))", true, true, false, false, false, false, "Highlight matches"] }
]

其他内容的脱敏

上述的敏感信息种类中可知,还存在着证件信息,金融账户信息,财产信息,网络行为信息等,例如姓名,银行卡号,车牌号,护照,邮箱,密码,IP地址等其他的敏感信息,这些信息如何脱敏处理,详见我的专栏《脱敏Deepseek/Chatgpt等AI大模型中的敏感数据》,这里

JSON/XML脱敏

上述只是介绍了无结构的TEXT的文本的处理方法,当然有的文本文件是有格式的,那么针对JSON和XMl这两种最为常见的格式,如下处理呢,请移步至《识别并脱敏上传到deepseek/chatgpt JSON数据中的敏感信息》和《识别并脱敏上传到deepseek/chatgpt XML数据中的敏感信息》,详见这里这里

其他格式文件脱敏

那么针对word,excel,ppt,pdf,各种图片文件这写常见的格式,如何处理呢,请移步我的专栏《脱敏Deepseek/Chatgpt等AI大模型中的敏感数据》,这里

本文为CSDN村中少年原创文章,未经允许不得转载,博主链接这里

相关推荐
武子康41 分钟前
调查研究-206 DeepSeek DSpark 深度解析:大模型推理加速,正在从“模型能力”转向“系统工程”
人工智能·agent·deepseek
xn71331 小时前
ChatGPT 生图如何自动导入 Astro 内容站:base64 桥接、frontmatter 更新和封面校验
chatgpt
doiito3 小时前
左脚踩右脚:让 LLM 自进化的 Agent 轨迹训练法——为什么它能补上主流范式的最后一块拼图
ai·系统设计
带刺的坐椅12 小时前
从 Claude Code 隐私争议,看 SolonCode 的设计选择
ai·llm·agent·claudecode·soloncode·codingplan
lincats16 小时前
Claude Code项目越写越乱?这套清理流程能救你
ai·ai agent·claude code
gptAI_plus18 小时前
用 React + TypeScript 写一个世界杯淘汰赛对阵树组件
chatgpt·openai
云燕实验室CloudLab20 小时前
《AI开始"抱团"思考了!多智能体 + 思维图到底有多强?》
ai·学习工具·智慧学伴
小七-七牛开发者20 小时前
论文解读:DeepSeek DSpark 在真实高并发推理服务中,如何保证 Token 生成又好又快?
ai·大模型·编程·ai coding
kyriewen1 天前
DeepSeek API 高峰时段涨价 2 倍,便宜大碗的时代要结束了?
前端·ai编程·deepseek
doiito1 天前
【Agent Harness】Gliding Horse 核心设计理念,不跟风开发自己的AI Agent
ai·rust·架构设计·系统设计·ai agent