知识图谱(六)之数据处理

一处理步骤

1.1获取token

1.2token转标签

使用词表把原始数据转换为标签类型:

比如:

打标数据存在字典里面.

先判断遍历字典是不是打标数据,如果不是,标记为o

如果是打标数据:

比如:

右腹部:是身体部位,打标的结果是BODY.,然后判断是不是开头,是开头标记为B,不是开头标记为I.

1.2.1整体处理思路:
  • 现在我们有一个json文件,先把json文件加载为字典:

原始的json文件:

  • 然后使用中文作为key查询他的英文:
  • 得到英文后,使用遍历开始索引到结束索引的方式拼接B,I

遍历原始的数据,通过索引和标签的字典,将相应的位置打上标签(根据索引查字典,如果可以查到结果,那把value作为实体标签,如果查不到,则打上o标签)

1.2.2难点
  • 获取所有的数据
  • 获取原始数据对应的标注数据
相关推荐
DM今天肝到几点?1 天前
英伟达发布 Nemotron 3.5 Lightning:31.6B 参数的“闪电”开源模型,本地智能体的新引擎
人工智能·深度学习·语言模型·开源·知识图谱
SelectDB技术团队1 天前
阶跃星辰 Agent 可观测:Apache Doris / SelectDB 的技术能力与实践
django·apache·知识图谱
DM今天肝到几点?2 天前
Meta 开源 Muse Glimmer:30B 本地 Agent 模型技术深度解读
人工智能·深度学习·语言模型·开源·知识图谱
SelectDB技术团队2 天前
Apache Doris 4.1:面向 AI & Search 的统一数据存储与检索底座技术能力
人工智能·知识图谱
lincats4 天前
AI Agent 工程化六层架构:从 Prompt 到 Production
人工智能·架构·prompt·知识图谱·原型模式·vibecoding·grillme
cxr8284 天前
本体论转向:作为实验世界形式化模型的Ontology
人工智能·知识图谱
cxr8286 天前
第四章 查询与推理能力
人工智能·架构·知识图谱·智能体
高洁018 天前
VLA:驱动具身智能迈向通用的关键引擎
人工智能·python·深度学习·transformer·知识图谱
cxr82810 天前
Graphify vs GitNexus vs CodeGraph — 三工具架构深度对比
开发语言·架构·知识图谱
一个数据大开发10 天前
Skill、Tool、SOP、MCP 文章合集
大数据·人工智能·知识图谱