知识图谱(六)之数据处理

一处理步骤

1.1获取token

1.2token转标签

使用词表把原始数据转换为标签类型:

比如:

打标数据存在字典里面.

先判断遍历字典是不是打标数据,如果不是,标记为o

如果是打标数据:

比如:

右腹部:是身体部位,打标的结果是BODY.,然后判断是不是开头,是开头标记为B,不是开头标记为I.

1.2.1整体处理思路:
  • 现在我们有一个json文件,先把json文件加载为字典:

原始的json文件:

  • 然后使用中文作为key查询他的英文:
  • 得到英文后,使用遍历开始索引到结束索引的方式拼接B,I

遍历原始的数据,通过索引和标签的字典,将相应的位置打上标签(根据索引查字典,如果可以查到结果,那把value作为实体标签,如果查不到,则打上o标签)

1.2.2难点
  • 获取所有的数据
  • 获取原始数据对应的标注数据
相关推荐
老刘说AI18 小时前
Coze:从入门到精通
人工智能·低代码·语言模型·开放原子·知识图谱·持续部署
GIS数据转换器20 小时前
车辆监控管理系统
人工智能·3d·无人机·知识图谱·旅游
咚咚王者21 小时前
人工智能之知识处理 知识推理 第五章 知识图谱与大模型的融合应用
人工智能·知识图谱
handsomestWei21 小时前
LightRAG知识图谱使用和工作流集成
人工智能·知识图谱·rag·lightrag
人工智能培训1 天前
多模大模型应用实战:智能问答系统开发
人工智能·深度学习·机器学习·transformer·知识图谱
handsomestWei1 天前
RAG知识图谱简介
人工智能·知识图谱·rag·lightrag
千桐科技1 天前
从“找答案”到“解决问题”:qKnow 如何用“预置+迭代”体系打通 AI 落地最后一公里?
大模型·知识图谱·知识库·智能体·智能应用·qknow
supericeice2 天前
大模型建筑隐患管理方案怎么做?创邻科技用知识图谱、图数据库和企业AI大脑打通隐患问答、整改与推荐
人工智能·科技·知识图谱
ZGi.ai2 天前
GraphRAG为什么让AI告别幻觉?从分块检索到知识图谱的演进
人工智能·知识图谱
33三 三like5 天前
GraphRAG 架构在养老志愿服务推荐中的创新应用:当知识图谱遇见大语言模型
语言模型·架构·知识图谱