昇思25天学习打卡营第23天|LSTM+CRF序列标注

1. 序列标注简介

序列标注是自然语言处理中的一项任务,它涉及到对输入序列中的每个元素(Token)进行分类标注。常见的序列标注任务包括分词、词性标注和命名实体识别(NER)。例如,在NER中,模型需要识别文本中的地名、人名等实体。

2. 条件随机场(CRF)

CRF是一种用于序列标注的概率图模型。与简单的多分类问题不同,CRF能够捕捉序列中Token之间的依赖关系。例如,在NER中,如果一个词被标记为实体的一部分(I标签),那么它的前一个词应该是实体的开始(B标签)或也是实体的一部分(I标签)。

CRF的关键概念包括:
  • 发射概率:表示给定Token的条件下,它被分配某个标签的概率。
  • 转移概率:表示从一个标签转移到另一个标签的概率。
  • 线性链CRF:一种特殊类型的CRF,它考虑了序列中相邻Token之间的转移。

3. CRF的数学定义

CRF通过以下公式定义序列y在给定输入序列x下的概率:

P(y\|x) = \\frac{\\exp(\\text{Score}(x,y))}{\\sum_{y' \\in Y} \\exp(\\text{Score}(x,y'))}

其中,Score函数计算序列x和y的得分,包括发射概率和转移概率的贡献。

4. CRF层的实现

教程提供了使用MindSpore框架实现CRF层的代码,包括:

  • Score计算:根据发射概率和转移概率计算序列得分。
  • Normalizer计算:使用动态规划算法计算所有可能序列得分的对数指数和,以提高效率。
  • Viterbi算法:一种动态规划算法,用于在解码阶段找到最优的标签序列。

5. BiLSTM+CRF模型

该模型结合了双向长短期记忆网络(BiLSTM)和CRF。BiLSTM用于提取序列特征,而CRF用于序列标注。模型结构如下:

  • Embedding层:将词转换为词向量。
  • LSTM层:双向LSTM网络,提取序列特征。
  • Dense层:将LSTM的输出转换为发射概率矩阵。
  • CRF层:进行序列标注的最终预测。

6. 训练和预测

教程还介绍了如何准备数据、实例化模型、选择优化器、训练模型以及使用模型进行预测。包括:

  • 数据准备:创建词汇表和标签表,将文本序列转换为模型可接受的格式。
  • 模型训练:使用SGD优化器进行训练,并通过tqdm库可视化训练过程。
  • 预测和解码:使用模型进行预测,并通过Viterbi算法找到最优的标签序列。

7. 结果展示

最后,教程展示了如何将模型预测的标签索引转换回实际的标签,并打印输出结果,以验证模型的效果。

LSTM+CRF序列标注

相关推荐
飞睿科技18 分钟前
乐鑫代理商飞睿科技,2025年AI智能语音助手市场发展趋势与乐鑫芯片解决方案分析
人工智能
许泽宇的技术分享19 分钟前
从新闻到知识图谱:用大模型和知识工程“八步成诗”打造科技并购大脑
人工智能·科技·知识图谱
丰锋ff22 分钟前
计网学习笔记第2章 物理层(灰灰题库)
笔记·学习
坤坤爱学习2.033 分钟前
求医十年,病因不明,ChatGPT:你看起来有基因突变
人工智能·ai·chatgpt·程序员·大模型·ai编程·大模型学
Chef_Chen1 小时前
从0开始学习R语言--Day39--Spearman 秩相关
开发语言·学习·r语言
蹦蹦跳跳真可爱5891 小时前
Python----循环神经网络(Transformer ----注意力机制)
人工智能·深度学习·nlp·transformer·循环神经网络
空中湖3 小时前
tensorflow武林志第二卷第九章:玄功九转
人工智能·python·tensorflow
lishaoan773 小时前
使用tensorflow的线性回归的例子(七)
人工智能·tensorflow·线性回归
千宇宙航6 小时前
闲庭信步使用SV搭建图像测试平台:第三十一课——基于神经网络的手写数字识别
图像处理·人工智能·深度学习·神经网络·计算机视觉·fpga开发
onceco7 小时前
领域LLM九讲——第5讲 为什么选择OpenManus而不是QwenAgent(附LLM免费api邀请码)
人工智能·python·深度学习·语言模型·自然语言处理·自动化