完形填空

All The Way North-20 天前
pytorch·bert·预训练模型·transformers·模型微调·mlm·完形填空
【完形填空实战】BERT中文MLM微调：数据构造→训练→评估，有完整可运行代码完形填空（MLM）任务的真实值：藏在输入里的标签与文本分类任务（需要独立的 label 字段）不同，完形填空任务不需要额外的人工标注标签。它的真实值（Ground Truth）就是被挖掉的那个词原本的 ID。
linmoo19862 年前
深度学习·bert·transformers·完形填空
基于transformers框架实践Bert系列6-完形填空本系列用于Bert模型实践实际场景，分别包括分类器、命名实体识别、选择题、文本摘要等等。（关于Bert的结构和详细这里就不做讲解，但了解Bert的基本结构是做实践的基础，因此看本系列之前，最好了解一下transformers和Bert等） 本篇主要讲解完形填空应用场景。本系列代码和数据集都上传到GitHub上：https://github.com/forever1986/bert_task
我是有底线的