如何构建自己高质量语料库?

语料库一词译自英文"corpus(复数常用corpora)。

语料库语言学家辛克莱将其定义为"按照一定的采样标准采集而来的、能够代表一种语言或某语言的一种变体或文类的电子文本"。

语料收集整理

语料通常都会以txt格式保存。

如果是书面语料,需要先扫描将其转成电子版,然后通过OCR识别,再自行校对和格式转换;

如果是语音语料,则需要首先进行转写,再进行后续步骤;

而如果已经是电子语料(如pdf,mobi,html等)则直接进行格式转换即可。

OCR识别工具推荐:ABBYYFineReader2,天若文字识别,Adobe Acrobat Pro DC等。

格式转换工具推荐:Adobe Acrobat Pro DC,或网站Aconvert,iLovePDF,Convertio等。

语料清洗

语料的预处理,对语料进行校对降噪。

在这个过程中,我们需要把整理好的文本中多余的空格、空行、回车、乱码、错别字、以及其他不需要的信息(包括附录,表格,前言等)都去除掉。

推荐工具:MS Word和EmEditor

在语料清洗的过程中,正则表达式是一个好帮手,在一些语料清洗工具中也提供了快捷键,不需要手动输入正则表达式,且能满足不少大家的需要。

分词标注

分词(tokenization)是指将一串字符转换成可以分析,容易识别的形符(token)------也就是词语------的过程;

标注(annotation)是指将文本中的词语按照各种属性(part of speech)进行标注;

但是请注意,对于汉语来说,分词是必须的,因为汉语的词语之间没有明显分隔,不进行分词的话难以识别分析;而标注不是必需步骤,在有需要时进行即可。

截止以上前三步,语料的加工基本已经完成,但如果你的语料是双语或多语,则需要对其进行对齐处理。

对齐是指将多语言语料实现句子的-一对应,也可以实现段落的-一对应,以形成规范的语对。对齐推荐工具:memoQ,Tmxmall等。

相关推荐
嘿嘿-666 分钟前
Windows 一键使用 GPT-6 Astra:Codex CLI 配置教程
java·人工智能·windows·gpt·chatgpt·web
冬奇Lab15 分钟前
Code Agent 解剖(22):从零扩展——用 Markdown 写一个 Skill
人工智能
小饕17 分钟前
llama.cpp 参数调优指南:Jetson 8GB 实战手记
人工智能·llama·大模型端侧部署
火山引擎开发者社区17 分钟前
Viking AI 搜索 × SearchCLI:搭建售后助手,让搜索能力参与售后回答
人工智能
冬奇Lab17 分钟前
一天一个开源项目(第210篇):herdr - AI 编程 Agent 的运行时底座
人工智能·开源·资讯
dadanhuang24 分钟前
PyTorch深度学习与实践【04】【迭代周期、autograd、构建计算图、*params参数解包、.grad属性】
人工智能·pytorch·深度学习
JavaPub-rodert28 分钟前
LangChain 从入门到 Agent 实战:用 Python 搭建一个真正能调用工具和知识库的 AI 助手
人工智能·python·langchain
米小虾34 分钟前
告别逐 token 蹦字:扩散语言模型(dLLM)到底能不能终结自回归?
人工智能·llm
火山引擎开发者社区34 分钟前
从多模态数据湖到 Agent 湖:Lance 的格式设计与实践|Lance Meetup 火热报名中
人工智能
一枚爱吃大蒜的程序员38 分钟前
CSDN文章-注意力约束QLoRA教育大模型微调
人工智能·机器学习·语言模型·qlora·大模型微调·注意力约束