NLP入门

NLP入门+文本预处理

什么是自然语言处理?

让计算机去理解人类语言

认识文本预处理

文本预处理及作用

前提:之前用pandas等进行数据分析,也属于文本预处理的范围

文本预处理作用:将文本转换成模型能够识别的形式,进而实现模型的训练

文本预处理的基本方法:

分词:

分词的意义:

一般实现模型训练的时候,模型接受的文本基本最小单位是词语,因此我们需要对文本进行分词

词语是语意理解的基本单元

英文具有天然的空格分隔符,而中文分词的目的:寻找一个合适的分词边界,进行准确分词

常用分词工具:

jieba分词工具

精确模式:就是按照人类擅长的表达词汇的习惯来分词

全模式分词:将尽可能成词的词汇分割出来

搜索引擎模式:

在精确模式分词的基础上,将长粒度的词再次切分

支持中文繁体分词

支持用户自定义词典

词典的意义:

可以根据自定义词典,修改jieba分词方式,优先考虑词典里面的词来切分

格式:词语 词频(可省略) 词性(可省略)

命名实体识别(NER)

定义:

命名实体:通常指: 人名,地名,机构名等专有名词

NER:从一段文本中识别出上述描述的命名实体

实现方式:

模型训练(后续项目)

词性标注

定义:

对每个词语进行词性的标注: 动词,名词,形容词等

文本张量的表示方式

文本张量表示

意义:将文本转换为向量(数字)的形式,使得模型能够识别进而实现训练,一般是进行词向量的表示实现的方式:

one-hot

word2Vec

wordEmbedding

One-Hot 词向量表示

定义:针对每一个词汇,都会用一个向量表示,向量的长度是n,n代表去重 之后的词汇总量,而且向量只有0,和1两种数字

俗称:独热编码,01编码

ONe-Hot编码的缺点

割裂了词与词之间的联系

如果n过大,会导致占用大量的内存(维度爆炸)

Word2Vec模型

Word2Vec是一种无监督训练方法,本质是训练一个模型,将模型的参数矩阵当作所有词汇的词向量表示

两种训练方式: cbow,skipgram

CBOW介绍

给一段文本,选择一定的窗口,然后利用上下文预测中间目标值

相关推荐
东方芷兰17 小时前
LLM 笔记 —— 07 Tokenizers(BPE、WordPeice、SentencePiece、Unigram)
人工智能·笔记·深度学习·神经网络·语言模型·自然语言处理·nlp
flying_131421 小时前
自然语言处理分享系列-词语和短语的分布式表示及其组合性(一)
自然语言处理·nlp·word2vec·softmax·skip-gram·hierarchical·分层softmax
来酱何人1 天前
文本规范化:缩写还原(“BTW”→“By The Way”)、繁体转简体、拼写纠错的工程化实现
nlp
来酱何人1 天前
词性标注实战:基于BERT的词性标注模型训练,解决生僻词、专业术语标注不准问题
nlp
斐夷所非3 天前
自然语言处理中字节级与令牌级 Transformer 模型的对比分析
nlp
AI人工智能+4 天前
文档抽取技术作为AI和自然语言处理的核心应用,正成为企业数字化转型的关键工具
人工智能·nlp·ocr·文档抽取
马诗剑4 天前
🚀 Qwen2.5-Coder 情感分析微调教程
nlp·通义灵码
Youkre6 天前
注意力机制:让神经网络学会“重点回顾”
nlp
Youkre6 天前
Seq2Seq:教神经网络“中译英”——从一句话到一段话
nlp
风雨中的小七6 天前
解密prompt系列61. 手搓代码沙箱与FastAPI-MCP实战
llm·nlp