【大模型】分词粒度

如何理解分词粒度?

分词粒度是一种要从哪种角度进行分词的;可以包括字符级(character level)、单词级(word level)、子词级(sub-word level)、(字节级(byte level));(很难说字节级应该被认为是一种技巧还是一种分词粒度) 。

例如对于一句话:This is the Hugging Face Course.,
字符级分词会按照单个字符进行分词,对于上面这段文本,可以分割为:

python 复制代码
['T', 'h', 'i', 's', 't', 'e', 'H', 'u', 'g', 'n', 'F', 'a', 'c', 'C', 'o', 'u', 'r', '.']

如果不区分大小写的话(bert-base-uncased是一个不区分大小写的分词器):会先将原文本全部变为小写:This is the Hugging Face Course.->this is the hugging face course.

python 复制代码
['t', 'h', 'i', 's', 'e', 'u', 'g', 'n', 'f', 'a', 'c', 'o', 'u', 'r', '.']

对于中文而言,以你好,这是一篇关于分词粒度的博客!为例,则会被分割为:

python 复制代码
['你', '好', '这', '是', '一', '篇', '关', '于', '分', '词', '粒', '度', '的', '博', '客']

单词级分词则会按照词进行分词,这种方法对于英文而言十分方便简单:

python 复制代码
['This', 'is', 'Hugging', 'Face', 'Course', '.']

如果按照句子中的空格进行分词,['This', 'is', 'Hugging', 'Face', 'Course.']

中文使用词汇级的分词器似乎并不是很多,似乎也不是很合适。
子词级分词按照词的子词进行分词,类似于利用词根词缀来进行分词。

python 复制代码
['This', 'is', 'the', 'Hu', '##gging', 'Face', 'Course', '.']

中文也有对应的子词级的分词,仍然是上述的文本:

python 复制代码
['你好', ',', '这', '是一', '篇', '关于', '分', '词', '粒', '度', '的', '博客', '!']

(中文分词来自于Qwen2.5)

拿房子举个例子叭,尽管不一定贴切;有一个房子,我们可以将房子拆分为厨房、卧室、客厅、卫生间...,这是一种粒度;可以继续拆分为砖、水泥,玻璃...,这又是一种更细的粒度;砖、水泥、玻璃都可以被继续分解为沙子、泥等;这还是一种粒度,因此,房子到底是由什么组成的,取决于从哪种粒度上进行分析。
什么是字符? 字符可以理解文本数据中最小的组成部分。

字符可以是:

字母:A、B、

数字:0、1、Ⅷ、

标点符号:!、。、?

特殊符号:@、#

空格、换行等控制字符;

汉字:一、你、好

等等

相关推荐
长不大的杨瑞杰15 小时前
给 OpenCode v2 接入大模型:Provider、模型选择与 API Key 安全配置实战
人工智能·安全·ai·语言模型
m0_敲代码的彭于晏16819 小时前
OpenCode 2.0 智能编程效果全景展示
人工智能·python·语言模型
江屿风1 天前
【Plain Language Large Model】【大语言模型底层原理全解析:从Token生成到智能体演进】流食般投喂
人工智能·笔记·语言模型·llm·json·token·聊天模板
硅谷秋水1 天前
VLMeg:把 VLM 从奖励回归器变成成功检测器
人工智能·机器学习·语言模型·数据挖掘·机器人
隔窗听雨眠1 天前
小模型大分工:小语言模型如何重塑RAG系统的架构逻辑
人工智能·语言模型·架构
跟我学机器学习2 天前
拥有短期记忆的RAG Agent:记忆增强检索实战
人工智能·深度学习·语言模型·数据挖掘·rag
云上工程笔记2 天前
2026年企业如何根据Token用量评估大模型服务成本?计费公式与预算模型指南
人工智能·语言模型
BD_Marathon2 天前
【RAG开发】LangChain调用大语言模型
人工智能·语言模型·langchain
Yunovian3 天前
Flash 大模型是什么,它是如何重构计算成本与智能能力的关系的
人工智能·ai·语言模型
xiaoye-duck3 天前
《C++ 项目:手写大模型接入 SDK》云端 API 调用基础与 Apifox 调试实战
网络·c++·语言模型