深度学习100问3-什么是共现矩阵及其作用

一、看词和词的关系

共现矩阵就像一个表格,能让我们清楚地看到不同的词在一些文本里出现的关联情况。要是两个词经常一起出现,那在这个矩阵里对应的地方数字就会比较大,说明这两个词关系很紧密。比如在科技文章里,"人工智能"和"机器学习"可能老一起出现,那就说明它们在这个领域关系近。

二、帮着做词向量

在做词向量的时候,共现矩阵可是重要的基础呢。用一些方法处理共现矩阵,比如奇异值分解,就能把词变成高维空间里的向量。这些向量能抓住词和词之间的语义关系,后面做文本分类、找信息啥的任务就更方便了。比如说,意思差不多的词在向量空间里就会离得近,这样我们就能更好地理解和处理文本啦。

三、做文本分类和聚类

做文本分类的时候,共现矩阵能提供词的特征信息。看看不同类别的文本里词的共现情况,就能找到对分类有用的特点。比如体育新闻和财经新闻里,不同的词组合有不同的共现模式,用这些模式就能训练分类器,把新的文本分到合适的类别里。在文本聚类的时候,共现矩阵也能帮忙看文本之间像不像,把像的文本聚到一起。

四、找信息和推荐东西

在找信息的时候,共现矩阵能扩大查询词的范围。用户输入一个查询词,系统可以根据共现矩阵找到和它相关的其他词,这样找相关的文档就更准了。比如用户查"手机",系统就能根据共现矩阵找到"智能手机""品牌""功能"这些经常和"手机"一起出现的词,然后找包含这些词的文档。在推荐系统里呢,共现矩阵可以根据用户看过或买过的东西对应的词,找到和它们经常一起出现的其他东西的词,给用户推荐相关的产品或内容。

相关推荐
云知谷1 小时前
【C++基本功】C++适合做什么,哪些领域适合哪些领域不适合?
c语言·开发语言·c++·人工智能·团队开发
rit84324991 小时前
基于MATLAB实现基于距离的离群点检测算法
人工智能·算法·matlab
初学小刘2 小时前
深度学习:从图片数据到模型训练(十分类)
人工智能·深度学习
递归不收敛3 小时前
大语言模型(LLM)入门笔记:嵌入向量与位置信息
人工智能·笔记·语言模型
之墨_4 小时前
【大语言模型】—— 自注意力机制及其变体(交叉注意力、因果注意力、多头注意力)的代码实现
人工智能·语言模型·自然语言处理
2301_821919924 小时前
深度学习(四)
pytorch·深度学习
从孑开始4 小时前
ManySpeech.MoonshineAsr 使用指南
人工智能·ai·c#·.net·私有化部署·语音识别·onnx·asr·moonshine
涛涛讲AI4 小时前
一段音频多段字幕,让音频能够流畅自然对应字幕 AI生成视频,扣子生成剪映视频草稿
人工智能·音视频·语音识别
可触的未来,发芽的智生5 小时前
新奇特:黑猫警长的纳米世界,忆阻器与神经网络的智慧
javascript·人工智能·python·神经网络·架构
悟乙己5 小时前
MLops | 基于AWS Lambda 架构构建强大的机器学习(ML)血缘关系
机器学习·架构·aws