深度学习100问3-什么是共现矩阵及其作用

一、看词和词的关系

共现矩阵就像一个表格,能让我们清楚地看到不同的词在一些文本里出现的关联情况。要是两个词经常一起出现,那在这个矩阵里对应的地方数字就会比较大,说明这两个词关系很紧密。比如在科技文章里,"人工智能"和"机器学习"可能老一起出现,那就说明它们在这个领域关系近。

二、帮着做词向量

在做词向量的时候,共现矩阵可是重要的基础呢。用一些方法处理共现矩阵,比如奇异值分解,就能把词变成高维空间里的向量。这些向量能抓住词和词之间的语义关系,后面做文本分类、找信息啥的任务就更方便了。比如说,意思差不多的词在向量空间里就会离得近,这样我们就能更好地理解和处理文本啦。

三、做文本分类和聚类

做文本分类的时候,共现矩阵能提供词的特征信息。看看不同类别的文本里词的共现情况,就能找到对分类有用的特点。比如体育新闻和财经新闻里,不同的词组合有不同的共现模式,用这些模式就能训练分类器,把新的文本分到合适的类别里。在文本聚类的时候,共现矩阵也能帮忙看文本之间像不像,把像的文本聚到一起。

四、找信息和推荐东西

在找信息的时候,共现矩阵能扩大查询词的范围。用户输入一个查询词,系统可以根据共现矩阵找到和它相关的其他词,这样找相关的文档就更准了。比如用户查"手机",系统就能根据共现矩阵找到"智能手机""品牌""功能"这些经常和"手机"一起出现的词,然后找包含这些词的文档。在推荐系统里呢,共现矩阵可以根据用户看过或买过的东西对应的词,找到和它们经常一起出现的其他东西的词,给用户推荐相关的产品或内容。

相关推荐
元宇宙时间3 小时前
RWA加密金融高峰论坛&星链品牌全球发布 —— 稳定币与Web3的香港新篇章
人工智能·web3·区块链
天涯海风6 小时前
检索增强生成(RAG) 缓存增强生成(CAG) 生成中检索(RICHES) 知识库增强语言模型(KBLAM)
人工智能·缓存·语言模型
lxmyzzs7 小时前
基于深度学习CenterPoint的3D目标检测部署实战
人工智能·深度学习·目标检测·自动驾驶·ros·激光雷达·3d目标检测
跟着珅聪学java7 小时前
Apache OpenNLP简介
人工智能·知识图谱
AwhiteV8 小时前
利用图数据库高效解决 Text2sql 任务中表结构复杂时占用过多大模型上下文的问题
数据库·人工智能·自然语言处理·oracle·大模型·text2sql
Black_Rock_br8 小时前
AI on Mac, Your Way!全本地化智能代理,隐私与性能兼得
人工智能·macos
☺����9 小时前
实现自己的AI视频监控系统-第一章-视频拉流与解码2
开发语言·人工智能·python·音视频
fsnine9 小时前
机器学习——数据清洗
人工智能·机器学习
一车小面包9 小时前
逻辑回归 从0到1
算法·机器学习·逻辑回归
小猿姐9 小时前
KubeBlocks AI:AI时代的云原生数据库运维探索
数据库·人工智能·云原生·kubeblocks