【自然语言处理与大模型】BERTopic主题建模

一、BERTopic是什么

BERTopic 是一种先进的、模块化的主题建模方法,它融合预训练语言模型(如 BERT 或 Sentence-BERT)与传统统计技术(如 c-TF-IDF),目的是为了从大规模非结构化文本中自动提取语义丰富、可解释性强的主题。

核心论文:[2203.05794] BERTopic: Neural topic modeling with a class-based TF-IDF procedurehttps://arxiv.org/abs/2203.05794

开源项目地址:MaartenGr/BERTopic: Leveraging BERT and c-TF-IDF to create easily interpretable topics.https://github.com/MaartenGr/BERTopic

BERTopic库官方文档https://maartengr.github.io/BERTopic/index.html#quick-start

二、核心原理与关键步骤

BERTopic 的工作流程主要包含以下六个关键步骤:

(1)文本向量化(Embedding)

使用预训练语言模型(如 `all-MiniLM-L6-v2` 或中文 BERT 模型)将每篇文档映射为高维语义向量。这些向量能够捕捉上下文信息,使语义相近的文档在向量空间中距离更近。

(2)降维(Dimensionality Reduction)

利用 UMAP(Uniform Manifold Approximation and Projection)算法将高维嵌入降至低维(通常为5维),以保留局部和全局结构,便于后续聚类。

(3)聚类(Clustering)

采用 HDBSCAN(Hierarchical Density-Based Spatial Clustering of Applications with Noise)进行无监督聚类。该算法无需预设主题数量,能识别任意形状的簇,并有效处理噪声点(被标记为 Topic -1)

(4)词袋构建

将每个聚类内的所有文档合并为一个"超级文档",并使用 CountVectorizer 构建词频统计。

(5)关键词提取(c-TF-IDF)

这是 BERTopic 的核心创新:将每个聚类视为一个"类文档",计算词在类内频率(c-TF)与类间区分度(c-IDF),从而得出每个词对特定主题的代表性权重。

(6)主题生成(Topic)

提取每个主题的 Top-N 关键词作为标签,并可选地通过 KeyBERT、LLM(如 GPT)、最大边际相关性(MMR)等方法优化主题连贯性与多样性。

相关推荐
冬奇Lab5 小时前
一天一个开源项目(第36篇):EverMemOS - 跨 LLM 与平台的长时记忆 OS,让 Agent 会记忆更会推理
人工智能·开源·资讯
冬奇Lab5 小时前
OpenClaw 源码深度解析(一):Gateway——为什么需要一个"中枢"
人工智能·开源·源码阅读
AngelPP9 小时前
OpenClaw 架构深度解析:如何把 AI 助手搬到你的个人设备上
人工智能
宅小年9 小时前
Claude Code 换成了Kimi K2.5后,我再也回不去了
人工智能·ai编程·claude
九狼9 小时前
Flutter URL Scheme 跨平台跳转
人工智能·flutter·github
ZFSS9 小时前
Kimi Chat Completion API 申请及使用
前端·人工智能
天翼云开发者社区10 小时前
春节复工福利就位!天翼云息壤2500万Tokens免费送,全品类大模型一键畅玩!
人工智能·算力服务·息壤
知识浅谈10 小时前
教你如何用 Gemini 将课本图片一键转为精美 PPT
人工智能
Ray Liang11 小时前
被低估的量化版模型,小身材也能干大事
人工智能·ai·ai助手·mindx
shengjk112 小时前
NanoClaw 深度剖析:一个"AI 原生"架构的个人助手是如何运转的?
人工智能