【自然语言处理与大模型】BERTopic主题建模

一、BERTopic是什么

BERTopic 是一种先进的、模块化的主题建模方法,它融合预训练语言模型(如 BERT 或 Sentence-BERT)与传统统计技术(如 c-TF-IDF),目的是为了从大规模非结构化文本中自动提取语义丰富、可解释性强的主题。

核心论文:[2203.05794] BERTopic: Neural topic modeling with a class-based TF-IDF procedurehttps://arxiv.org/abs/2203.05794

开源项目地址:MaartenGr/BERTopic: Leveraging BERT and c-TF-IDF to create easily interpretable topics.https://github.com/MaartenGr/BERTopic

BERTopic库官方文档https://maartengr.github.io/BERTopic/index.html#quick-start

二、核心原理与关键步骤

BERTopic 的工作流程主要包含以下六个关键步骤:

(1)文本向量化(Embedding)

使用预训练语言模型(如 `all-MiniLM-L6-v2` 或中文 BERT 模型)将每篇文档映射为高维语义向量。这些向量能够捕捉上下文信息,使语义相近的文档在向量空间中距离更近。

(2)降维(Dimensionality Reduction)

利用 UMAP(Uniform Manifold Approximation and Projection)算法将高维嵌入降至低维(通常为5维),以保留局部和全局结构,便于后续聚类。

(3)聚类(Clustering)

采用 HDBSCAN(Hierarchical Density-Based Spatial Clustering of Applications with Noise)进行无监督聚类。该算法无需预设主题数量,能识别任意形状的簇,并有效处理噪声点(被标记为 Topic -1)

(4)词袋构建

将每个聚类内的所有文档合并为一个"超级文档",并使用 CountVectorizer 构建词频统计。

(5)关键词提取(c-TF-IDF)

这是 BERTopic 的核心创新:将每个聚类视为一个"类文档",计算词在类内频率(c-TF)与类间区分度(c-IDF),从而得出每个词对特定主题的代表性权重。

(6)主题生成(Topic)

提取每个主题的 Top-N 关键词作为标签,并可选地通过 KeyBERT、LLM(如 GPT)、最大边际相关性(MMR)等方法优化主题连贯性与多样性。

相关推荐
跨境Tool哥16 小时前
AdsPower 智能体浏览器:为 AI Agent 提供稳定的浏览器环境
人工智能
jinanwuhuaguo17 小时前
AI工具终极解构:OpenClaw、Coze、Dify、FastGPT、n8n、LangChain、RagFlow、GPTBots.ai 的万言深度剖析
人工智能·学习·重构·新人首发·openclaw
Are_You_Okkk_17 小时前
多场景适配视角下AI开源知识库的部署实践与应用反思
人工智能·开源
YFJ_mily17 小时前
【杭州线下召开】2026年计算智能与机器学习国际学术会议(CIML 2026)
人工智能·机器学习
LS_learner17 小时前
OpenCode的Agent skill创建方式
人工智能
云布道师17 小时前
OSS 向量 Bucket 最佳实践:快速构建多模态图片语义检索
人工智能
独断万古他化17 小时前
软件测试新纪元:为什么选择AI测试
人工智能·ai·测试
张张123y17 小时前
AI Agent Memory:从理论到实战,掌握长短期记忆的核心技术【1】
大数据·人工智能·transformer
这张生成的图像能检测吗17 小时前
(论文速读)SFAFBR:一种自监督的人工特征偏置校正框架
人工智能·深度学习·神经网络·机器学习·故障诊断·自监督学习
大傻^17 小时前
LangChain4j Spring Boot Starter:自动配置与声明式 Bean 管理
java·人工智能·spring boot·spring·langchain4j