【自然语言处理与大模型】BERTopic主题建模

一、BERTopic是什么

BERTopic 是一种先进的、模块化的主题建模方法,它融合预训练语言模型(如 BERT 或 Sentence-BERT)与传统统计技术(如 c-TF-IDF),目的是为了从大规模非结构化文本中自动提取语义丰富、可解释性强的主题。

核心论文:[2203.05794] BERTopic: Neural topic modeling with a class-based TF-IDF procedurehttps://arxiv.org/abs/2203.05794

开源项目地址:MaartenGr/BERTopic: Leveraging BERT and c-TF-IDF to create easily interpretable topics.https://github.com/MaartenGr/BERTopic

BERTopic库官方文档https://maartengr.github.io/BERTopic/index.html#quick-start

二、核心原理与关键步骤

BERTopic 的工作流程主要包含以下六个关键步骤:

(1)文本向量化(Embedding)

使用预训练语言模型(如 `all-MiniLM-L6-v2` 或中文 BERT 模型)将每篇文档映射为高维语义向量。这些向量能够捕捉上下文信息,使语义相近的文档在向量空间中距离更近。

(2)降维(Dimensionality Reduction)

利用 UMAP(Uniform Manifold Approximation and Projection)算法将高维嵌入降至低维(通常为5维),以保留局部和全局结构,便于后续聚类。

(3)聚类(Clustering)

采用 HDBSCAN(Hierarchical Density-Based Spatial Clustering of Applications with Noise)进行无监督聚类。该算法无需预设主题数量,能识别任意形状的簇,并有效处理噪声点(被标记为 Topic -1)

(4)词袋构建

将每个聚类内的所有文档合并为一个"超级文档",并使用 CountVectorizer 构建词频统计。

(5)关键词提取(c-TF-IDF)

这是 BERTopic 的核心创新:将每个聚类视为一个"类文档",计算词在类内频率(c-TF)与类间区分度(c-IDF),从而得出每个词对特定主题的代表性权重。

(6)主题生成(Topic)

提取每个主题的 Top-N 关键词作为标签,并可选地通过 KeyBERT、LLM(如 GPT)、最大边际相关性(MMR)等方法优化主题连贯性与多样性。

相关推荐
冰西瓜6001 天前
从项目入手机器学习——鸢尾花分类
人工智能·机器学习·分类·数据挖掘
爱思德学术1 天前
中国计算机学会(CCF)推荐学术会议-C(人工智能):IJCNN 2026
人工智能·神经网络·机器学习
偶信科技1 天前
国产极细拖曳线列阵:16mm“水下之耳”如何撬动智慧海洋新蓝海?
人工智能·科技·偶信科技·海洋设备·极细拖曳线列阵
Java后端的Ai之路1 天前
【神经网络基础】-神经网络学习全过程(大白话版)
人工智能·深度学习·神经网络·学习
庚昀◟1 天前
用AI来“造AI”!Nexent部署本地智能体的沉浸式体验
人工智能·ai·nlp·持续部署
喜欢吃豆1 天前
OpenAI Realtime API 深度技术架构与实现指南——如何实现AI实时通话
人工智能·语言模型·架构·大模型
数据分析能量站1 天前
AI如何重塑个人生产力、组织架构和经济模式
人工智能
wscats1 天前
Markdown 编辑器技术调研
前端·人工智能·markdown
AI科技星1 天前
张祥前统一场论宇宙大统一方程的求导验证
服务器·人工智能·科技·线性代数·算法·生活
GIS数据转换器1 天前
基于知识图谱的个性化旅游规划平台
人工智能·3d·无人机·知识图谱·旅游