Unsupervised Deep Embedding for Clustering Analysis

0. 论文信息

  • 标题:Unsupervised Deep Embedding for Clustering Analysis
  • 期刊:International Conference on Machine Learning
  • 作者:Junyuan Xie,Ross Girshick,Ali Farhadi
  • 机构:University of Washington,Facebook AI Research (FAIR)
  • 代码链接:https://github.com/vlukiyanov/pt-dec

1. 摘要

聚类是许多数据驱动应用领域的核心,在距离函数和分组算法方面得到了广泛的研究。相对较少的工作集中在学习聚类表示上。在本文中,我们提出了深度嵌入聚类(DEC),这是一种使用深度神经网络同时学习特征表示和聚类分配的方法。DEC学习从数据空间到低维特征空间的映射,在该空间中迭代优化聚类目标。我们对图像和文本语料库的实验评估显示出比最先进的方法的显着改进。

2. 实验结果


3. 主要贡献

  • 深度嵌入和聚类的联合优化;
  • 通过软分配进行新颖的迭代细化;
  • 在聚类精度和速度方面最先进的聚类结果。

4. 方法


5. 总结 & 限制性

本文提出了一种在联合优化特征空间中对一组数据点进行聚类的算法Deep Embedding Clustering。DEC 通过迭代优化具有自训练目标分布的基于 KL 散度的聚类目标来工作。该方法可以看作是半监督自我训练的无监督扩展。该框架提供了一种学习专门用于聚类的表示的方法,而无需groundtruth集群成员标签。实证研究表明提出的算法的强度。DEC 在超参数设置方面提供了更好的性能和鲁棒性,这在无监督任务中尤其重要,因为交叉验证是不可能的。DEC 还具有数据点数量的线性复杂性,使其能够扩展到大型数据集。

相关推荐
XLYcmy6 天前
大语言模型(LLM)核心技术梳理:从词元化到 RAG 的工程实践
自然语言处理·prompt·embedding·token·cot·tokenization·上下文工程
geminigoth6 天前
从零开始学习RAG——02 项目架构
embedding·rag架构·rag学习·faiss 索引·rag清洗提取·rag切片·向量化与索引
书源丶8 天前
Qwen3-Embedding-0.6B 纯 CPU
网络·语言模型·embedding·llama
牛油果子哥q13 天前
多模态大模型工程入门:图文Embedding、图文RAG、图片解析、C++多模态接口封装实战
开发语言·c++·embedding
好菇娘の当自强14 天前
安装 Embedding 模型所需环境(完整指南)
embedding
ZYJCSZKJ14 天前
基于向量检索重排序与查询扩展的GEO优化:从Embedding空间视角提升区域实体引用率
embedding
richard_first14 天前
Transformer与大语言模型:第18章 向量数据库
数据库·人工智能·自然语言处理·transformer·embedding
今天AI了吗15 天前
去中心化 AI 反馈系统:数据不上链,凭证与激励分开管
人工智能·windows·python·数据分析·去中心化·区块链·embedding
CIO_Alliance15 天前
AI微调系列(1)| 全量微调、LoRA、QLoRA 三种方案怎么选
前端·人工智能·神经网络·机器学习·embedding·企业ai转型
ShallWeL19 天前
RAG Embedding 模型替换与索引回归
人工智能·embedding·知识库·工作流·rag