Unsupervised Deep Embedding for Clustering Analysis

0. 论文信息

  • 标题:Unsupervised Deep Embedding for Clustering Analysis
  • 期刊:International Conference on Machine Learning
  • 作者:Junyuan Xie,Ross Girshick,Ali Farhadi
  • 机构:University of Washington,Facebook AI Research (FAIR)
  • 代码链接:https://github.com/vlukiyanov/pt-dec

1. 摘要

聚类是许多数据驱动应用领域的核心,在距离函数和分组算法方面得到了广泛的研究。相对较少的工作集中在学习聚类表示上。在本文中,我们提出了深度嵌入聚类(DEC),这是一种使用深度神经网络同时学习特征表示和聚类分配的方法。DEC学习从数据空间到低维特征空间的映射,在该空间中迭代优化聚类目标。我们对图像和文本语料库的实验评估显示出比最先进的方法的显着改进。

2. 实验结果


3. 主要贡献

  • 深度嵌入和聚类的联合优化;
  • 通过软分配进行新颖的迭代细化;
  • 在聚类精度和速度方面最先进的聚类结果。

4. 方法


5. 总结 & 限制性

本文提出了一种在联合优化特征空间中对一组数据点进行聚类的算法Deep Embedding Clustering。DEC 通过迭代优化具有自训练目标分布的基于 KL 散度的聚类目标来工作。该方法可以看作是半监督自我训练的无监督扩展。该框架提供了一种学习专门用于聚类的表示的方法,而无需groundtruth集群成员标签。实证研究表明提出的算法的强度。DEC 在超参数设置方面提供了更好的性能和鲁棒性,这在无监督任务中尤其重要,因为交叉验证是不可能的。DEC 还具有数据点数量的线性复杂性,使其能够扩展到大型数据集。

相关推荐
小白说大模型2 天前
OpenClaw 测试策略实战:AI Agent 自动化测试体系搭建与落地
人工智能·重构·开源·prompt·embedding
DBA小马哥2 天前
向量数据库入门到进阶:Embedding、ANN算法与RAG落地的关键术语
数据库·算法·embedding
小田学Python3 天前
RAG和Embedding技术解析:从理论到实践的探索
大模型·embedding·知识库·向量检索·rag
小白说大模型4 天前
Prompt 工程的数学直觉:Embedding 空间中的 Prompt 优化的底层原理
人工智能·mysql·prompt·embedding
独码侠4 天前
Dify 知识库索引(中):打开源码,拆穿关于“经济索引”的三个谣言
后端·python·django·embedding·知识库·索引·dify
0566469 天前
agent学习Day23——文件上传与 Embedding 语义检索
python·学习·embedding
ShallWeL11 天前
【机器学习】(32)—— Embedding 串讲
人工智能·机器学习·embedding
ShallWeL11 天前
【机器学习】(31)—— 如何得到 Embedding
人工智能·机器学习·embedding
denggun1234512 天前
大大模型 如何通过 本地排雷 远端GPU
python·embedding·pip
ShallWeL14 天前
【机器学习】(30)—— 嵌入空间
人工智能·神经网络·机器学习·embedding