DEC 深度编码聚类函数

2. 辅助目标函数

要使用输入 (bt, groups, embed_dim) 计算 DEC 模型的目标分布,关键部分是使用软分配 q ,其形状为 (bt, groups, max_cluster) 。这里, max_cluster 是您要定位的集群数量。当您沿该维度执行聚类时,需要跨 groups 维度计算目标分布。

The process is:其过程是:

  1. 对软分配进行平方 ( q ):这会放大高概率分配并抑制较低概率分配。

  2. 对 groups 维度求和:您对 groups 维度(张量中的索引 1)上的这些平方概率求和,因为您想要捕获每个组在所有集群中的分布批次中的项目。

  3. 归一化:然后对求和值进行归一化,以确保它们形成正确的概率分布。

目标分布计算如下所示:

python 复制代码
def target_distribution(q):
    # Square the probabilities and sum across the 'groups' dimension
    weight = q ** 2 / q.sum(1, keepdim=True)

    # Normalize across the 'max_cluster' dimension
    return (weight / weight.sum(2, keepdim=True))

在这个函数中:

  • q.sum(1, keepdim=True) 对 groups 维度上的概率平方求和,得到形状 (bt, 1, max_cluster) 的张量。
  • weight / weight.sum(2, keepdim=True) 然后在 max_cluster 维度(张量中的索引 2)对这些概率进行归一化,确保每个簇的概率总和为 1。这会产生相同形状的张量如 q ( (bt, groups, max_cluster) )。
  • 目标分布的计算符合数据结构和 DEC 算法的要求。
相关推荐
楚兴3 分钟前
使用 Eino 和 Ollama 构建智能 Go 应用:从简单问答到复杂 Agent
人工智能·后端
Love__Tay7 分钟前
使用Upsonic实现金融合规任务自动化:技术实践与思考
人工智能·金融·自动化
腾飞开源7 分钟前
23_Spring AI 干货笔记之 NVIDIA 聊天
人工智能·nvidia·spring ai·聊天模型·llm api·openai客户端·配置属性
智链RFID8 分钟前
RFID资产管理系统:智能管理新利器
大数据·人工智能
DatGuy10 分钟前
Week 28: 机器学习补遗:MoE 原理与时序路由策略
人工智能·机器学习
roman_日积跬步-终至千里10 分钟前
【计算机视觉(5)】特征检测与匹配基础篇:从Harris到SIFT的完整流程
人工智能·深度学习·计算机视觉
工藤学编程10 分钟前
零基础学AI大模型之相似度Search与MMR最大边界相关搜索实战
人工智能
izx88812 分钟前
从 Buffer 到响应式流:Vue3 实现 AI 流式输出的完整实践
javascript·vue.js·人工智能
知识浅谈13 分钟前
传统爬虫太耗时?AI一键生成企业级爬虫架构
人工智能·爬虫
许泽宇的技术分享19 分钟前
当AI学会“自己动手,丰衣足食“:深度剖析AgentGPT的自主智能之路
人工智能