DEC 深度编码聚类函数

2. 辅助目标函数

要使用输入 (bt, groups, embed_dim) 计算 DEC 模型的目标分布,关键部分是使用软分配 q ,其形状为 (bt, groups, max_cluster) 。这里, max_cluster 是您要定位的集群数量。当您沿该维度执行聚类时,需要跨 groups 维度计算目标分布。

The process is:其过程是:

  1. 对软分配进行平方 ( q ):这会放大高概率分配并抑制较低概率分配。

  2. 对 groups 维度求和:您对 groups 维度(张量中的索引 1)上的这些平方概率求和,因为您想要捕获每个组在所有集群中的分布批次中的项目。

  3. 归一化:然后对求和值进行归一化,以确保它们形成正确的概率分布。

目标分布计算如下所示:

python 复制代码
def target_distribution(q):
    # Square the probabilities and sum across the 'groups' dimension
    weight = q ** 2 / q.sum(1, keepdim=True)

    # Normalize across the 'max_cluster' dimension
    return (weight / weight.sum(2, keepdim=True))

在这个函数中:

  • q.sum(1, keepdim=True) 对 groups 维度上的概率平方求和,得到形状 (bt, 1, max_cluster) 的张量。
  • weight / weight.sum(2, keepdim=True) 然后在 max_cluster 维度(张量中的索引 2)对这些概率进行归一化,确保每个簇的概率总和为 1。这会产生相同形状的张量如 q ( (bt, groups, max_cluster) )。
  • 目标分布的计算符合数据结构和 DEC 算法的要求。
相关推荐
一木 之林1 分钟前
Dify学习笔记 00 · 总览:56集四模块学习地图(从低代码平台到检索底座)
人工智能·计算机视觉·langchain
镜象科技3 分钟前
中小学AI心理健康解决方案服务商怎么选?2026年选型参考
android·java·人工智能
枫叶丹44 分钟前
语音 AI 怎样边听边答:实时对话系统的工作原理
开发语言·人工智能·chatgpt·开源·php·agent·codex
楚楚2518 分钟前
播客单声道怎么变立体声:先明确需求再选择处理方案
人工智能
田里的水稻12 分钟前
IL_部署推理---工具和语言
人工智能·神经网络·机器学习
俊男无期13 分钟前
【AI 和未来】工作(1)
人工智能
IT大白鼠14 分钟前
彭大帅的AI运维助手实战案例 5 · 新接手的服务器,先让 AI 摸底
运维·服务器·人工智能
江屿风18 分钟前
【Plain Language Large Model】【理清常见国内外大模型的定位和特长】流食般投喂
人工智能·gpt·claude·glm·gemini·千问·deepseek
MicrosoftReactor19 分钟前
技术速递|从 Jev 到你的笔记本电脑:使用 Mobius 在 ONNX 中构建“System One”决策模型
人工智能·ai·大模型·onnx
Duang007_22 分钟前
Claude Managed Agents 动态工作流:让 Lead Agent 自己写编排程序
人工智能·语言模型·自然语言处理