COR 损失函数

Correlation Regularization Loss (COR),是一种用于衡量特征之间线性相关性的损失函数,其目标是通过惩罚冗余的相关性,促使生成的特征彼此独立,提高模型的泛化能力。

计算公式:

特征矩阵, n是样本数量, d是特征维度。 COR损失函数的定义:

其中:是特征矩阵X的协方差; ,当i=j时, , 否则,

等价形式

协方差矩阵 C 表示特征之间的线性相关性;

​ 是理想目标(特征完全独立),单位矩阵;

COR 损失通过最小化 C 和 之间的差异,让特征尽量不相关。

应用场景:

在自动编码器(Autoencoder)中,COR 损失可以使编码器生成的特征彼此不相关,提升特征的多样性和表征能力;

通过最小化 COR 损失,约束源域和目标域特征的相关性,提升模型在目标域的泛化能力;

协方差矩阵的计算方法:

描述随机变量之间线性相关性的一种方法;

给定n个样本和d个特征,协方差矩阵是一个dXd维的对称矩阵,每个元素表示两个特征之间的协方差;

协方差的计算公式:

Cov(X,Y) = E(X - E(X)) (Y - E(Y))

E(X)表示变量X的期望;

X-E(X)变量的去中心化;

协方差能代表两个变量X和Y之间的相关性,即如果Cov(X,Y) > 0时,当X增大时,Y也倾向于增大,表现为正相关;

如果Cov(X,Y)<0时,当X增大时,Y倾向于减小,表现为负相关;

如果Cov(X,Y) = 0时,X和Y之间没有线性关系,但可能存在非线性关系;

协方差矩阵的计算公式:

对于特征矩阵(每行是一个样本,每列是一个特征),

其中,对X的每列特征减去其均值,进行去中心化

相关推荐
superxxd2 分钟前
基于rust的多平台原生GIS引擎
人工智能·物联网·实时音视频
就叫你天选之人啦3 分钟前
安装torch+vllm+flash_attn的prompt
人工智能·pytorch·python
音视频牛哥10 分钟前
从 LLM、VLA、LLA、SLIM 到实时音视频感知底座:具身智能真正需要的不只是大模型
人工智能·llm·机器人视觉·slam·vla·多模态感知·机器人音视频
code2cat18 分钟前
【随笔】从聊天到调用工具:理解MCP在AI应用中的位置
java·人工智能
东离与糖宝22 分钟前
元数据知识库
人工智能
我是小邵31 分钟前
长对话先收口:用“工作记忆 vs 长期记忆“管理 AI 上下文
人工智能·ai·llm·长期记忆·中间迷失·上下文收口
广州宏帝箱包32 分钟前
出口背包的包装有没有防潮、防摔的加固处理
大数据·人工智能
jimmyleeee34 分钟前
大模型安全之二十八:Agent 权限与策略控制:从最小权限到多层监督
人工智能·安全
仙魁XAN39 分钟前
【WorkBuddy·基础入门】第 8 篇 :从材料到汇报:用 WorkBuddy 制作第一份 PPT
人工智能·workbuddy·workbuddy 基础入门·ppt 自动生成
船厂电气自动化ai大模型1 小时前
AI大模型与数学|第81天 课程:正交向量、正交基、格拉姆‑施密特(Gram‑Schmidt)正交化
开发语言·数据结构·人工智能·线性代数·机器学习