COR 损失函数

Correlation Regularization Loss (COR),是一种用于衡量特征之间线性相关性的损失函数,其目标是通过惩罚冗余的相关性,促使生成的特征彼此独立,提高模型的泛化能力。

计算公式:

特征矩阵, n是样本数量, d是特征维度。 COR损失函数的定义:

其中:是特征矩阵X的协方差; ,当i=j时, , 否则,

等价形式

协方差矩阵 C 表示特征之间的线性相关性;

​ 是理想目标(特征完全独立),单位矩阵;

COR 损失通过最小化 C 和 之间的差异,让特征尽量不相关。

应用场景:

在自动编码器(Autoencoder)中,COR 损失可以使编码器生成的特征彼此不相关,提升特征的多样性和表征能力;

通过最小化 COR 损失,约束源域和目标域特征的相关性,提升模型在目标域的泛化能力;

协方差矩阵的计算方法:

描述随机变量之间线性相关性的一种方法;

给定n个样本和d个特征,协方差矩阵是一个dXd维的对称矩阵,每个元素表示两个特征之间的协方差;

协方差的计算公式:

Cov(X,Y) = E(X - E(X)) (Y - E(Y))

E(X)表示变量X的期望;

X-E(X)变量的去中心化;

协方差能代表两个变量X和Y之间的相关性,即如果Cov(X,Y) > 0时,当X增大时,Y也倾向于增大,表现为正相关;

如果Cov(X,Y)<0时,当X增大时,Y倾向于减小,表现为负相关;

如果Cov(X,Y) = 0时,X和Y之间没有线性关系,但可能存在非线性关系;

协方差矩阵的计算公式:

对于特征矩阵(每行是一个样本,每列是一个特征),

其中,对X的每列特征减去其均值,进行去中心化

相关推荐
long316几秒前
封装(Encapsulation)
java·人工智能·ai·ai编程
SomeB1oody几秒前
【RustyML入门】7.2. 深入模型持久化
开发语言·后端·机器学习·rust·教程
不灭的程序员阿澄9 分钟前
把多个 AI 网站装进一个常驻托盘的桌面窗口里,像切换原生 App 一样切换 AI
人工智能·chatgpt
zhanghaha131410 分钟前
Python进阶教程:13_math 模块 —— 新手完全指南
数据库·python·机器学习
长谷深风11111 分钟前
AI Tool 设计:粒度、参数与错误恢复怎么做
java·大数据·人工智能·ai agent·agent工作流·智能体设计·ai产品设计
张彦峰ZYF21 分钟前
从“打分模型”到“审计智能体”:Agent-as-a-Judge如何重构复杂AI系统的评测范式
人工智能·agent-as-judge·llm-as-a-judge·agentevaluation·deepswe·verifier·agentic search
peijiping24 分钟前
AI多智能体解惑:父子子智能体 vs 团队智能体,为什么主流IDE默认只用前者?
人工智能·ai agent·claude code
学学酱快乐27 分钟前
2026年PMP考试生命周期选择决策树精讲:从需求判断到混合型统一框架的应试全攻略
算法·决策树·机器学习·pmp新版考试大纲·pmp新题型·pmp培训哪家好·pmp培训机构推荐
aiqianji30 分钟前
教AI短篇小说写作的软件操作简单,该怎么挑选呢?
人工智能·python
Yoyo Chen18040 分钟前
DeepSeek发布多模态模型deepseek-v4-flash-vision-exp:视觉能力正式接入Agent工作流
人工智能·深度学习·microsoft