决定系数R2 浅谈三 : 决定系数R2与相关系数r的关系、决定系数R2是否等于相关系数r的平方

今天浅谈一下本人对决定系数R2相关系数r 的理解,我们在做回归分析、简单线性回归、多元线性回归、对模型进行算法训练时,常常会见到决定系数R2和相关系数r,在很多资料中对这两者的关系解释也是含糊不清,有的说决定系数R2就是等于相关系数r,有的说他两没有任何关系。那么两者到底有无关系请看我关于两者的一些讨论。

1 相关系数r(Correlation coefficient)

相关系数r的定义如下:

由以上定义式可知,相关系数r描述的时自变量 X与因变量Y之间的线性关系强度和方向

2 决定系数 R2(coefficient of determination)

决定系数R2衡量的是回归模型所能解释的变异量占总变异量 的比例,其中关于决定系数R2的定义可以参考我前面的文章,此处便不再定义,文章链接如下:决定系数R2 浅谈一 : 决定系数R2为什么计算出来小于0/为负数、大于1/远大于1、决定系数R2为什么计算出来不在0~1之间-CSDN博客

3 R2与r2的关系

两者何时才能等价呢,实际上决定系数R2和相关系数r2只有在简单线性回归 中才能是完全等价 的,此处的等价也仅限于 最后的结果相等

简单线性回归 指的就是一元线性回归,即一个自变量和一个因变量。

实际上,我们根据决定系数和相关系数的定义就可以得知,两者完全不是一个概念上的东西

1)决定系数的计算只跟预测值和观测值相关,说直白点,它最终的计算结果只与因变量Y相关。

2)相关系数的计算涉及到自变量和因变量,并未涉及到预测值。

3)相关系数r一般是在建模前对数据集中的自变量X和因变量Y进行一个相关性分析;

4)而决定系数R2是在对数据集建模后对预测值和观测值进行一个计算,来观察模型的预测效果,两者的计算目的都不相同。

4 结论

1)当模型是简单线性回归时(一元线性回归),决定系数R2的计算结果等于相关系数r的平方。

2)当模型涉及多个自变量(两个及以上)时,决定系数R2的计算结果等于相关系数r的平方两者计算结果不相等。

3)相关系数r反应的是自变量与因变量之间的线性程度;决定系数R2反应的是回归模型对数据集的拟合程度;两者并无联系。

以上也仅仅是个人总结的观点,具体证明可参考统计学的书籍和相关资料。

如有不足之处,还请各位批评指正!

记得点赞,收藏,关注一键三连,谢谢未来的各位工程师、教授、院士......!

相关推荐
GreenTea4 小时前
深度解读 Anthropic 多智能体报告:更强的模型 ≠ 更好的协调
前端·后端·算法
bitbrowser4 小时前
giffgaff突然停用?先分清闲置停用和长期境外断开
笔记
九硕智慧建筑一体化厂家4 小时前
数字化管控落地,直流照明构筑安全照明体系
运维·人工智能·笔记·安全·智慧城市
fqq35 小时前
力扣刷题前置Java语法
算法·leetcode·职场和发展
AI云海5 小时前
天幕红尘笔记
笔记
云和数据.ChenGuang5 小时前
fastapi的参数剖析
人工智能·深度学习·机器学习·语言模型·状态模式·fastapi
Eloudy6 小时前
LLM agent 分拆任务的能力来源
人工智能·机器学习
goodlook01236 小时前
LLaMa factory 大模型高效微调(二)
人工智能·深度学习·llama
2501_906565127 小时前
数学之美探究
算法
Chasing__Dreams7 小时前
大模型应用开发--6--Transformer架构介绍
深度学习·架构·transformer