Ridge,Lasso,Elasticnet回归

本文主要关于多元线性回归(MSE)与L1,L2范数结合在一起从而提高鲁棒性,即正则化应用于MSE产生的Ridge,Lasso,Elasticnet回归的内容。

一,Ridge回归

岭回归实质上就是普通的MSE加上一项L2惩罚项来提高模型的鲁棒性,但同时也会降低一定的准确率。

python 复制代码
import numpy as np
from sklearn.linear_model import Ridge
from sklearn.linear_model import SGDRegressor

X = 2*np.random.rand(100,1)
y = 4 + 3*X + np.random.randn(100,1)

rm = Ridge(alpha=0.4,solver='sag')#alpha调大,提高泛化能力,准度降低,alpha调小,泛化能力减弱,准度提高
rm.fit(X,y)
print("Ridge:")
print("predict:",rm.predict([[1.5]]))
print("w1:",rm.coef_)
print("bias:",rm.intercept_)
print("----------------"*10)
print("SGD:")
sr = SGDRegressor(penalty='l2',max_iter=1000)
sr.fit(X,y.reshape(-1,))
print("predict:",sr.predict([[1.5]]))
print("w1:",sr.coef_)
print("bias:",sr.intercept_)

上图为α值为0.4时产生的结果,当提高α值(即提高正则化力度),我们会发现准确度下降(如下图)。

二,Lasso回归

Lasso回归的损失函数包含MSE和L1范数两部分,符合正则化特点地,提高正则化力度的同时,准确值下降。

python 复制代码
import numpy as np
from sklearn.linear_model import Lasso
from sklearn.linear_model import SGDRegressor
X = 2*np.random.rand(100,1)
y = 4 + 3*X + np.random.randn(100,1)

lm = Lasso(alpha=0.15,max_iter=30000)
lm.fit(X,y)
print("Lasso:")
print("w1:",lm.coef_)
print("bias:",lm.intercept_)
print("predict:",lm.predict([[1.5]]))
print("----------------"*10)
print("SGD:")
sr = SGDRegressor(penalty='l1',max_iter=10000)
sr.fit(X,y.reshape(-1,))
print("w1:",sr.coef_)
print("bias:",sr.intercept_)
print("predict:",sr.predict([[1.5]]))

当α为0.15时产生的结果,当提高α值,观察下图,我们发现L1范数对α更加敏感,当α大于1.2后w1归零,这里我们使用α=0.7观察现象。

三,Elasticnet回归

观察其损失函数,不难发现Elasticnet回归实质上就是由MSE,L1,L2三部分组成,p决定我们更注重哪种范数来正则化。

python 复制代码
import numpy as np
from sklearn.linear_model import ElasticNet
from sklearn.linear_model import SGDRegressor
X = 2*np.random.rand(100,1)
y = 4 + 3*X + np.random.randn(100,1)

er = ElasticNet(alpha=0.04,l1_ratio=0.1,)
er.fit(X,y)
print("ElasticNet:")
print("bias:",er.intercept_)
print("w1:",er.coef_)
print("predict:",er.predict([[1.5]]))
print("----------------"*10)
print("SGD:")
sr = SGDRegressor(penalty="elasticnet",max_iter=1000)
sr.fit(X,y.reshape(-1,))
print("bias:",sr.intercept_)
print("w1:",sr.coef_)
print("predict:",sr.predict([[1.5]]))

我们可以通过调整α来调整整体正则化力度,调整l1_ratio来调整正则化侧重,这样可以更好的规范损失函数。

相关推荐
RobinDevNotes10 分钟前
Claude Code 剪视频,不上传、不要 API Key
人工智能·python·音视频·开发工具·ipython
stormzhangV24 分钟前
Coding Agent,通往 AGI 的重要一环
人工智能·agent·ai编程
Bowen_J2 小时前
Apple Foundation Models:Apple AI核心框架
人工智能·ai编程·apple
IT_陈寒2 小时前
Redis那个过期删除策略,差点让我线上崩了
前端·人工智能·后端
阿里云大数据AI技术2 小时前
AI 原生大数据服务 ADA 快速入门:完成首次对话式数据分析
大数据·人工智能
字节跳动开源2 小时前
小红书/抖音图文排版利器——一个杂志风skill
人工智能·开源·设计
Bacon2 小时前
我把 Codex 塞进了 Touch Bar:一个 30pt 高的额度与对话面板
人工智能
衡石科技2 小时前
企业级 BI 的安全治理:衡石如何贯通认证、数据权限与审计
大数据·人工智能·安全·商业智能
网易云信3 小时前
折叠屏适配,iPhone Duo 真机已交付:网易云信 IMUIKit Swift 的实践
人工智能
Be for thing4 小时前
Pytorch【12】transforms进阶|图像数据增强实战,提升模型泛化能力
人工智能·pytorch·机器学习