PyTorch之线性回归

1.定义:

回归分析是确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。线性回归是利用称为线性回归方程的最小二乘函数,对一个或多个自变量和因变量之间关系,进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。

在回归分析中,只包括一个自变量和一个因变量,且二者的关系可用一条直线近似表示,这种回归分析称为一元线性回归分析。大于一个自变量情况的叫做多元回归。在线性回归中,数据使用线性预测函数来建模,并且未知的模型参数也是通过数据来估计。这些模型被叫做线性模型。

2.torchvision.datasets

对于常用数据集,可以使用torchvision.datasets直接进行读取。

torchvision.dataset是torch.utils.data.Dataset的实现。该包提供了以下数据集的读取:

python 复制代码
MNIST
COCO (Captioning and Detection)
LSUN Classification
ImageFolder
Imagenet-12
CIFAR10 and CIFAR100
STL10

3.DataLoader

Pytorch 中提供了一种整理数据结构的变量,叫做DataLoader,我们能用它来包装自己的数据,进行训练。

函数定义:
torch.utils.data.DataLoader (dataset, batch_size=1, shuffle=False, sampler=None, num_workers=0, collate_fn=<function default_collate>, pin_memory=False, drop_last=False)

4.线性回归模型

建立线性回归模型需要继承Modules类,并实现__init__()方法,以及forward()方法:

init()方法,用于定义一些新的属性,这些属性可以包括Modules的实例。在本例中,即为一个torch.nn.Linear,即创建线性模型,在创建的同时,线性模型的参数也被初始化;

forward()方法,用于定义该Module进行forward时的运算,forward()方法接受一个输入,然后通过其他modules或者其他Function运算,来进行forward,返回一个输出结果。

损失函数

我们画出的拟合直线只是一个近似,因为肯定很多的点都没有落在直线上,那么我们的直线拟合程度到底怎么样呢?之前介绍的损失函数(loss function)同学们还记得吗?它就是用来估量模型的预测值 f(x)与真实值Y的不一致程度,损失函数越小,模型的鲁棒性就越好,直线拟合程度就越好。

最小二乘法是线性回归的一种,最小二乘法的基本原则是:最优拟合直线应该是使各点到回归直线的距离和最小的直线,即平方和最小。换言之,它是基于距离的,而这个距离就是我们用的最多的欧几里得距离。为什么它会选择使用欧式距离作为误差度量呢(即 Mean squared error,MSE),主要有以下几个原因:

简单,计算方便;

欧氏距离是一种很好的相似性度量标准;

在不同的表示域变换后特征性质不变。

平方损失(Square loss)的标准形式如下:

L(Y,f(x))=(Y−f(x))2

而在实际应用中,通常会使用均方差(MSE)作为一项衡量指标,公式如下:

MSE=nsum1leilen(Y−f(x))2​

Y−f(x)表示的是残差,整个式子表示的是残差的平方和的均值,而我们的目的就是最小化这个目标函数值,以求得最优的解。

5.优化方法:随机梯度下降法

python 复制代码
import torch.optim
#定义优化函数
optimizer = optim.SGD(model.parameters(), lr=1e-4)
相关推荐
StarPrayers.13 分钟前
损失函数(Loss Function)、反向传播(Backward Propagation)和优化器(Optimizer)学习笔记
人工智能·笔记·深度学习·学习
IT_陈寒17 分钟前
Vite 5个隐藏技巧让你的项目构建速度提升50%,第3个太香了!
前端·人工智能·后端
孤廖20 分钟前
吃透 C++ 栈和队列:stack/queue/priority_queue 用法 + 模拟 + STL 标准实现对比
java·开发语言·数据结构·c++·人工智能·深度学习·算法
麦麦麦造38 分钟前
有了 MCP,为什么Claude 还要推出 Skills?
人工智能·aigc·ai编程
jerryinwuhan41 分钟前
利用舵机实现机器人行走
人工智能·机器人
武子康43 分钟前
AI-调查研究-107-具身智能 强化学习与机器人训练数据格式解析:从状态-动作对到多模态轨迹标准
人工智能·深度学习·机器学习·ai·系统架构·机器人·具身智能
沫儿笙43 分钟前
KUKA库卡焊接机器人二氧化碳节气
人工智能·机器人
insight^tkk1 小时前
【Docker】记录一次使用docker部署dify网段冲突的问题
运维·人工智能·docker·ai·容器
攻城狮7号1 小时前
AI+大数据时代:如何从架构到生态重构时序数据库的价值?
大数据·人工智能·时序数据库·apache iotdb·sql大模型
智能化咨询1 小时前
AI+大数据时代:时序数据库的生态重构与价值跃迁——从技术整合到行业落地
人工智能