Pytorch线性回归实现(Pycharm实现)

步骤都在注释里写清楚了,可以自己调整循环的次数观察输出的w与b和loss的值

python 复制代码
import torch

#学习率,用来进行w和b的更新
learning_rate = 0.01
#1. 准备数据
#这里使用y=3x+0.8.也就是w=3,b=0.8.创造一个500行1列的数据
x=torch.rand([500,1])
y_true=x*0.3+0.8

#2. 通过模型计算y_predict。x*w,所以w是1行1列的.torch.matmul是矩阵乘法.只有浮点数才能使用grad。修改dtype
w = torch.rand([1,1],requires_grad=True)
b = torch.tensor(0,requires_grad=True,dtype=torch.float32)


#4. 通过循环,反向传播,更新参数
for i in range(5000):
    y_predict = torch.matmul(x, w) + b
    # 3. 计算loss.用平方来处理,这里mean不太清楚是什么意思。均方误差?这是什么?....每次都需要更新损失,所以把他放在循环里
    loss = (y_true - y_predict).pow(2).mean()

    #每次backward之前梯度置为0
    if w.grad is not None:
        w.grad.data.zero_()
    if b.grad is not None:
        b.grad.data.zero_()

    loss.backward() #反向传播.这时w和b的梯度就算出来了w.grad,b.grad
    w.data = w.data - learning_rate * w.grad
    b.data = b.data - learning_rate * b.grad  #要注意左边不要写成grad,写成grad之后b的内容就一直是0
    print("w,b,loss",w.item(),b.item(),loss.item())

输出:

可以观察到w接近0.3,b接近0.8。和预想值十分接近了。

问题:

这里的理解有欠缺。。。

相关推荐
查无此人byebye7 小时前
实战DDPM扩散模型:MNIST手写数字生成+FID分数计算(完整可运行版)
人工智能·pytorch·python·深度学习·音视频
Suryxin.8 小时前
从0开始复现nano-vllm「ModelRunner.capture_cudagraph()」
人工智能·pytorch·深度学习·vllm
宁远x12 小时前
【万字长文】PyTorch FSDP 设计解读与性能分析
人工智能·pytorch·深度学习·云计算
何伯特12 小时前
PyTorch基本用法介绍:从零开始构建深度学习工作流
人工智能·pytorch·深度学习
All The Way North-14 小时前
【LSTM系列·第三篇】单样本 vs Batch:LSTM全流程计算对比,彻底搞懂为何 h_t 与 c_t 维度必须相同
pytorch·rnn·深度学习·神经网络·lstm·序列模型·理论与工程
L念安dd1 天前
基于 PyTorch 的轻量推荐系统框架
人工智能·pytorch·python
bst@微胖子1 天前
PyTorch深度学习框架项目合集一
人工智能·pytorch·python
骇城迷影1 天前
从零复现GPT-2 124M
人工智能·pytorch·python·gpt·深度学习
觅特科技-互站2 天前
成本算账表更新:自建GPU集群 vs 矩阵跃动一体机年TCO对比|隐藏成本占41%(附Excel下载)
排序算法·线性回归
励ℳ2 天前
机器学习之线性回归算法:从原理到实践的全面解析
算法·机器学习·线性回归