optimizer.zero_grad() # 梯度清零(一定要先进行梯度清零，这样tensor里面的grad就不会累加)
loss.backward()是用来求导的
optimizer.step()一般来说根据求来的导数进行梯度下降算法来更新参数
上面的顺序步骤不能变
相关推荐
九章云极AladdinEdu3 小时前
冷冻电镜重构的GPU加速破局：从Relion到CryoSPARC的并行重构算法慕婉03071 天前
Tensor自动微分槑槑紫2 天前
深度学习pytorch整体流程IT古董2 天前
【第三章:神经网络原理详解与Pytorch入门】02.深度学习框架PyTorch入门-(5)PyTorch 实战——使用 RNN 进行人名分类机器学习之心2 天前
小波增强型KAN网络 + SHAP可解释性分析（Pytorch实现）Green1Leaves2 天前
pytorch学习-11卷积神经网络(高级篇)灵智工坊LingzhiAI2 天前
人体坐姿检测系统项目教程（YOLO11+PyTorch+可视化）William.csj3 天前
Pytorch/CUDA——flash-attn 库编译的 gcc 版本问题Green1Leaves4 天前
pytorch学习-9.多分类问题摸爬滚打李上进4 天前
重生学AI第十六集：线性层nn.Linear