optimizer.zero_grad() # 梯度清零(一定要先进行梯度清零，这样tensor里面的grad就不会累加)
loss.backward()是用来求导的
optimizer.step()一般来说根据求来的导数进行梯度下降算法来更新参数
上面的顺序步骤不能变
相关推荐
程序猿追1 天前
那个右下角的小数字怎么“卡”住我打字——我用 HarmonyOS 自己写了一个字数限制输入框闵孚龙2 天前
《PyTorch 深度修炼》Dataset 和 DataLoader：数据如何喂给模型bryant_meng2 天前
【VAE】From Pixels to Faces: Building a VAE from Scratch装不满的克莱因瓶2 天前
了解多标签图像分类方法——从Sigmoid输出到真实世界复杂视觉理解冷小鱼2 天前
TensorFlow 2.21 进阶实战：从训练优化到生产部署的完整指南冷小鱼2 天前
PyTorch 2.12 完全指南：从动态图到编译优化的深度学习框架演进IRevers2 天前
【大模型】Gemma4在ROCm和vLLM部署盼小辉丶2 天前
PyTorch强化学习实战（14）——优先经验回放机制装不满的克莱因瓶2 天前
【工业领域】了解目标检测评估指标——从mAP到IoU的完整评价体系解析闵孚龙2 天前
动态图机制：为什么 PyTorch 调试起来更舒服