optimizer.zero_grad() # 梯度清零(一定要先进行梯度清零，这样tensor里面的grad就不会累加)
loss.backward()是用来求导的
optimizer.step()一般来说根据求来的导数进行梯度下降算法来更新参数
上面的顺序步骤不能变
相关推荐
田里的水稻7 分钟前
FA_CNN卷积神经网络二十七---填充与步幅PyTorch田里的水稻3 小时前
FA_CNN卷积神经网络二十六---从全连接到卷积PyTorch梦想不只是梦与想2 天前
PyTorch、CPU、GPU、CUDA田里的水稻2 天前
FA_CNN卷积神经网络二十四---层\块\参数管理PyTorchNJPJI_Yang2 天前
鸿蒙 HarmonyOS 7 应用内存优化：appMemoryOptimizer 释放 so 页缓存实战ZZHow10242 天前
神经网络与深度学习笔记_Day1盼小辉丶3 天前
PyTorch强化学习实战——从零开始实现魔方求解器计算机毕业编程指导师3 天前
基于深度学习的花卉图像分类识别系统（PyTorch + ResNet50 + Django）NJPJI_Yang3 天前
鸿蒙操作系统小艺 Skill 开发实战：让应用被 HarmonyOS 7 一句话召唤阿愚先生3 天前
【从零手写GPT（一）】：RTX 5080 环境踩坑，我装错了两次 PyTorch