optimizer.zero_grad() # 梯度清零(一定要先进行梯度清零，这样tensor里面的grad就不会累加)
loss.backward()是用来求导的
optimizer.step()一般来说根据求来的导数进行梯度下降算法来更新参数
上面的顺序步骤不能变
相关推荐
技术小黑21 分钟前
RNN算法实战系列02 | 医疗成本预测（LSTM 回归）能有时光11 小时前
PyTorch KernelAgent 源码解读 ---（4）--- ExtractorAgent盼小辉丶1 天前
PyTorch强化学习实战（18）——基于DQN处理股票交易问题万亿少女的梦1682 天前
基于深度学习的动物图像分类系统设计与实现西西弗Sisyphus3 天前
PyTorch 数据加载：Dataset、DataLoader 与 WeightedRandomSampler 解决类别不平衡小白学大数据3 天前
无库无捷径，PyTorch 手写完整 Transformer 大语言模型 LLM承渊政道3 天前
【从零开始大模型开发与微调:基于PyTorch与ChatGLM】(基于PyTorch卷积层的MNIST分类实战:从卷积直觉到高效卷积设计)想会飞的蒲公英4 天前
一个 PyTorch 模型训练的完整流程梦想三三4 天前
Flask + PyTorch模型部署实战：从训练权重到API接口完整工程解析（附完整代码）白日做梦Q4 天前
PyTorch从零手写CNN实现NEU钢材表面缺陷检测（完整实战·单篇完结）