optimizer和loss.backward()相关函数

optimizer.zero_grad() # 梯度清零(一定要先进行梯度清零,这样tensor里面的grad就不会累加)

loss.backward()是用来求导的

optimizer.step()一般来说根据求来的导数进行梯度下降算法来更新参数

上面的顺序步骤不能变

相关推荐
程序猿零零漆12 小时前
PyTorch 入门核心:张量操作与自动微分全解析
人工智能·pytorch·python
%471 天前
DAY 38
人工智能·pytorch·深度学习
Είναι η κοπέλα1 天前
PyTorch 模型导出与部署实战:ONNX + onnxruntime(可直接落地)
人工智能·pytorch·python
呆萌很1 天前
PyTorch CosineAnnealingLR的T_max和eta_min参数设置
人工智能·pytorch·python
盼小辉丶2 天前
PyTorch强化学习实战——用预训练语言模型和ChatGPT玩转文本游戏
pytorch·深度学习·语言模型·chatgpt·强化学习
Lee_jerome2 天前
从 PyTorch 权重到 RK3588 板端推理:ResNet18 二分类模型完整部署教程
pytorch·边缘计算·rk3588·模型部署·onnx·resnet18·int8量化
菜冻鱼2 天前
Python-pytorch-高级技巧
开发语言·人工智能·pytorch·python·深度学习·神经网络·聚类
菜冻鱼2 天前
Python-pytorch-模型保存与加载
开发语言·人工智能·pytorch·python·深度学习·机器学习
小白学大数据2 天前
CuPy vs Numba vs PyTorch:GPU 加速方案怎么选
人工智能·pytorch·爬虫·python
菜冻鱼2 天前
Python-pytorch-数据加载
开发语言·人工智能·pytorch·python·深度学习·机器学习