关于with torch.no_grad:的一些小问题

with torch.no_grad:是截断梯度记录的,新生成的数据的都不记录梯度,但是今天产生了一点小疑惑,如果存在多层函数嵌入,是不是函数内所有的数据都不记录梯度,验证了一下,确实是的。

python 复制代码
import torch
x = torch.randn(10, 5, requires_grad = True)
y = torch.randn(10, 5, requires_grad = True)
z = torch.randn(10, 5, requires_grad = True)
def add(x,y,z):
    w = x + y + z
    print(w.requires_grad)
    print(w.grad_fn)
def add2(x,y,z):
    add(x,y,z)
with torch.no_grad():
    add2(x,y,z)
    
add2(x,y,z)
"""
输出:
False
None
True
<AddBackward0 object at 0x00000250371BED68>
"""
相关推荐
jake don3 小时前
AI 深度学习路线
人工智能·深度学习
幻云20103 小时前
Python深度学习:从筑基到登仙
前端·javascript·vue.js·人工智能·python
bst@微胖子3 小时前
LlamaIndex之核心概念及部署以及入门案例
pytorch·深度学习·机器学习
仰望星空@脚踏实地3 小时前
本地Python脚本是否存在命令注入风险
python·datakit·命令注入
LOnghas12114 小时前
果园环境中道路与树木结构检测的YOLO11-Faster语义分割方法
python
心态与习惯5 小时前
深度学习中的 seq2seq 模型
人工智能·深度学习·seq2seq
2501_944526426 小时前
Flutter for OpenHarmony 万能游戏库App实战 - 蜘蛛纸牌游戏实现
android·java·python·flutter·游戏
AI即插即用6 小时前
即插即用系列 | CVPR 2025 AmbiSSL:首个注释模糊感知的半监督医学图像分割框架
图像处理·人工智能·深度学习·计算机视觉·视觉检测
飞Link6 小时前
【Django】Django的静态文件相关配置与操作
后端·python·django
Ulyanov7 小时前
从桌面到云端:构建Web三维战场指挥系统
开发语言·前端·python·tkinter·pyvista·gui开发