关于with torch.no_grad:的一些小问题

with torch.no_grad:是截断梯度记录的,新生成的数据的都不记录梯度,但是今天产生了一点小疑惑,如果存在多层函数嵌入,是不是函数内所有的数据都不记录梯度,验证了一下,确实是的。

python 复制代码
import torch
x = torch.randn(10, 5, requires_grad = True)
y = torch.randn(10, 5, requires_grad = True)
z = torch.randn(10, 5, requires_grad = True)
def add(x,y,z):
    w = x + y + z
    print(w.requires_grad)
    print(w.grad_fn)
def add2(x,y,z):
    add(x,y,z)
with torch.no_grad():
    add2(x,y,z)
    
add2(x,y,z)
"""
输出:
False
None
True
<AddBackward0 object at 0x00000250371BED68>
"""
相关推荐
AI小怪兽17 分钟前
基于YOLOv13的汽车零件分割系统(Python源码+数据集+Pyside6界面)
开发语言·python·yolo·无人机
齐齐大魔王17 分钟前
Pascal VOC 数据集
人工智能·深度学习·数据集·voc
wszy180928 分钟前
新文章标签:让用户一眼发现最新内容
java·python·harmonyos
Eric.Lee202138 分钟前
python实现 mp4转gif文件
开发语言·python·手势识别·手势交互·手势建模·xr混合现实
EntyIU41 分钟前
python开发中虚拟环境配置
开发语言·python
wszy180943 分钟前
顶部标题栏的设计与实现:让用户知道自己在哪
java·python·react native·harmonyos
kaizq1 小时前
AI-MCP-SQLite-SSE本地服务及CherryStudio便捷应用
python·sqlite·llm·sse·mcp·cherry studio·fastmcp
Hcoco_me1 小时前
RNN(循环神经网络)
人工智能·rnn·深度学习
!chen2 小时前
Error: error:0308010C:digital envelope routines::unsupporte
python
小北方城市网3 小时前
分布式锁实战指南:从选型到落地,避开 90% 的坑
java·数据库·redis·分布式·python·缓存