深入浅出Pytorch函数——torch.Tensor.backward

分类目录:《深入浅出Pytorch函数》总目录

相关文章:

· 深入浅出Pytorch函数------torch.Tensor


计算当前张量相对于图的梯度,该函数使用链式法则对图进行微分。如果张量不是一个标量(即其数据具有多个元素)并且需要梯度,则函数还需要指定梯度。它应该是一个匹配类型和位置的张量,包含微分函数的梯度。此函数在累积了图中各叶子结点的梯度,在调用它之前,您可能需要使用zero.grad清零属性或将其设置为None

语法

dart 复制代码
Tensor.backward(gradient=None, retain_graph=None, create_graph=False, inputs=None)

参数

  • gradient:[Tensor/None] 相对张量的梯度。如果它是张量,它将自动转换为不需要grad的张量,除非create_graphTrue。对于标量或不需要梯度的张量应指定为None
  • retain_graph:[可选, bool] 如果为False,则用于计算梯度的图将被释放。请注意,在几乎所有情况下,都不需要将此选项设置为True,而且通常可以以更有效的方式解决。默认为create_graph的值。
  • create_graph:[可选, bool] 如果为True,将构建导数的图,从而可以计算更高阶的导数乘积,默认值为False
  • inputs:[List[Tensor]] 输入张量的梯度将累积为.grad。所有其他张量都将被忽略。如果没有提供,梯度将累积到用于计算的所有叶张量中。
相关推荐
阿拉伯柠檬19 小时前
大语言模型 LLM
人工智能·python·语言模型·自然语言处理·langchain
灰灰勇闯IT19 小时前
MQA:全部 Query 共享一套 Key-Value
人工智能·深度学习·机器学习
程序员学习Chat19 小时前
计算机视觉-Backbone超详细整理(下)-Transformer时代
人工智能·计算机视觉·transformer
阿部多瑞 ABU19 小时前
AI红队诱导实战:小说法7步突破安全对齐 + 火绒误报深度解析
人工智能·安全·火绒安全
糖果店的幽灵19 小时前
LangChain 1.3 完全教程:从入门到精通-Part 3: Prompts(提示)
人工智能·langchain
薛定猫AI19 小时前
【深度解析】Composer 2.5 编程模型:速度智能比、Agent 工作流与 AI 编码实战评估
人工智能·php·composer
晚烛19 小时前
CANN 数据增强 on NPU:训练数据增强的 NPU 加速实战
人工智能·python·深度学习·缓存·数据挖掘
FunTester19 小时前
当 SDD 遇见 BDD:AI 时代 QA 范式的彻底重构
人工智能·重构·大语言模型·sdd·ai时代qa范式重构
英辰朗迪AI获客19 小时前
WordPress 7.0 新手极速部署与实战指南
人工智能
ujainu19 小时前
CANN pto-isa:为什么 AI 编译需要一层虚拟指令集
人工智能·ascend