深入浅出Pytorch函数——torch.Tensor.backward

分类目录:《深入浅出Pytorch函数》总目录

相关文章:

· 深入浅出Pytorch函数------torch.Tensor


计算当前张量相对于图的梯度,该函数使用链式法则对图进行微分。如果张量不是一个标量(即其数据具有多个元素)并且需要梯度,则函数还需要指定梯度。它应该是一个匹配类型和位置的张量,包含微分函数的梯度。此函数在累积了图中各叶子结点的梯度,在调用它之前,您可能需要使用zero.grad清零属性或将其设置为None

语法

dart 复制代码
Tensor.backward(gradient=None, retain_graph=None, create_graph=False, inputs=None)

参数

  • gradient:[Tensor/None] 相对张量的梯度。如果它是张量,它将自动转换为不需要grad的张量,除非create_graphTrue。对于标量或不需要梯度的张量应指定为None
  • retain_graph:[可选, bool] 如果为False,则用于计算梯度的图将被释放。请注意,在几乎所有情况下,都不需要将此选项设置为True,而且通常可以以更有效的方式解决。默认为create_graph的值。
  • create_graph:[可选, bool] 如果为True,将构建导数的图,从而可以计算更高阶的导数乘积,默认值为False
  • inputs:[List[Tensor]] 输入张量的梯度将累积为.grad。所有其他张量都将被忽略。如果没有提供,梯度将累积到用于计算的所有叶张量中。
相关推荐
小oo呆2 小时前
【自然语言处理与大模型】模型压缩技术之量化
人工智能·自然语言处理
Magnum Lehar2 小时前
ApophisZerg游戏引擎项目目录展示
人工智能·vscode·编辑器·游戏引擎
飞桨PaddlePaddle2 小时前
Wan2.1和HunyuanVideo文生视频模型算法解析与功能体验丨前沿多模态模型开发与应用实战第六期
人工智能·算法·百度·音视频·paddlepaddle·飞桨·deepseek
绿算技术3 小时前
存储新势力:助力DeepSeek一体机
人工智能·科技·缓存·fpga开发
Y1nhl3 小时前
搜广推校招面经八十一
开发语言·人工智能·pytorch·深度学习·机器学习·推荐算法·搜索算法
胡攀峰3 小时前
第12章 微调生成模型
人工智能·大模型·llm·sft·强化学习·rlhf·指令微调
yuanlaile3 小时前
AI大模型自然语言处理能力案例演示
人工智能·ai·自然语言处理
小白白搭建3 小时前
WordPress AI 原创文章自动生成插件 24小时全自动生成SEO原创文章 | 多语言支持 | 智能配图与排版
人工智能
Jamence3 小时前
多模态大语言模型arxiv论文略读(三十九)
人工智能·语言模型·自然语言处理
ai大模型木子4 小时前
嵌入模型(Embedding Models)原理详解:从Word2Vec到BERT的技术演进
人工智能·自然语言处理·bert·embedding·word2vec·ai大模型·大模型资料