深入浅出Pytorch函数——torch.Tensor.backward

分类目录:《深入浅出Pytorch函数》总目录

相关文章:

· 深入浅出Pytorch函数------torch.Tensor


计算当前张量相对于图的梯度,该函数使用链式法则对图进行微分。如果张量不是一个标量(即其数据具有多个元素)并且需要梯度,则函数还需要指定梯度。它应该是一个匹配类型和位置的张量,包含微分函数的梯度。此函数在累积了图中各叶子结点的梯度,在调用它之前,您可能需要使用zero.grad清零属性或将其设置为None。

语法

dart 复制代码
Tensor.backward(gradient=None, retain_graph=None, create_graph=False, inputs=None)

参数

  • gradient:`Tensor`/`None` 相对张量的梯度。如果它是张量,它将自动转换为不需要grad的张量,除非create_graph为True。对于标量或不需要梯度的张量应指定为None。
  • retain_graph:可选, `bool` 如果为False,则用于计算梯度的图将被释放。请注意,在几乎所有情况下,都不需要将此选项设置为True,而且通常可以以更有效的方式解决。默认为create_graph的值。
  • create_graph:可选, `bool` 如果为True,将构建导数的图,从而可以计算更高阶的导数乘积,默认值为False。
  • inputs:`List[Tensor]` 输入张量的梯度将累积为.grad。所有其他张量都将被忽略。如果没有提供,梯度将累积到用于计算的所有叶张量中。
相关推荐
云和数据.ChenGuang2 小时前
langchain4j的RAG入门
人工智能·深度学习·机器学习·语言模型·fastapi
CallFay云起未来2 小时前
AI客服上线后多久才能回本?从TCO到ROI的完整测算方法
java·大数据·人工智能·架构·文心一言
Funny_AI_LAB3 小时前
重构 Coding Agent:当 LLM 没有 KV Cache 时,上下文工程该怎么做?
人工智能·经验分享·语言模型·重构
GISMagic3 小时前
AI 时代的软件工程与架构能力提升路线
人工智能·架构·软件工程
中伟视界3 小时前
化工检修作业新规明日施行,边缘AI如何守好现场?
人工智能
OpenCSG3 小时前
OpenCSG Agentic-27B 正式开源:27B Dense 模型,Agent 执行能力实现全面跃升
人工智能·开源·opencsg
Elastic 中国社区官方博客3 小时前
使用 Lucene 搜索你的 Bean —— Elasticsearch
大数据·开发语言·人工智能·elasticsearch·搜索引擎·全文检索·lucene
雪兽软件3 小时前
AI爆改学术研究?
人工智能·学术研究
合调于形3 小时前
Rengong zhzzneng 《人工智能》词条汉语拼音字母标调拼写实测案例
人工智能·自然语言处理·人机交互·语音识别·学习方法
cg50173 小时前
大模型 SFT(监督微调)该怎么做?(实践版)
人工智能·深度学习·机器学习