pytorch自动微分

  1. 一、torch.autograd.backward(tensors, grad_tensors=None, retain_graph=None, create_graph=False)功能:自动求取梯度

    • grad_tensors:多梯度权重

      复制代码
      # 自动求取梯度
      # import torch
      # w = torch.tensor([1.],requires_grad=True)
      # x = torch.tensor([2.],requires_grad=True)
      # a = torch.add(w, x) #逐位相加
      # b = torch.add(w, 1)
      # y = torch.mul(a, b)# 逐位相乘
      #
      # c = y.backward(retain_graph = True)
      # print(c)
    • create_graph:创建导数计算图,用于高阶求导

    • retain_graph:保存计算图

    • tensors:用于求导的张量,如 loss

    • 2、torch.autograd.grad(outputs, inputs, grad_outputs=None, retain_graph=None, create_graph=False)功能:求取梯度

      • outputs:用于求导的张量,如 loss
      • inputs:需要梯度的张量
      • create_graph:创建导数计算图,用于高阶求导
      • retain_graph:保存计算图
      • grad_outputs:多梯度权重
      复制代码
      # 求取梯度
      # import torch
      # x = torch.tensor([3.],requires_grad=True)
      # y = torch.pow(x, 2)
      # grad_1 = torch.autograd.grad(y, x, create_graph = True)
      # grad_2 = torch.autograd.grad(grad_1[0],x)
      # print(grad_2)
      • 实例
      复制代码
      # 实例,求y=x方的一阶与二阶偏导
      import torch
      x = torch.tensor([3.], requires_grad=True)
      y = torch.pow(x,2)
      
      #求取一阶导数
      grad_1 =torch.autograd.grad(y,x,create_graph=True)
      
      #求取二阶导数
      grad_2 = torch.autograd.grad(grad_1,x) #此处值x是确定的,开始给定了3
      
      # 展示一阶倒数的结果
      print(grad_1)
      #展示二阶导数结果
      print(grad_2)
      
      # 求取y=x的立方的一阶二阶三阶导数
      
      # 创建x的初值
      import torch
      
      # 创建x,并赋予初值
      x = torch.tensor([2],requires_grad = True)
      # 创建y
      y = torch.pow(x, 3)
      # 做一阶导数
      grad_1 = torch.autograd.grad(y, x, create_graph=True)
      # 做二阶导数
      grad_2 = torch.autograd.grad(grad_1[0], x, create_graph=True)
      # 做三阶导数
      grad_3 = torch.autograd.grad(grad_2[0], x, create_graph=False)
      
      print(grad_1)
      print(grad_2)
      print(grad_3)
相关推荐
CoovallyAIHub8 分钟前
英伟达ViPE重磅发布!解决3D感知难题,SLAM+深度学习完美融合(附带数据集下载地址)
深度学习·算法·计算机视觉
aneasystone本尊1 小时前
学习 Chat2Graph 的知识库服务
人工智能
IT_陈寒1 小时前
Redis 性能翻倍的 7 个冷门技巧,第 5 个大多数人都不知道!
前端·人工智能·后端
飞哥数智坊12 小时前
GPT-5-Codex 发布,Codex 正在取代 Claude
人工智能·ai编程
倔强青铜三12 小时前
苦练Python第46天:文件写入与上下文管理器
人工智能·python·面试
虫无涯13 小时前
Dify Agent + AntV 实战:从 0 到 1 打造数据可视化解决方案
人工智能
Dm_dotnet15 小时前
公益站Agent Router注册送200刀额度竟然是真的
人工智能
算家计算15 小时前
7B参数拿下30个世界第一!Hunyuan-MT-7B本地部署教程:腾讯混元开源业界首个翻译集成模型
人工智能·开源
机器之心15 小时前
LLM开源2.0大洗牌:60个出局,39个上桌,AI Coding疯魔,TensorFlow已死
人工智能·openai
Juchecar16 小时前
交叉熵:深度学习中最常用的损失函数
人工智能