pytorch 源码阅读(2)——torch._dynamo.optimize

0 torch._dynamo.optimize(backend, *, nopython, guard_export_fn, guard_fail_fn, disable, dynamic),TorchDynamo 的主入口点

1 参数说明

  • backend,一般有两种情况:
    • 一个包含 torch.fx.GraphModule 和 example_inputs,返回一个能够更快执行 graph 的函数或者可调用的对象。也可以通过设置backend_ctx_ctor 属性,来给后端提供额外的上下文。具体用法可以查看AOTAutogradMemoryEfficientFusionWithContext
    • 或者是一个torch._dynamo.list_backends()里面的字符串后端名称。
  • nopython: 如果时 True,graph breaks 将会报错,并且只有一个完整的 graph
  • disable:如果为 True,设置当前装饰器为 no-op
  • dynamic:(bool or None): 使用动态 shape 进行 tracing
    • True:尝试生成尽可能动态的 kernel,但这个也不总是有效的,因为某些特化优化会使动态 kernel 失效
    • False:将不生成任何动态的 kernel,只进行特化优化
    • None:默认值,会自动检测是否发生了动态变化,并在重新编译时编译一个更动态的动态内核。

2 额外说明

这个函数时 TorchDynamo 的主入口点。 进行 graph 提取并调用 backend() 来优化提取到的 graph。

相关推荐
Two summers ago6 分钟前
arXiv2025 | TTRL: Test-Time Reinforcement Learning
论文阅读·人工智能·机器学习·llm·强化学习
zx4316 分钟前
常见的降维算法
笔记·python·算法
blues_C17 分钟前
Skyvern:用 AI+视觉驱动浏览器自动化
人工智能·ai·自动化
Eric.Lee202118 分钟前
数据集-目标检测系列- 烟雾 检测数据集 smoke >> DataBall
人工智能·目标检测·计算机视觉·烟雾检测·yolo检测·消防检测
郜太素22 分钟前
PyTorch 线性回归模型构建与神经网络基础要点解析
pytorch·神经网络·线性回归·激活函数
HeShen.1 小时前
AutoDL+SSH在vscode中远程使用GPU训练深度学习模型
ide·人工智能·vscode·深度学习·ssh·远程工作
我姓曹,谢谢1 小时前
python---kafka常规使用
开发语言·python·kafka
nuise_2 小时前
李沐《动手学深度学习》 | 多层感知机
人工智能·深度学习
孤独野指针*P3 小时前
深度学习中的目标检测:从 PR 曲线到 AP
python·深度学习·yolo
IT信息技术学习圈3 小时前
Python程序打包为EXE文件的全面指南
开发语言·python