pytorch计算图的可视化

下面是一个使用 torchviz 可视化 PyTorch 计算图的示例代码。这个例子中,将创建一个简单的神经网络层,并通过 torchviz 将其计算图可视化。

前提条件: 本地安装graphviz软件:

  1. 安装 Graphviz 包 :首先,你需要在你的系统上安装 Graphviz 包,而不仅仅是 Python 包。具体的命令取决于你的操作系统。对于 Ubuntu,可以使用 sudo apt-get install graphviz 命令进行安装。对于 MacOS,可以使用 brew install graphviz 命令进行安装。对于 Windows 用户,你可以尝试从 Graphviz 官方网站 下载并安装 Windows 包,然后安装 Python Graphviz 包。安装完成后,将如: C:\Program Files (x86)\Graphviz2.38\bin 添加到用户路径和系统路径中。

  2. 修改脚本的环境变量:对于 Windows 用户,一个常见的解决方法是直接在脚本中修改环境变量。在 Python 脚本的开始添加以下两行代码,替换 'D:/Program Files (x86)/Graphviz2.38/bin/' 为你的 bin 文件实际位置:

    python 复制代码
    import os
    os.environ["PATH"] += os.pathsep + 'D:/Program Files (x86)/Graphviz2.38/bin/'

    这确保了系统可以在执行期间找到 dot.exe 可执行文件。

进入正题,首先,确保你已经安装了 torchviz 和 graphviz。你可以通过以下命令安装它们:

bash 复制代码
pip install torchviz
pip install graphviz

然后,运行以下 Python 代码:

python 复制代码
import torch
from torchviz import make_dot

# 创建一个需要梯度的张量
x = torch.randn(1, 1, requires_grad=True)

# 定义一个简单的计算过程
y = x * 2
z = y + 3
out = z * z * 3

# 计算输出的均值
out.mean().backward()

# 使用 torchviz 创建计算图
dot = make_dot(out, params=dict(list(x.named_parameters()) + [('x', x)]))

# 渲染计算图
dot.format = 'png'
dot.render('computational_graph', format='png', cleanup=True)

print("Computational graph has been saved as 'computational_graph.png'")

代码解释:

  1. 创建张量 :我们创建了一个需要梯度的张量 x
  2. 定义计算过程:通过一系列操作(乘法、加法、平方)定义了一个简单的计算过程。
  3. 反向传播 :通过调用 .backward() 方法进行反向传播,计算梯度。
  4. 创建计算图 :使用 make_dot 函数创建计算图。这个函数接受输出张量和参数字典(包含所有需要梯度的张量)。
  5. 渲染计算图 :使用 dot.render() 方法将计算图渲染为 PNG 图像,并保存到文件。

输出:

运行上述代码后,将在当前目录下生成一个名为 computational_graph.png 的图像文件,其中包含了计算图的可视化表示。

相关推荐
白杆杆红伞伞21 分钟前
10_聚类
机器学习·支持向量机·聚类
小天才才2 小时前
【自然语言处理】大模型时代的数据标注(主动学习)
人工智能·机器学习·语言模型·自然语言处理
苏苏susuus2 小时前
机器学习:集成学习概念和分类、随机森林、Adaboost、GBDT
机器学习·分类·集成学习
databook3 小时前
当机器学习遇见压缩感知:用少量数据重建完整世界
python·机器学习·scikit-learn
ahead~5 小时前
【大模型原理与技术-毛玉仁】第五章 模型编辑
人工智能·深度学习·机器学习
Mantanmu5 小时前
Python训练day40
人工智能·python·机器学习
小天才才6 小时前
前沿论文汇总(机器学习/深度学习/大模型/搜广推/自然语言处理)
人工智能·深度学习·机器学习·自然语言处理
MPCTHU6 小时前
机器学习的数学基础:神经网络
机器学习
武子康7 小时前
大数据-276 Spark MLib - 基础介绍 机器学习算法 Bagging和Boosting区别 GBDT梯度提升树
大数据·人工智能·算法·机器学习·语言模型·spark-ml·boosting
武子康7 小时前
大数据-277 Spark MLib - 基础介绍 机器学习算法 Gradient Boosting GBDT算法原理 高效实现
大数据·人工智能·算法·机器学习·ai·spark-ml·boosting