Pytorch源码编译Libtorch

创建虚拟环境:

shell 复制代码
conda create -n build-libtorch python=3.8
cd build-libtorch

安装相关依赖:

shell 复制代码
conda install astunparse numpy ninja pyyaml mkl mkl-include setuptools cmake cffi typing_extensions future six requests dataclasses

下载 Pytorch,可通过 HTTPSSSH 方式进行下载:

shell 复制代码
git clone https://github.com/pytorch/pytorch.git  # HTTPS
git clone git@github.com:pytorch/pytorch.git  # SSH

克隆下来的是最新版本,可根据需要切换不同版本:

shell 复制代码
cd pytorch
git tag  # 查看标签
git checkout v1.4.0  # 根据标签切换版本
git submodule sync  # 根据父仓库中的配置,将子模块的URL进行更新,以保证与父仓库中记录的URL一致。这样,当执行git submodule update命令时,Git就能正确地从指定的URL下载子模块的更新或特定版本的代码
git submodule update --init --recursive  # 初始化和更新父仓库中的子模块,并递归地初始化和更新所有嵌套的子模块

如果不能通过 HTTPS 方式更新子模块,可以通过 sudo gedit .gitmodules 命令打开 .gitmodules 文件,该文件中记录了子模块的存储路径和下载地址。打开文件后修改子模块的 url,例如将 url = https://github.com/pybind/pybind11.git 修改为 url = git@github.com:pybind/pybind11.git。所有子模块的 url 都修改好后,依次执行 git submodule syncgit submodule update --init --recursive

也可一步到位进行下载:

shell 复制代码
git clone -b v1.4.0 https://github.com/pytorch/pytorch.git
git clone -b v1.4.0 git@github.com:pytorch/pytorch.git

可根据需要设置编译选项:

shell 复制代码
export USE_CUDA=False
export BUILD_TEST=False
export USE_NINJA=OFF

执行编译:

shell 复制代码
方式一:
# 在pytorch目录下
mkdir build_libtorch && cd build_libtorch
python ../tools/build_libtorch.py

方式二:
# 在pytorch的父目录下
mkdir pytorch-build && cd pytorch-build
cmake -DBUILD_SHARED_LIBS:BOOL=ON -DCMAKE_BUILD_TYPE:STRING=Release -DPYTHON_EXECUTABLE:PATH=`which python3` -DCMAKE_INSTALL_PREFIX:PATH=../pytorch-install ../pytorch
cmake --build . --target install

新建 libtorch 目录,将 pytorch/torch/include 目录复制到 libtorch 目录下,将 build/lib 目录复制到 libtorch 目录下。

可能遇到的问题:

  1. 在执行 cmake 命令时,运行到 Performing Test COMPILER_SUPPORTS_LONG_DOUBLE 这一步就停止不动了,长时间没有反应,这很可能是 GCC 版本导致的问题,可尝试更换 GCC 版本来解决,更换的版本可以比之前更高,也可以更低,可以多尝试
  2. 出现 Could not run a simple program built with your compiler. If you are trying to use -fsanitize=address, make sure libasan is properly installed on your system (you can confirm if the problem is this by attempting to build and run a small program.) 问题,可尝试在 pytorch 目录下的 CMakeLists.txt 中设置 set(INTERN_BUILD_MOBILE ON) 来解决
相关推荐
玩电脑的辣条哥1 小时前
动态记忆网络 DeepMind的MEMO架构允许在推理时动态读写记忆矩阵,记忆容量提升40倍
人工智能
a0023450011 小时前
python类型转换&深浅拷贝
开发语言·python
星石传说1 小时前
python绘制年平均海表温度、盐度、ph分布图
python·生信·环境数据·分布图
番茄老夫子1 小时前
宠物智能可穿戴产品调研报告
大数据·人工智能·宠物
丁总学Java1 小时前
Cannot deserialize instance of java.lang.String out of START_ARRAY token
java·windows·python
lx7416026982 小时前
文章精读篇——用于遥感小样本语义分割的可学习Prompt
人工智能·学习·prompt
程序猿阿伟2 小时前
《解锁AI密码,机器人精准感知环境不再是梦!》
人工智能·机器人
cnbestec2 小时前
DEX-EE三指灵巧手:扩展AI与机器人研究的边界
人工智能·科技·机器人·欣佰特
AITIME论道2 小时前
即插即用Transformer、扩散模型、机器人规划、长文本检索增强生成 | Big Model Weekly 第57期...
人工智能·深度学习·transformer
云帆@2 小时前
deepseek-glm4-grpo训练
人工智能