Pytorch源码编译Libtorch

创建虚拟环境:

shell 复制代码
conda create -n build-libtorch python=3.8
cd build-libtorch

安装相关依赖:

shell 复制代码
conda install astunparse numpy ninja pyyaml mkl mkl-include setuptools cmake cffi typing_extensions future six requests dataclasses

下载 Pytorch,可通过 HTTPSSSH 方式进行下载:

shell 复制代码
git clone https://github.com/pytorch/pytorch.git  # HTTPS
git clone git@github.com:pytorch/pytorch.git  # SSH

克隆下来的是最新版本,可根据需要切换不同版本:

shell 复制代码
cd pytorch
git tag  # 查看标签
git checkout v1.4.0  # 根据标签切换版本
git submodule sync  # 根据父仓库中的配置,将子模块的URL进行更新,以保证与父仓库中记录的URL一致。这样,当执行git submodule update命令时,Git就能正确地从指定的URL下载子模块的更新或特定版本的代码
git submodule update --init --recursive  # 初始化和更新父仓库中的子模块,并递归地初始化和更新所有嵌套的子模块

如果不能通过 HTTPS 方式更新子模块,可以通过 sudo gedit .gitmodules 命令打开 .gitmodules 文件,该文件中记录了子模块的存储路径和下载地址。打开文件后修改子模块的 url,例如将 url = https://github.com/pybind/pybind11.git 修改为 url = git@github.com:pybind/pybind11.git。所有子模块的 url 都修改好后,依次执行 git submodule syncgit submodule update --init --recursive

也可一步到位进行下载:

shell 复制代码
git clone -b v1.4.0 https://github.com/pytorch/pytorch.git
git clone -b v1.4.0 git@github.com:pytorch/pytorch.git

可根据需要设置编译选项:

shell 复制代码
export USE_CUDA=False
export BUILD_TEST=False
export USE_NINJA=OFF

执行编译:

shell 复制代码
方式一:
# 在pytorch目录下
mkdir build_libtorch && cd build_libtorch
python ../tools/build_libtorch.py

方式二:
# 在pytorch的父目录下
mkdir pytorch-build && cd pytorch-build
cmake -DBUILD_SHARED_LIBS:BOOL=ON -DCMAKE_BUILD_TYPE:STRING=Release -DPYTHON_EXECUTABLE:PATH=`which python3` -DCMAKE_INSTALL_PREFIX:PATH=../pytorch-install ../pytorch
cmake --build . --target install

新建 libtorch 目录,将 pytorch/torch/include 目录复制到 libtorch 目录下,将 build/lib 目录复制到 libtorch 目录下。

可能遇到的问题:

  1. 在执行 cmake 命令时,运行到 Performing Test COMPILER_SUPPORTS_LONG_DOUBLE 这一步就停止不动了,长时间没有反应,这很可能是 GCC 版本导致的问题,可尝试更换 GCC 版本来解决,更换的版本可以比之前更高,也可以更低,可以多尝试
  2. 出现 Could not run a simple program built with your compiler. If you are trying to use -fsanitize=address, make sure libasan is properly installed on your system (you can confirm if the problem is this by attempting to build and run a small program.) 问题,可尝试在 pytorch 目录下的 CMakeLists.txt 中设置 set(INTERN_BUILD_MOBILE ON) 来解决
相关推荐
大咖分享课几秒前
深度剖析:最新发布的ChatGPT Agent 技术架构与应用场景
人工智能·openai·智能助手·ai代理·chatgpt agent·自主任务执行
chao_7899 分钟前
更灵活方便的初始化、清除方法——fixture【pytest】
服务器·自动化测试·python·pytest
lucky_lyovo10 分钟前
卷积神经网络--网络性能提升
人工智能·神经网络·cnn
liliangcsdn14 分钟前
smolagents - 如何在mac用agents做简单算术题
人工智能·macos·prompt
nju_spy19 分钟前
周志华《机器学习导论》第8章 集成学习 Ensemble Learning
人工智能·随机森林·机器学习·集成学习·boosting·bagging·南京大学
心情好的小球藻38 分钟前
Python应用进阶DAY9--类型注解Type Hinting
开发语言·python
都叫我大帅哥40 分钟前
LangChain加载HTML内容全攻略:从入门到精通
python·langchain
静心问道42 分钟前
TrOCR: 基于Transformer的光学字符识别方法,使用预训练模型
人工智能·深度学习·transformer·多模态
说私域44 分钟前
基于开源AI大模型、AI智能名片与S2B2C商城小程序源码的用户价值引导与核心用户沉淀策略研究
人工智能·开源
亲持红叶1 小时前
GLU 变种:ReGLU 、 GEGLU 、 SwiGLU
人工智能·深度学习·神经网络·激活函数