Pytorch源码编译Libtorch

创建虚拟环境:

shell 复制代码
conda create -n build-libtorch python=3.8
cd build-libtorch

安装相关依赖:

shell 复制代码
conda install astunparse numpy ninja pyyaml mkl mkl-include setuptools cmake cffi typing_extensions future six requests dataclasses

下载 Pytorch,可通过 HTTPS 或 SSH 方式进行下载:

shell 复制代码
git clone https://github.com/pytorch/pytorch.git  # HTTPS
git clone git@github.com:pytorch/pytorch.git  # SSH

克隆下来的是最新版本,可根据需要切换不同版本:

shell 复制代码
cd pytorch
git tag  # 查看标签
git checkout v1.4.0  # 根据标签切换版本
git submodule sync  # 根据父仓库中的配置,将子模块的URL进行更新,以保证与父仓库中记录的URL一致。这样,当执行git submodule update命令时,Git就能正确地从指定的URL下载子模块的更新或特定版本的代码
git submodule update --init --recursive  # 初始化和更新父仓库中的子模块,并递归地初始化和更新所有嵌套的子模块

如果不能通过 HTTPS 方式更新子模块,可以通过 sudo gedit .gitmodules 命令打开 .gitmodules 文件,该文件中记录了子模块的存储路径和下载地址。打开文件后修改子模块的 url,例如将 url = https://github.com/pybind/pybind11.git 修改为 url = git@github.com:pybind/pybind11.git。所有子模块的 url 都修改好后,依次执行 git submodule sync 和 git submodule update --init --recursive。

也可一步到位进行下载:

shell 复制代码
git clone -b v1.4.0 https://github.com/pytorch/pytorch.git
git clone -b v1.4.0 git@github.com:pytorch/pytorch.git

可根据需要设置编译选项:

shell 复制代码
export USE_CUDA=False
export BUILD_TEST=False
export USE_NINJA=OFF

执行编译:

shell 复制代码
方式一:
# 在pytorch目录下
mkdir build_libtorch && cd build_libtorch
python ../tools/build_libtorch.py

方式二:
# 在pytorch的父目录下
mkdir pytorch-build && cd pytorch-build
cmake -DBUILD_SHARED_LIBS:BOOL=ON -DCMAKE_BUILD_TYPE:STRING=Release -DPYTHON_EXECUTABLE:PATH=`which python3` -DCMAKE_INSTALL_PREFIX:PATH=../pytorch-install ../pytorch
cmake --build . --target install

新建 libtorch 目录,将 pytorch/torch/include 目录复制到 libtorch 目录下,将 build/lib 目录复制到 libtorch 目录下。

可能遇到的问题:

  1. 在执行 cmake 命令时,运行到 Performing Test COMPILER_SUPPORTS_LONG_DOUBLE 这一步就停止不动了,长时间没有反应,这很可能是 GCC 版本导致的问题,可尝试更换 GCC 版本来解决,更换的版本可以比之前更高,也可以更低,可以多尝试
  2. 出现 Could not run a simple program built with your compiler. If you are trying to use -fsanitize=address, make sure libasan is properly installed on your system (you can confirm if the problem is this by attempting to build and run a small program.) 问题,可尝试在 pytorch 目录下的 CMakeLists.txt 中设置 set(INTERN_BUILD_MOBILE ON) 来解决
相关推荐
邓工说电11 分钟前
智慧断路器安全吗?数据加密、离线保护与合规认证全解读
大数据·数据库·人工智能·智能断路器·炜晔科技
阿里云大数据AI技术13 分钟前
Lance 数据检索怎么选,当然阿里云 Milvus 向量湖
人工智能
出海客14 分钟前
跨境电商多语言客服知识库怎么建:资料结构、检索边界与人工升级
大数据·人工智能
for_ever_love__19 分钟前
MySQL 全文索引实战:FULLTEXT、ngram 中文分词与 MATCH AGAINST 到底该怎么用
java·python·mysql·全文检索·分词·索引·ngram
用户83562907805125 分钟前
使用 Python 合并 PowerPoint 演示文稿
后端·python
xsd2024111831 分钟前
从自主导航到视觉读表:一台工业巡检机器人的全栈技术链路拆解
人工智能
袁哥大话安全36 分钟前
巡隐WEBSHELL扫描软件
人工智能·安全·web
weixin_4617694038 分钟前
VS Code 中创建 Jupyter 文件(.ipynb)
ide·python·jupyter
论文复现现场1 小时前
8卡4090能跑70B吗?Llama-2显存预算、QLoRA与通信瓶颈
人工智能·深度学习·分布式训练·llama·显存·qlora·算家云
酷虎软件1 小时前
如何用AI创作AI歌曲AI音乐
人工智能