ubuntu20.04 tvm 安装教程

ubuntu20.04 tvm 安装教程:

参考:

  1. https://tvm.hyper.ai/docs/install/from_source/

  2. https://blog.csdn.net/wenwen_2020/article/details/134856293

步骤:

  1. 创建容器:docker run -itd --name tvm --gpus=all --ipc=host -p 20322:22 -v /mnt/iro/tt:/home/tt ubuntu:20.04 /bin/bash -c "while true; do echo \'Hello\'; sleep 1000; done"

  2. apt update

apt-get install -y python3 python3-dev python3-setuptools gcc libtinfo-dev zlib1g-dev build-essential libedit-dev libxml2-dev

  1. 安装cmake:

wget https://github.com/Kitware/CMake/releases/download/v3.28.3/cmake-3.28.3.tar.gz

tar -zxvf cmake-3.28.3.tar.gz

apt-get install libssl-dev

./bootstrap

make

make install

ln -s /home/tt/tools/cmake-3.28.3/bin/* /usr/bin/

cmake -version

  1. apt install libncurses5

wget https://github.com/llvm/llvm-project/releases/download/llvmorg-13.0.0/clang+llvm-13.0.0-x86_64-linux-gnu-ubuntu-20.04.tar.xz

tar -xvf clang+llvm-13.0.0-x86_64-linux-gnu-ubuntu-20.04.tar.xz

mv clang+llvm-13.0.0-x86_64-linux-gnu-ubuntu-20.04 llvm13

vim /etc/profile

最后添加两行:

export LLVM_HOME=/home/tt/tools/llvm13/bin

export PATH=LLVM_HOME:PATH

source /etc/profile

llvm-as --version

set(USE_LLVM OFF)

改为:

set(USE_LLVM ON) 或者 SET(USE_LLVM /home/tt/tools/llvm13/bin/llvm-config)

set(USE_CUDA OFF)

改为:

set(USE_CUDA ON) 或者 SET(USE_CUDA /cuda的路径)

set(USE_CUDNN OFF) 改为:set(USE_CUDNN ON)

set(USE_GRAPH_EXECUTOR OFF) 改为:set(USE_GRAPH_EXECUTOR ON)

set(USE_PROFILER OFF) 改为:set(USE_PROFILER ON)

cd build

cmake ..

make -j24

vim ~/.bashrc

文件末尾添加这几行

export TVM_HOME=/home/tt/project/tvm

export PYTHONPATH=TVM_HOME/python:TVM_HOME/python/tvm:TVM_HOME/build:TVM_HOME/python/tvm/runtime:$[PYTHONPATH]

注意:

  1. 官方导出TVM_LOG_DEBUG有bug,import tvm时会报错,修改为:
    export TVM_LOG_DEBUG="ir/transform.cc=1,relay/ir/transform.cc=1"

  2. ubuntu20.04的话,注意用13.0.0的llvm,不然会core dump!!!!!

相关推荐
HyperAI超神经14 天前
【TVM 教程】在 Relay 中使用外部库
开发语言·人工智能·深度学习·机器学习·语言模型·自然语言处理·tvm
HyperAI超神经2 个月前
【TVM 教程】在 CUDA 上部署量化模型
人工智能·python·深度学习·机器学习·语言模型·自然语言处理·tvm
Briwisdom8 个月前
AI编译器的后端优化策略
人工智能·tvm·算子·ai编译器·指令优化
ltshan13910 个月前
Ubuntu20.04上编译安装TVM
tvm·cmake·llvm
HyperAI超神经1 年前
HLS 后端示例
人工智能·机器学习·tvm·ai 编译器
Mitch3111 年前
【开发环境】Windows下搭建TVM编译器
人工智能·windows·深度学习·深度学习编译器·tvm·编译器