极智AI | 地平线开工开物工具链docker开发环境搭建

欢迎关注我的公众号 [极智视界],获取我的更多经验分享

大家好,我是极智视界,本文来介绍一下 地平线天工开物工具链docker开发环境搭建。

邀您加入我的知识星球「极智视界」,星球内有超多好玩的项目实战源码下载,链接:t.zsxq.com/0aiNxERDq

准备开工开物工具链:OE工具链

准备数据集:可以参考地平线官方: OE数据集准备

比如将准备好的数据集放到 /data 目录

加载镜像:

bash 复制代码
# 加载gpu镜像
docker load < docker_openexplorer_ubuntu_20_xj3_gpu_v2.6.2b.tar.gz
# 加载cpu镜像
docker load < docker_openexplorer_ubuntu_20_xj3_cpu_v2.6.2b.tar.gz

创建容器:

执行如下脚本:

bash 复制代码
# gpu docker
./run_docker.sh /data

# cpu docker
./run_docker.sh /data cpu
bash 复制代码
#!/bin/bash

dataset_path=$1
run_type=$2
version=v2.6.2b

if [ -z "$dataset_path" ];then
  echo "Please specify the dataset path"
  exit
fi
dataset_path=$(readlink -f "$dataset_path")

echo "Docker version is ${version}"
echo "Dataset path is $(readlink -f "$dataset_path")"

open_explorer_path=$(readlink -f "$(dirname "$0")")
echo "OpenExplorer package path is $open_explorer_path"

if [ "$run_type" == "cpu" ];then
    docker run -it  -p 9991:22 --net=bridge --ipc=host --pid=host --name oe_infer \
      -v "$open_explorer_path":/open_explorer \
      -v "$dataset_path":/data/horizon_x3/data \
      -v /workspace:/workspace \
      openexplorer/ai_toolchain_ubuntu_20_xj3_cpu:"$version"
else
    echo "Run in GPU mode"
    docker run -it -p 9991:22 --net=bridge --ipc=host --pid=host --name oe_infer \
      --gpus all --privileged \
      -v "$open_explorer_path":/open_explorer \
      -v "$dataset_path":/data/horizon_x3/data \
      -v /workspace:/workspace \
      openexplorer/ai_toolchain_ubuntu_20_xj3_gpu:"$version"
fi

因为后面要训练啥的,所以就默认创建 gpu docker 了,直接执行上述创建 gpu docker 的命令后,就有了名为 oe_infer 的容器了,使用命令 nvidia-sminvcc -V 验证一下 cuda 环境是否正常,如下:

容器里边的 /open_explorer 目录,就已经映射到了最开始准备的天工开物工具链的包路径,进入容器后,首先使用 hb_mapper 命令验证环境是否正常,如下:

这样基础的容器环境已经搭建,后面基于基础容器环境进一步进行配置。

天工开物工具链要求的一般环境如下:

  • 操作系统:Ubuntu20.04
  • Python3.8
  • libpython3.8
  • python3-devel
  • python3-pip
  • gcc&c++: 5.4.0
  • graphviz
  • cuda11.1
  • torch1.10.2+cuda11.1
  • torchvision0.11.3+cuda11.1

首先安装一下 python 环境,这里用 anaconda3 进行 python 环境管理 (安装 anaconda3 的过程略过)。然后创建 python3.8 的环境:

ini 复制代码
conda create -n oe_py38 python=3.8
# 激活
conda activate oe_py38

工具链依赖安装:

sql 复制代码
apt update
apt install language-pack-en
update-locale LC_ALL=en_US.utf8

cd /open_explorer/ddk/package/host/ai_toolchain
bash install_ai_toolchain.sh

如果遇到报错:

bash 复制代码
Building wheels for collected packages: pycocotools
  Building wheel for pycocotools (setup.py) ... error
  error: subprocess-exited-with-error
  
  × python setup.py bdist_wheel did not run successfully.
  │ exit code: 1
  ╰─> [43 lines of output]
      /tmp/pip-install-usyyw9sm/pycocotools_4bac52cd9bd64fc28e2f32053854883e/setup.py:12: _DeprecatedInstaller: setuptools.installer and fetch_build_eggs are deprecated.
      .....
      creating build/common
      creating build/temp.linux-x86_64-cpython-38
      creating build/temp.linux-x86_64-cpython-38/common
      creating build/temp.linux-x86_64-cpython-38/pycocotools
      gcc -pthread -B /root/anaconda3/envs/oe_py38/compiler_compat -Wl,--sysroot=/ -Wsign-compare -DNDEBUG -g -fwrapv -O3 -Wall -Wstrict-prototypes -fPIC -I/root/.local/lib/python3.8/site-packages/numpy/core/include -I./common -I/root/anaconda3/envs/oe_py38/include/python3.8 -c ../common/maskApi.c -o build/temp.linux-x86_64-cpython-38/../common/maskApi.o -Wno-cpp -Wno-unused-function -std=c99
      gcc: error: ../common/maskApi.c: No such file or directory
      error: command '/usr/bin/gcc' failed with exit code 1
      [end of output]
  
  note: This error originates from a subprocess, and is likely not a problem with pip.
  ERROR: Failed building wheel for pycocotools
  Running setup.py clean for pycocotools
Failed to build pycocotools
ERROR: Could not build wheels for pycocotools, which is required to install pyproject.toml-based projects

解决办法是安装 cpython,而且是一定要安装较低版本的 cpython,版本太高也不行 (这个坑也是卡了好几天):

ini 复制代码
pip install cython==0.29.36

然后重新安装 install_ai_toolchain.sh 就可,采用如下命令验证是否安装成功:

sql 复制代码
pip show horizon_nn && pip show horizon_tc_ui

这样 工具链的 docker 开发环境就全部安装完成了。

好了,以上分享了地平线天工开物工具链docker开发环境搭建。希望我的分享能对你的学习有一点帮助。


【公众号传送】

《极智AI | 地平线天工开物工具链docker开发环境搭建》

畅享人工智能的科技魅力,让好玩的AI项目不难玩。邀请您加入我的知识星球, 星球内我精心整备了大量好玩的AI项目,皆以工程源码形式开放使用,涵盖人脸、检测、分割、多模态、AIGC、自动驾驶、工业等。不敢说会对你学习有所帮助,但一定非常好玩,并持续更新更加有趣的项目。 t.zsxq.com/0aiNxERDq

相关推荐
算家计算2 分钟前
AI大神100美元手搓ChatGPT!nanochat教程爆火,4小时炼成聊天机器人
人工智能·chatgpt·资讯
Kaydeon4 分钟前
【AIGC】50倍加速!NVIDIA蒸馏算法rCM:分数正则化连续时间一致性模型的大规模扩散蒸馏
人工智能·pytorch·python·深度学习·计算机视觉·aigc
阿里云大数据AI技术17 分钟前
AI刷新赛事体验,PAI-ArtLab支撑“我的NBA AI手办”互动
人工智能
zhy2956329 分钟前
【DNN】基础环境搭建
人工智能·tensorrt·cuda·开发环境·cudnn
PKNLP31 分钟前
NLP入门
人工智能·自然语言处理
Mr.Lee jack33 分钟前
体验GPT-OSS-120B:在PH8平台上探索超大规模语言模型的强大能力
人工智能·gpt·语言模型·openai·deepseek
余衫马35 分钟前
大语言模型(LLM)领域细分方向解析
人工智能·语言模型·自然语言处理·llm·领域方向
小关会打代码37 分钟前
自然语言处理(NLP)之分词
人工智能·自然语言处理
阿里-于怀37 分钟前
阿里云发布《AI 原生应用架构白皮书》
人工智能·阿里云·ai·架构·白皮书·ai原生
AI新兵38 分钟前
AI大事记12:Transformer 架构——重塑 NLP 的革命性技术(中)
人工智能·自然语言处理·transformer