极智AI | 地平线开工开物工具链docker开发环境搭建

欢迎关注我的公众号 [极智视界],获取我的更多经验分享

大家好,我是极智视界,本文来介绍一下 地平线天工开物工具链docker开发环境搭建。

邀您加入我的知识星球「极智视界」,星球内有超多好玩的项目实战源码下载,链接:t.zsxq.com/0aiNxERDq

准备开工开物工具链:OE工具链

准备数据集:可以参考地平线官方: OE数据集准备

比如将准备好的数据集放到 /data 目录

加载镜像:

bash 复制代码
# 加载gpu镜像
docker load < docker_openexplorer_ubuntu_20_xj3_gpu_v2.6.2b.tar.gz
# 加载cpu镜像
docker load < docker_openexplorer_ubuntu_20_xj3_cpu_v2.6.2b.tar.gz

创建容器:

执行如下脚本:

bash 复制代码
# gpu docker
./run_docker.sh /data

# cpu docker
./run_docker.sh /data cpu
bash 复制代码
#!/bin/bash

dataset_path=$1
run_type=$2
version=v2.6.2b

if [ -z "$dataset_path" ];then
  echo "Please specify the dataset path"
  exit
fi
dataset_path=$(readlink -f "$dataset_path")

echo "Docker version is ${version}"
echo "Dataset path is $(readlink -f "$dataset_path")"

open_explorer_path=$(readlink -f "$(dirname "$0")")
echo "OpenExplorer package path is $open_explorer_path"

if [ "$run_type" == "cpu" ];then
    docker run -it  -p 9991:22 --net=bridge --ipc=host --pid=host --name oe_infer \
      -v "$open_explorer_path":/open_explorer \
      -v "$dataset_path":/data/horizon_x3/data \
      -v /workspace:/workspace \
      openexplorer/ai_toolchain_ubuntu_20_xj3_cpu:"$version"
else
    echo "Run in GPU mode"
    docker run -it -p 9991:22 --net=bridge --ipc=host --pid=host --name oe_infer \
      --gpus all --privileged \
      -v "$open_explorer_path":/open_explorer \
      -v "$dataset_path":/data/horizon_x3/data \
      -v /workspace:/workspace \
      openexplorer/ai_toolchain_ubuntu_20_xj3_gpu:"$version"
fi

因为后面要训练啥的,所以就默认创建 gpu docker 了,直接执行上述创建 gpu docker 的命令后,就有了名为 oe_infer 的容器了,使用命令 nvidia-sminvcc -V 验证一下 cuda 环境是否正常,如下:

容器里边的 /open_explorer 目录,就已经映射到了最开始准备的天工开物工具链的包路径,进入容器后,首先使用 hb_mapper 命令验证环境是否正常,如下:

这样基础的容器环境已经搭建,后面基于基础容器环境进一步进行配置。

天工开物工具链要求的一般环境如下:

  • 操作系统:Ubuntu20.04
  • Python3.8
  • libpython3.8
  • python3-devel
  • python3-pip
  • gcc&c++: 5.4.0
  • graphviz
  • cuda11.1
  • torch1.10.2+cuda11.1
  • torchvision0.11.3+cuda11.1

首先安装一下 python 环境,这里用 anaconda3 进行 python 环境管理 (安装 anaconda3 的过程略过)。然后创建 python3.8 的环境:

ini 复制代码
conda create -n oe_py38 python=3.8
# 激活
conda activate oe_py38

工具链依赖安装:

sql 复制代码
apt update
apt install language-pack-en
update-locale LC_ALL=en_US.utf8

cd /open_explorer/ddk/package/host/ai_toolchain
bash install_ai_toolchain.sh

如果遇到报错:

bash 复制代码
Building wheels for collected packages: pycocotools
  Building wheel for pycocotools (setup.py) ... error
  error: subprocess-exited-with-error
  
  × python setup.py bdist_wheel did not run successfully.
  │ exit code: 1
  ╰─> [43 lines of output]
      /tmp/pip-install-usyyw9sm/pycocotools_4bac52cd9bd64fc28e2f32053854883e/setup.py:12: _DeprecatedInstaller: setuptools.installer and fetch_build_eggs are deprecated.
      .....
      creating build/common
      creating build/temp.linux-x86_64-cpython-38
      creating build/temp.linux-x86_64-cpython-38/common
      creating build/temp.linux-x86_64-cpython-38/pycocotools
      gcc -pthread -B /root/anaconda3/envs/oe_py38/compiler_compat -Wl,--sysroot=/ -Wsign-compare -DNDEBUG -g -fwrapv -O3 -Wall -Wstrict-prototypes -fPIC -I/root/.local/lib/python3.8/site-packages/numpy/core/include -I./common -I/root/anaconda3/envs/oe_py38/include/python3.8 -c ../common/maskApi.c -o build/temp.linux-x86_64-cpython-38/../common/maskApi.o -Wno-cpp -Wno-unused-function -std=c99
      gcc: error: ../common/maskApi.c: No such file or directory
      error: command '/usr/bin/gcc' failed with exit code 1
      [end of output]
  
  note: This error originates from a subprocess, and is likely not a problem with pip.
  ERROR: Failed building wheel for pycocotools
  Running setup.py clean for pycocotools
Failed to build pycocotools
ERROR: Could not build wheels for pycocotools, which is required to install pyproject.toml-based projects

解决办法是安装 cpython,而且是一定要安装较低版本的 cpython,版本太高也不行 (这个坑也是卡了好几天):

ini 复制代码
pip install cython==0.29.36

然后重新安装 install_ai_toolchain.sh 就可,采用如下命令验证是否安装成功:

sql 复制代码
pip show horizon_nn && pip show horizon_tc_ui

这样 工具链的 docker 开发环境就全部安装完成了。

好了,以上分享了地平线天工开物工具链docker开发环境搭建。希望我的分享能对你的学习有一点帮助。


【公众号传送】

《极智AI | 地平线天工开物工具链docker开发环境搭建》

畅享人工智能的科技魅力,让好玩的AI项目不难玩。邀请您加入我的知识星球, 星球内我精心整备了大量好玩的AI项目,皆以工程源码形式开放使用,涵盖人脸、检测、分割、多模态、AIGC、自动驾驶、工业等。不敢说会对你学习有所帮助,但一定非常好玩,并持续更新更加有趣的项目。 t.zsxq.com/0aiNxERDq

相关推荐
wx7408513265 分钟前
小琳AI课堂:机器学习
人工智能·机器学习
FL162386312912 分钟前
[数据集][目标检测]车油口挡板开关闭合检测数据集VOC+YOLO格式138张2类别
人工智能·yolo·目标检测
YesPMP平台官方14 分钟前
AI+教育|拥抱AI智能科技,让课堂更生动高效
人工智能·科技·ai·数据分析·软件开发·教育
FL162386312940 分钟前
AI健身体能测试之基于paddlehub实现引体向上计数个数统计
人工智能
黑客-雨43 分钟前
构建你的AI职业生涯:从基础知识到专业实践的路线图
人工智能·产品经理·ai大模型·ai产品经理·大模型学习·大模型入门·大模型教程
子午1 小时前
动物识别系统Python+卷积神经网络算法+TensorFlow+人工智能+图像识别+计算机毕业设计项目
人工智能·python·cnn
大耳朵爱学习1 小时前
掌握Transformer之注意力为什么有效
人工智能·深度学习·自然语言处理·大模型·llm·transformer·大语言模型
TAICHIFEI1 小时前
目标检测-数据集
人工智能·目标检测·目标跟踪
qq_15321452641 小时前
【2023工业异常检测文献】SimpleNet
图像处理·人工智能·深度学习·神经网络·机器学习·计算机视觉·视觉检测
洛阳泰山1 小时前
如何使用Chainlit让所有网站快速嵌入一个AI聊天助手Copilot
人工智能·ai·llm·copilot·网站·chainlit·copliot