SS928搭建NNN环境

环境要求:ubuntu18.04

参考文件:

《ATC工具使用指南》《应用开发指南》《驱动和开发环境安装指南》

《昇腾模型压缩工具使用指南(ONNX)》

交叉编译器的安装---------------------------------------------------------------------------------------------------

直接./aarch64-mix210-linux.install

vi /etc/profile

source /etc/profile使之生效

atc安装(非root)----------------------------------------------------------------------------------------------------

1:检查相关依赖

gcc --version

g++ --version

cmake --version

make --version

unzip --version

dpkg -l build-essential | grep build-essential | grep ii

dpkg -l zlib1g-dev| grep zlib1g-dev| grep ii

dpkg -l libbz2-dev| grep libbz2-dev| grep ii

dpkg -l libsqlite3-dev| grep libsqlite3-dev| grep ii

dpkg -l libssl-dev| grep libssl-dev| grep ii

dpkg -l libxslt1-dev| grep libxslt1-dev| grep ii

dpkg -l libffi-dev| grep libffi-dev| grep ii

如没有安装可以使用sudo apt-get install xxxx进行安装

2:安装python3.7.5

1)获取安装包--wget https://www.python.org/ftp/python/3.7.5/Python-3.7.5.tgz

  1. 解压 tar -xzvf Python-3.7.5.tgz

cd Python-3.7.5

./configure --prefix=/usr/local/python3.7.5 --enable-loadable-sqlite-extensions --enable-shared

make

sudo make install

  1. 设置软连接

sudo ln -s /usr/local/python3.7.5/bin/python3 /usr/local/python3.7.5/bin/python3.7.5

sudo ln -s /usr/local/python3.7.5/bin/pip3 /usr/local/python3.7.5/bin/pip3.7.5

  1. 设置环境变量,非root

vi ~/.bashrc

在最后加入

#用于设置 python3.7.5 库文件路径

export LD_LIBRARY_PATH=/usr/local/python3.7.5/lib:$LD_LIBRARY_PATH

#如果用户环境存在多个 python3 版本,则指定使用 python3.7.5 版本

export PATH=/usr/local/python3.7.5/bin:$PATH

source ~/.bashrc

  1. 测试一下

python3.7.5 --version

pip3.7.5 install --upgrade(升级pip)

pip3.7.5 --version

3)安装相关的依赖

4:./Ascend-cann-toolkit_5.20.t6.2.b060_linux-x86_64.run --install

5:配置环境变量

source /home/warren/Ascend/ascend-toolkit/latest/x86_64-linux/bin/setenv.bash

:6:安装aarch64-mix210-linux

7:若需要卸载

bash /home/warren/Ascend/ascend-toolkit/latest/x86_64-linux/script/toolkit_uninstall.sh

atc使用:

1:首先设置环境变量

source /home/warren/Ascend/ascend-toolkit/latest/x86_64-linux/bin/setenv.bash

2:框架转换案例

atc --model=/home/warren/ss928/model_onnx/resnet101_v11.onnx \

--soc_version=OPTG --framework=5 \

--output=/home/warren/ss928/model_onnx/out \

--input_shape="input:-1,3,224,224" --dynamic_batch_size="1,2,4,8"

amct(主要用于量化)安装-----------------------------------------------------------------------

  1. 所需文件
  2. 所需依赖

3)pip3 install amct_onnx-0.3.2-py3-none-linux_x86_64.whl

可以查看是否安装成功

  1. 编译自定义算子

4:cd amct_onnx_op/ && python3 setup.py build(请使用root权限)

至此完成

转换案例---------------------------------------------------------------------------------

1:获取sample--> samples: CANN Samples

2:文件结构如下,其中data里放矫正的图片

3:python3 ./src/resnet-101_calibration.py(请使用root)

至此量化完成。

应用开发测试----------------------------------------------------------------------------------------------------

PC端:

下载sample

https://gitee.com/ascend/samples/tree/master/cplusplus/level2_simple_inference/1_classification/resnet50_imagenet_classification

1:添加环境变量:

export DDK_PATH=$HOME/Ascend/ascend-toolkit/latest

export NPU_HOST_LIB=$DDK_PATH/runtime/lib64/stub

2:创建build目录

mkdir -p build/intermediates/host

3:cmake ../../../src -DCMAKE_CXX_COMPILER=aarch64-mix210-linux-g++ -DCMAKE_SKIP_RPATH=TRUE

板端---------------------------------------------------------------------------------------------------------------------------

设置环境变量

export LD_LIBRARY_PATH=/opt/sd/lib_svp

export ASCEND_AACPU_KERNEL_PATH=/opt/sd/lib_svp

直接运行./main

2:./main

相关推荐
阿里云大数据AI技术3 分钟前
AI 时代,零售商超如何用多模态数据"看见"每一排货架?
人工智能
一RTOS一14 分钟前
【无标题】
人工智能·鸿道实时操作系统·国产嵌入式操作系统选型·智算控一体
听风34720 分钟前
Arch Linux 软件安装完全指南
linux·运维·archlinux·pacman
cian_22 分钟前
我把 Anthropic 官方的 Claude Cookbook 拆成了 30+ 个能直接跑的例子
人工智能
秦先生在广东25 分钟前
`claude-video /watch`:给 Claude 装上“眼睛“看视频的工程实现与边界分析
人工智能
极客猴子38 分钟前
会议记录APP怎么选 2026年实测功能对比与使用指南
人工智能·xcode
秦先生在广东41 分钟前
Impeccable:给 AI 编码 Agent 装上设计判断力的工具包
人工智能
hnsoyon41 分钟前
智慧城市方案强调预防供水在线监测系统预警水质异常
人工智能·智慧城市·智慧城市方案·供水在线监测系统
Nontee2244 分钟前
开源 AI 模型到底该不该禁?Anthropic 的一场"不情愿的澄清",撕开了硅谷最深的裂痕
人工智能
韩楚风1 小时前
【参天引擎】一次宕机后的数据恢复,让我把 Cantian 持久化与恢复的六大机制全搞明白了
服务器·网络·数据库·分布式·mysql·架构·cantian