SS928搭建NNN环境

环境要求:ubuntu18.04

参考文件:

《ATC工具使用指南》《应用开发指南》《驱动和开发环境安装指南》

《昇腾模型压缩工具使用指南(ONNX)》

交叉编译器的安装---------------------------------------------------------------------------------------------------

直接./aarch64-mix210-linux.install

vi /etc/profile

source /etc/profile使之生效

atc安装(非root)----------------------------------------------------------------------------------------------------

1:检查相关依赖

gcc --version

g++ --version

cmake --version

make --version

unzip --version

dpkg -l build-essential | grep build-essential | grep ii

dpkg -l zlib1g-dev| grep zlib1g-dev| grep ii

dpkg -l libbz2-dev| grep libbz2-dev| grep ii

dpkg -l libsqlite3-dev| grep libsqlite3-dev| grep ii

dpkg -l libssl-dev| grep libssl-dev| grep ii

dpkg -l libxslt1-dev| grep libxslt1-dev| grep ii

dpkg -l libffi-dev| grep libffi-dev| grep ii

如没有安装可以使用sudo apt-get install xxxx进行安装

2:安装python3.7.5

1)获取安装包--wget https://www.python.org/ftp/python/3.7.5/Python-3.7.5.tgz

  1. 解压 tar -xzvf Python-3.7.5.tgz

cd Python-3.7.5

./configure --prefix=/usr/local/python3.7.5 --enable-loadable-sqlite-extensions --enable-shared

make

sudo make install

  1. 设置软连接

sudo ln -s /usr/local/python3.7.5/bin/python3 /usr/local/python3.7.5/bin/python3.7.5

sudo ln -s /usr/local/python3.7.5/bin/pip3 /usr/local/python3.7.5/bin/pip3.7.5

  1. 设置环境变量,非root

vi ~/.bashrc

在最后加入

#用于设置 python3.7.5 库文件路径

export LD_LIBRARY_PATH=/usr/local/python3.7.5/lib:$LD_LIBRARY_PATH

#如果用户环境存在多个 python3 版本,则指定使用 python3.7.5 版本

export PATH=/usr/local/python3.7.5/bin:$PATH

source ~/.bashrc

  1. 测试一下

python3.7.5 --version

pip3.7.5 install --upgrade(升级pip)

pip3.7.5 --version

3)安装相关的依赖

4:./Ascend-cann-toolkit_5.20.t6.2.b060_linux-x86_64.run --install

5:配置环境变量

source /home/warren/Ascend/ascend-toolkit/latest/x86_64-linux/bin/setenv.bash

:6:安装aarch64-mix210-linux

7:若需要卸载

bash /home/warren/Ascend/ascend-toolkit/latest/x86_64-linux/script/toolkit_uninstall.sh

atc使用:

1:首先设置环境变量

source /home/warren/Ascend/ascend-toolkit/latest/x86_64-linux/bin/setenv.bash

2:框架转换案例

atc --model=/home/warren/ss928/model_onnx/resnet101_v11.onnx \

--soc_version=OPTG --framework=5 \

--output=/home/warren/ss928/model_onnx/out \

--input_shape="input:-1,3,224,224" --dynamic_batch_size="1,2,4,8"

amct(主要用于量化)安装-----------------------------------------------------------------------

  1. 所需文件
  2. 所需依赖

3)pip3 install amct_onnx-0.3.2-py3-none-linux_x86_64.whl

可以查看是否安装成功

  1. 编译自定义算子

4:cd amct_onnx_op/ && python3 setup.py build(请使用root权限)

至此完成

转换案例---------------------------------------------------------------------------------

1:获取sample--> samples: CANN Samples

2:文件结构如下,其中data里放矫正的图片

3:python3 ./src/resnet-101_calibration.py(请使用root)

至此量化完成。

应用开发测试----------------------------------------------------------------------------------------------------

PC端:

下载sample

https://gitee.com/ascend/samples/tree/master/cplusplus/level2_simple_inference/1_classification/resnet50_imagenet_classification

1:添加环境变量:

export DDK_PATH=$HOME/Ascend/ascend-toolkit/latest

export NPU_HOST_LIB=$DDK_PATH/runtime/lib64/stub

2:创建build目录

mkdir -p build/intermediates/host

3:cmake ../../../src -DCMAKE_CXX_COMPILER=aarch64-mix210-linux-g++ -DCMAKE_SKIP_RPATH=TRUE

板端---------------------------------------------------------------------------------------------------------------------------

设置环境变量

export LD_LIBRARY_PATH=/opt/sd/lib_svp

export ASCEND_AACPU_KERNEL_PATH=/opt/sd/lib_svp

直接运行./main

2:./main

相关推荐
学电子她就能回来吗30 分钟前
深度学习速成:损失函数与反向传播
人工智能·深度学习·学习·计算机视觉·github
The Straggling Crow30 分钟前
model training platform
人工智能
爱吃泡芙的小白白31 分钟前
突破传统:CNN卷积层(普通/空洞)核心技术演进与实战指南
人工智能·神经网络·cnn·卷积层·空洞卷积·普通卷积
人道领域38 分钟前
AI抢人大战:谁在收割你的红包
大数据·人工智能·算法
初恋叫萱萱42 分钟前
CANN 系列深度篇:基于 ge 图引擎构建高效 AI 执行图
人工智能
qq_12498707531 小时前
基于Hadoop的信贷风险评估的数据可视化分析与预测系统的设计与实现(源码+论文+部署+安装)
大数据·人工智能·hadoop·分布式·信息可视化·毕业设计·计算机毕业设计
Coder_Boy_1 小时前
TensorFlow小白科普
人工智能·深度学习·tensorflow·neo4j
L、2181 小时前
CANN 中的图优化技术详解:如何让 AI 模型跑得更快、更省
人工智能
大模型玩家七七1 小时前
梯度累积真的省显存吗?它换走的是什么成本
java·javascript·数据库·人工智能·深度学习
新缸中之脑1 小时前
像画家一样编程
人工智能