**《【北京迅为】itop-3568开发板NPU使用手册》**系统性地介绍了RKNPU从入门到应用开发的全流程知识体系。本手册以"认识工具---构建环境---模型转换---部署实践"为主线，为开发者在Linux和Android双平台上提供完整的NPU应用开发指导。
本手册既适合嵌入式AI开发初学者系统学习，也可作为高级开发者的技术参考，帮助开发者高效利用RKNPU实现各类AI应用的部署与优化。
【公众号】迅为电子
【交流群】861311530
【视频展示】【【北京迅为】基于RK3568/RK3588开发板的AI图像识别方案】
【视频教程】【AI深度学习推理加速器】------RKNPU2 从入门到实践（基于RK3588和RK3568）
完整教程及配套资料，关注我的B站👉【北京迅为电子】或公众号，回复【RKNPU2】即可领取，你的关注是我更新的最大动力~
第 7章 使用RKNN-Toolkit-lite2
7.1 主要功能说明
RKNNToolkit2工具包中包含了RKNN Toolkit Lite2工具，RKNN Toolkit Lite2工具只可以在开发板上部署运行RKNN模型，不能进行模型转换，如果非RKNN模型，请使用RKNN-Toolkit2 来进行转换。
RKNN Toolkit Lite2 为 Rockchip NPU 平台提供 Python 编程接口，帮助用户部署 RKNN 模型，加速 AI 应用的落地，方便开发人员快速上手，推荐使用！！！
RKNN Toolkit Lite2工具支持运行在Debian10/Debian11（aarch64）
开发板上系统python版本为3.7或者3.9版本
Python库依赖为numpy 、ruamel.yaml、psutils
7.2 Debian更换下载源
开发板烧写Debian系统，开发板要保持联网状态，首先Debian系统更换国内下载源。
1 在开发板终端使用以下命令备份软件源，如下图所示：
cp /etc/apt/sources.list /etc/apt/sources.list_back
2然后使用以下命令对该软件源进行修改替换成为阿里源，如下图所示：
vim /etc/apt/sources.listsources.list内容修改为如下所示：
deb http://mirrors.aliyun.com/debian/ buster main non-free contrib
deb-src http://mirrors.aliyun.com/debian/ buster main non-free contrib
deb http://mirrors.aliyun.com/debian-security buster/updates main
deb-src http://mirrors.aliyun.com/debian-security buster/updates main
deb http://mirrors.aliyun.com/debian/ buster-updates main non-free contrib
deb-src http://mirrors.aliyun.com/debian/ buster-updates main non-free contrib
deb http://mirrors.aliyun.com/debian/ buster-backports main non-free contrib
deb-src http://mirrors.aliyun.com/debian/ buster-backports main non-free contrib
3然后使用以下命令来更新系统资源列表，如下图所示：
apt-get update
4等待更新完成，至此系统软件源就更换成功了。
7.3安装 RKNN Toolkit Lite2
1 输入以下命令安装 Python3.7、pip3 、gcc
apt-get install python3 python3-dev python3-pip gcc
2安装相关依赖，输入以下命令：注： Toolkit-lite2 本身并不依赖 opencv-python，但是在示例中需要用到这个模块，所以安装时也一并安装。如果不用到图像相关的处理，可以不安装该依赖库
apt-get install -y python3-opencv
apt-get install -y python3-numpy
3 安装依赖包setuptools，输入以下命令：
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple setuptools
4 输入以下命令升级pip
python3 -m pip install --upgrade pip
5 下载网盘资料中"iTOP-3568开发板\02_【iTOP-RK3568开发板】开发资料\11_NPU使用配套资料\04_RKNN-Toolkit-lite2工具"中rknn_toolkit_lite2.tar.gz压缩包，在windows上解压，然后通过U盘拷贝rknn_toolkit_lite2/packages/rknn_toolkit_lite2-1.3.0-cp37-cp37m-linux_aarch64.whl到开发板上。如下图所示：
6 安装 Toolkit-lite2，Debian10 ARM64 with python3.7
pip3 install rknn_toolkit_lite2-1.3.0-cp37-cp37m-linux_aarch64.whl
7.4 运行测试程序
1首先也需要部署运行环境，将库文件放入RK3568开发板上，我们将网盘资料"iTOP-3568开发板\02_【iTOP-RK3568开发板】开发资料\11_NPU使用配套资料\05_Linux_librknn_api\librknn_api\aarch64"路径下的文件通过U盘拷贝到开发板的/usr/lib目录，如下图所示：
2 下载网盘资料中"iTOP-3568开发板\02_【iTOP-RK3568开发板】开发资料\11_NPU使用配套资料\04_RKNN-Toolkit-lite2工具"中rknn_toolkit_lite2.tar.gz压缩包，在windows上解压，然后通过U盘拷贝rknn_toolkit_lite2/examples 文件夹下的 Demo inference_with_lite 放入RK3568开发板，这个demo是通过resnet残差神经网络识别"space_shuttle_224.jpg"这幅图片，然后运行，输入以下命令：
cd inference_with_lite/
python3 test.py
运行成功如下图所示：
通过结果TOP的训练集标签查询可知，识别结果是宇宙飞船，训练集标签可详见（++++https://gist.github.com/yrevar/942d3a0ac09ec9e5eb3a++++）。
其置信度为0.9996，是所有标签中最高的，和图片事实相符。
