RK3588 rknpu2及rknn-toolkit2使用说明

RKNN模型推理共有四种方式:

第一种是借助RKNN-Toolkit2的功能在模拟NPU上运行RKNN模型并获取推理结果(在PC端)

第二种是借助RKNN-Toolkit2的功能, 将板子与PC连接,将RKNN模型分发到指定的NPU设备进行推理并获取推理结果(网络推理在板端,脚本写在PC端)

第三种是调用RKNN SDK的C语言API进行测试代码编写,并使用交叉编译器进行编译,将得到的可执行文件拷贝到板子上运行(开发编译在PC端,运行在板端)2024.3.7已验证

第四种是在板端安装rknn-toolkit2-lite工具,使用python脚本在板端推理(代码开发运行都在板端)

安装conda:

下载wget https://mirrors.bfsu.edu.cn/anaconda/archive/Anaconda3-2022.10-Linux-x86_64.sh --no-check-certificate

执行bash Anaconda3-2022.10-Linux-x86_64.sh

关闭自动进入conda,去除终端命令前(base):conda config --show | grep auto_activate_base; conda config --set auto_activate_base False(True)

PC上运行RKNN-Toolkit2(ubuntu20.04的python版本是3.8)

启动环境变量source ~/.bashrc

升级 conda update -n base -c defaults conda

新建并激活python3.6环境conda create -n rknnkit python=3.6; conda activate rknnkit(查看:conda info --envs 删除:conda remove -n rknnkit --all 关闭环境:conda deactivate)

cd rknn-toolkit2

pip install -r ./doc/requirements_cp36-1.4.0.txt

pip install torch==1.10.1 torchvision==0.11.2 -i https://pypi.tuna.tsinghua.edu.cn/simple(上一步会报错,切换源安装,后再重新执行上一步)

pip install ./packages/rknn_toolkit2-1.4.0_22dcfef4-cp36-cp36m-linux_x86_64.whl

判断是否安装成功:python; from rknn.api import RKNN

模型转换并推理:cd examples/onnx/yolov5;python test.py

开发板上运行rknn-toolkit-lite(ubuntu20.04的python版本是3.8)

bash Miniconda3-latest-Linux-aarch64.sh

conda create -n rknnlite python=3.9

conda activate rknnlite

cd rknn-toolkit2-1.3.0/rknn_toolkit_lite2/packages

pip install rknn_toolkit_lite2-1.3.0-cp39-cp39-linux_aarch64.whl

判断是否安装成功:python; from rknnlite.api import RKNNLite

推理:cd rknn-toolkit2-1.3.0/rknn_toolkit_lite2/examples/inference_with_lite;python test.py

相关推荐
后台开发者Ethan5 分钟前
FastAPI之 Python的类型提示
python·fastapi·ai编程
hello kitty w35 分钟前
Python学习(11) ----- Python的泛型
windows·python·学习
蜜蜜不吃糖40 分钟前
解决Vcenter告警datastore存储容量不足问题
linux·运维·服务器
没有梦想的咸鱼185-1037-166341 分钟前
AI Agent结合机器学习与深度学习在全球气候变化驱动因素预测中的应用
人工智能·python·深度学习·机器学习·chatgpt·数据分析
zzz.101 小时前
top命令的详解
linux·服务器·网络
东城绝神1 小时前
《Linux运维总结:基于ARM64+X86_64架构CPU使用docker-compose一键离线部署redis 7.4.5容器版分片集群》
linux·运维·redis·架构·分片集群
馨谙1 小时前
网络故障排查三板斧:路由追踪、端口检查,快速定位网络问题
linux·网络
报错小能手1 小时前
linux学习笔记(49)Redis详解(1)
linux·笔记·学习
QT 小鲜肉1 小时前
【个人成长笔记】在本地Windows系统中如何正确使用adb pull命令,把Linux系统中的文件或文件夹复制到本地中(亲测有效)
linux·windows·笔记·学习·adb
测试19982 小时前
Selenium自动化测试+OCR-获取图片页面小说详解
自动化测试·软件测试·python·selenium·测试工具·ocr·测试用例