YOLOV5 /onnx模型转换成rknn

上两篇文章讲述了pytorch模型下best.pt转换成onnx模型,以及将onnx进行简化成为best-sim.onnx,

接下来这篇文章讲述如何将onnx模型转换成rknn模型,转换成该模型是为了在rk3568上运行

1.创建share文件夹

文件夹包含以下文件best-sim.onnx,rknn-tookit2-1.4.0压缩包,rknpu2-1.4.0压缩包

RKNN-Toolkit2-1.4.0 是一个软件开发套件,主要用于在PC和瑞芯微(Rockchip)NPU平台上进行深度学习模型的转换、推理和性能评估。

RKNPU2-1.4.0 主要用于在Rockchip NPU平台上部署和运行AI模型,为开发者提供了方便的编程接口和工具,支持的平台:它支持多种Rockchip芯片平台,包括RK3566、RK3568、RK3588、RK3588S、RV1103、RV1106等

2.主机与vmware共享文件夹

虚拟机·--选项--共享文件夹--将c:/share文件夹添加--确定

输入命令

复制代码
sudo mount -t fuse.vmhgfs-fuse .host:/ /mnt/hgfs -o allow_other

/mnt/hgfs/ 是挂载点,我们也可以修改为其它挂载点
-o allow_other 表示普通用户也能访问共享目录。

输入上述命令进行挂载,挂载后然后,再次进入 /mnt/hgfs 查看得到共享的share文件夹 (注意:挂载后必须要再次进入/mnt/hgfs才能查看到共享的文件夹)

3.安装远程安装工具

cs 复制代码
sudo apt-get install openssh-server

Finalshell远程连接虚拟机

4.创建文件夹对rknn-toolkit2-1.4.0和rknpu2-1.4.0进行解压

cs 复制代码
mkdir rknn
cp /mnt/hgfs/share/rknn-toolkit2-1.4.0.zip    rknn/rknn-toolkit2-1.4.0.zip
cp  /mnt/hgfs/share/rknpu2-1.4.0.zip   rknpu2-1.4.0.zip
cd rknn/
ls
unzip rknn-toolkit2-1.4.0.zip
cd ..
unzip rknpu2-1.4.0.zip

5.安装docker环境

更新列表

cs 复制代码
sudo apt-get update

更新一下软件

cs 复制代码
sudo apt-get upgrade

输入以下命令

cs 复制代码
sudo apt-get remove docker docker-engine docker.io containerd runc

安装docker依赖的环境

cs 复制代码
sudo apt-get install ca-certificates curl gnupg lsb-release

添加密钥

cs 复制代码
 curl -fsSL http://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo apt-key add -

添加一个软件源

cs 复制代码
sudo add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable"

安装docker

cs 复制代码
sudo apt-get install docker-ce docker-ce-cli containerd.io

给自己赋予运行的权利hjr为我的用户名

cs 复制代码
sudo usermod -aG docker hjr

输入exit退出再重启

cs 复制代码
exit

重启docker

cs 复制代码
sudo systemctl start docker

在docker中安装其他的工具

cs 复制代码
 sudo apt-get -y install apt-transport-https ca-certificates curl software-properties-common

输入以下命令 将镜像rknn-toolkit2-1.4.0-cp38-docker.tar.gz拷贝到家目录

cs 复制代码
 cp  /mnt/hgfs/share/best-sim.onnx  ~/rknn/rknn-toolkit2-1.4.0/examples/best-sim.onnx
 cp rknn/rknn-toolkit2-1.4.0/docker/rknn-toolkit2-1.4.0-cp38-docker.tar.gz rknn-toolkit2-1.4.0-cp38-docker.tar.gz在家目录下复制

加载镜像

cs 复制代码
docker load --input rknn-toolkit2-1.4.0-cp38-docker.tar.gz 

运行镜像

cs 复制代码
docker run -it --privileged --network=host -v /dev/bus/usb:/dev/bus/usb -v ~/rknn/rknn-toolkit2-1.4.0/examples:/examples rknn-toolkit2:1.4.0-cp38 /bin/bash 

显示以下画面说明镜像运行成功

安装文件传递工具 ,这个工具主要为了上传测试图片

cs 复制代码
apt-get install lrzsz

在docker环境下进入 cd examples/onnx/yolov5

cs 复制代码
 cd examples/onnx/yolov5

进入yolov5文件夹后,将exampels/best-sim.onnx 拷贝过来

cs 复制代码
 cp /examples/best-sim.onnx best-sim.onnx

6.在docker环境下上传测试02.jpg图片

mydataset.txt实在dataset.txt的基础上进行拷贝的,test1.py实在test.py的基础上进行拷贝的

cs 复制代码
cp datatset.txt mydataset.txt 
cp test.py test1.py

7 修改test1.py

将下面内容进行修改,将ONNX模型改为best-sim.onnx,生成的RKNN自己命名为best-sim.onnx,IMG为自己测试的图片,DATASET为识别的图片,生成以后检测图片为out2.jpg

打开mydataset.txt,打开以后是自己将要识别的图片02.jpg

cs 复制代码
vim mydataset.txt

8.运行test1.py

best-sim.rknn生成,同时out2.jpg检测图片生成

cs 复制代码
python test1.py

查看图片输入以下命令

cs 复制代码
sz out2.jpg

在docker环境下best-sim.rknn模型成功转出,对检测图片也成功进行识别

相关推荐
前网易架构师-高司机3 小时前
带标注的山体滑坡塌方数据集数据集,识别率78.1%,974张图,支持yolo,coco json,voc xml,文末有模型训练代码
xml·yolo·json·数据集·自然灾害·山体滑坡
guo_xiao_xiao_7 小时前
YOLOv11马匹皮肤病目标检测数据集
人工智能·yolo·目标检测
明月醉窗台17 小时前
C++ tensorrt部署时打包需要的依赖库
yolo·nvidia
前网易架构师-高司机1 天前
带标注的SDD-SAR遥感船舶识别数据集,识别率92.9%,7000张图,支持yolo,coco json,voc xml,文末有模型训练代码
yolo·json·数据集·遥感·sar·船舶·sdd
一见已难忘2 天前
4类红外热成像目标检测数据集(轿车/行人/货车/摩托车)| 4300张YOLO红外夜视检测数据集 适用于自动驾驶、智能安防与红外目标检测研究
yolo·目标检测·自动驾驶
会飞锦鲤2 天前
基于YOLOv10的瓜果成熟度智能检测系统
人工智能·python·深度学习·yolo·flask
朱永博2 天前
Cpp使用Tensorrt10.8推理Yolo26
yolo
YOLO数据集集合2 天前
井下钻场智能监控系统:YOLOv8驱动的多目标检测全栈实战 | 打钻过程监测、安全行为识别、灾害防治辅助系统
yolo·目标检测·目标跟踪
大学生技术野农3 天前
基于Yolo26和Grad-CAM可视化融合的深度学习的猕猴桃分级系统-Python源码
python·深度学习·yolo
sali-tec4 天前
C# 基于OpenCv的视觉工作流-章95-险区警报
图像处理·人工智能·opencv·yolo·计算机视觉