瑞芯微推理RKNN使用

参考资料

toolkit2
官网资料
野火实践指南

Ubuntu22.04实践

安装toolkit2

  1. 安装命令

    bash 复制代码
    pip3 install -r xxx/packages/requirements_cp310-1.6.0.txt
    pip3 install xxx/packages/rknn_toolkit2-1.6.0+81f21f4d-cp310-cp310-linux_x86_64.whl

    注意加上 -i xxx 可能会造成下载tf-estimator-nightly-2.8.0.dev2021122109失败,所以安装ensorboard-2.8.0时不加-i xxx 。

  2. 检测是否安装成功

    python 复制代码
    (toolkit2_1.5) llh@YH-LONG:~$ python3
    Python 3.10.12 (main, Nov 20 2023, 15:14:05) [GCC 11.4.0] on linux
    Type "help", "copyright", "credits" or "license" for more information.
    >>> from rknn.api import RKNN
    >>> 

推理步骤与过程

  1. 模型转换

    • 将其它模型转为onnx模型
    • 将onnx模型转换为rknn模型 python convert.py .../model/yolov8n.onnx rk3588
  2. 进行推理测试

    板端推理 python yolov8.py --model_path .../model/yolov8.rknn --target rk3568 --img_show

    • 遇到问题1 ValueError: 'rknn_model_zoo' is not in list. 解决办法将"rknn_model_zoo"改为实际项目名字"rknn_model_zoo-main"
    • 遇到问题2 error: no devices/emulators found. 板子连接问题,未连接板子或板子未连接好

    PC端推理 可在examples目录下找到对应的模型测试文件,如.../examples/onnx/yolov5/test.py。在目录下可直接执行python test.py

  3. 板端推理前置步骤

    • 板端GCC安装 [GCC下载](https://releases.linaro.org/components/toolchain/binaries/6.3-
      2017.05/aarch64-linux-gnu/gcc-linaro-6.3.1-2017.05-x86_64_aarch64-linux-gnu.tar.xz)

    • 计算机端 ./build-linux.sh -t rk3568 -a aarch64 -d yolov8 执行完毕会生成install文件夹

    • 将生成的文件推到板端 adb push install/<TARGET_PLATFORM>linux/rknn_yolov8_demo/ /userdata/

    • 进入板端,运行命令

      bash 复制代码
      adb shell
      cd /userdata/rknn_yolov8_demo
      
      export LD_LIBRARY_PATH=./lib
      ./rknn_yolov8_demo model/yolov8.rknn model/bus.jpg
    • 生成结果为out.png。adb pull /userdata/rknn_yolov8_demo/out.png

相关推荐
旷世奇才李先生37 分钟前
Pillow 安装使用教程
深度学习·microsoft·pillow
acstdm4 小时前
DAY 48 CBAM注意力
人工智能·深度学习·机器学习
澪-sl4 小时前
基于CNN的人脸关键点检测
人工智能·深度学习·神经网络·计算机视觉·cnn·视觉检测·卷积神经网络
羊小猪~~4 小时前
数据库学习笔记(十七)--触发器的使用
数据库·人工智能·后端·sql·深度学习·mysql·考研
视觉语言导航6 小时前
RAL-2025 | 清华大学数字孪生驱动的机器人视觉导航!VR-Robo:面向视觉机器人导航与运动的现实-模拟-现实框架
人工智能·深度学习·机器人·具身智能
羊小猪~~8 小时前
【NLP入门系列五】中文文本分类案例
人工智能·深度学习·考研·机器学习·自然语言处理·分类·数据挖掘
李师兄说大模型8 小时前
KDD 2025 | 地理定位中的群体智能:一个多智能体大型视觉语言模型协同框架
人工智能·深度学习·机器学习·语言模型·自然语言处理·大模型·deepseek
锅挤8 小时前
深度学习5(深层神经网络 + 参数和超参数)
人工智能·深度学习·神经网络
网安INF8 小时前
深层神经网络:原理与传播机制详解
人工智能·深度学习·神经网络·机器学习
喜欢吃豆8 小时前
目前最火的agent方向-A2A快速实战构建(二): AutoGen模型集成指南:从OpenAI到本地部署的全场景LLM解决方案
后端·python·深度学习·flask·大模型