CV12_ONNX转RKNN模型(谛听盒子)

暂时简单整理一下:

1.在边缘设备上配置相关环境。

2.配置完成后,获取模型中间的输入输出结果,保存为npy格式。

3.将onnx格式的模型,以及中间输入输出文件传送到边缘设备上。

4.编写一个python文件用于转换模型格式,dataset作为测试可以是随便的数据。

5.将python传送到边缘设备上并运行。

注意:所有文件要在同一目录下。

参考代码一:

python 复制代码
# Author:SiZhen
# Create: 2024/7/15
# Description: ONNX转RKNN
import os
import numpy as np
from rknn.api import RKNN

def convert_onnx_to_rknn(onnx_path,rknn_path,input_data,output_data):
    #创建RKNN对象
    rknn = RKNN()
    rknn.config(
        target_platforms='rk3588',
        quantized_algorithm='mmse',
        optimization_level = 2
    )
    #加载ONNX模型
    print('loading ONNX model...')
    ret = rknn.load_onnx(model=onnx_path)
    if ret !=0:
        print("load failed!")
        return
    #构建模型,进行RKNN模型转换
    print('building rknn model...')
    ret = rknn.build(do_quantization=False,dataset='/home/DiTing/sizhen/dataset.txt')
    if ret !=0:
        print('Build RKNN model failed!')

    #导出RKNN模型
    print('Exporting RKNN model...')
    ret = rknn.export_rknn(rknn_path)
    if ret != 0:
        print('Export RKNN failed!')
        return
    print('RKNN model is successfully exported to ',rknn_path)

    rknn.init_runtime()
    outputs=rknn.inference(inputs=[input_data],data_format='nchw')
    try:
        if np.test.assert_almost_equal(outputs[0],output_data,decimal=1)is None:
            print('模型输出与预期一致。')
    except AssertionError as e :
        print("不一致,详细信息:",e)

#转换模型
i = 0
onnx_path = r'/home/DiTing/sizhen/resNet34.onnx'
rknn_path = onnx_path.replace('.onnx','.rknn')
input_data = np.load('/home/DiTing/sizhen/input_data.npy')
output_data = np.load('/home/DiTing/sizhen/output_data.npy')
convert_onnx_to_rknn(onnx_path,rknn_path,input_data,output_data)

问题及解决方法

问题一

安装失败。

解决方法:这个地方,谛听盒子应该是arm的版本而不是x86:(Lite版本)

问题二

安装成功找不到属性

解决方法:用如下包替代

问题三

lite版本缺少属性

初步讨论结果:lite版本应该是只包含运行环境的,最好不要在盒子上进行模型转换,会又慢又卡,可能利特版本就是没有模型转换的功能的。

解决方法:在其他环境转换。(待更新)可能的解决办法:https://bbs.eeworld.com.cn/thread-1283146-1-1.html

相关推荐
Power20246665 分钟前
NLP论文速读|LongReward:基于AI反馈来提升长上下文大语言模型
人工智能·深度学习·机器学习·自然语言处理·nlp
数据猎手小k8 分钟前
AIDOVECL数据集:包含超过15000张AI生成的车辆图像数据集,目的解决旨在解决眼水平分类和定位问题。
人工智能·分类·数据挖掘
好奇龙猫13 分钟前
【学习AI-相关路程-mnist手写数字分类-win-硬件:windows-自我学习AI-实验步骤-全连接神经网络(BPnetwork)-操作流程(3) 】
人工智能·算法
沉下心来学鲁班28 分钟前
复现LLM:带你从零认识语言模型
人工智能·语言模型
数据猎手小k28 分钟前
AndroidLab:一个系统化的Android代理框架,包含操作环境和可复现的基准测试,支持大型语言模型和多模态模型。
android·人工智能·机器学习·语言模型
YRr YRr37 分钟前
深度学习:循环神经网络(RNN)详解
人工智能·rnn·深度学习
sp_fyf_20241 小时前
计算机前沿技术-人工智能算法-大语言模型-最新研究进展-2024-11-01
人工智能·深度学习·神经网络·算法·机器学习·语言模型·数据挖掘
红客5971 小时前
Transformer和BERT的区别
深度学习·bert·transformer
多吃轻食1 小时前
大模型微调技术 --> 脉络
人工智能·深度学习·神经网络·自然语言处理·embedding
萧鼎1 小时前
Python并发编程库:Asyncio的异步编程实战
开发语言·数据库·python·异步