使用rknn-toolkit2将paddleseg模型导出rknn模型

目录

安装paddle2onnx环境

将paddle模型导出onnx模型

安装rknn-toolkits

转化rknn模型


安装paddle2onnx环境

将paddle模型导出onnx模型

  • 下载一个官方提供的模型,并解压

    cd paddle2onnx/tools/paddle
    wget https://bj.bcebos.com/paddlehub/fastdeploy/Portrait_PP_HumanSegV2_Lite_256x144_infer.tgz
    tar -xvf Portrait_PP_HumanSegV2_Lite_256x144_infer.tgz

  • 执行infer_shape

    python paddle_infer_shape.py --model_dir portrait_pp_humansegv2_lite_256x144_inference_model
    --model_filename model.pdmodel
    --params_filename model.pdiparams
    --save_dir portrait_pp_humansegv2_lite_256x144_inference_model
    --input_shape_dict="{'x':[1,3,144,255]}"

  • 导出onnx模型

    paddle2onnx --model_dir portrait_pp_humansegv2_lite_256x144_inference_model
    --model_filename model.pdmodel
    --params_filename model.pdiparams
    --save_file portrait_pp_humansegv2_lite_256x144_inference_model/portrait_pp_humansegv2_lite_256x144_inference_model.onnx
    --enable_dev_version True

安装rknn-toolkits

转化rknn模型

  • 我们直接使用FastDeploy中的python脚本,地址在tools/rknpu2/export.py

  • 编写一个yaml配置文件myseg.yaml,文件中的onnx模型是刚才转换得到的,修改成自己的目录,dataset.txt 在FastDeploy中有,拷贝到模型目录中,指定输出目录,配置完成后执行

    mean:
    -
    - 127.5
    - 127.5
    - 127.5
    std:
    -
    - 127.5
    - 127.5
    - 127.5
    model_path: ./Portrait_PP_HumanSegV2_Lite_256x144_infer/Portrait_PP_HumanSegV2_Lite_256x144_infer.onnx
    outputs_nodes:
    do_quantization: True
    dataset: "./Portrait_PP_HumanSegV2_Lite_256x144_infer/dataset.txt"
    output_folder: "./Portrait_PP_HumanSegV2_Lite_256x144_infer"

  • 执行转换脚本

    python tools/rknpu2/export.py
    --config_path myseg.yaml
    --target_platform rk3588

相关推荐
JeJe同学13 小时前
ONNX 的核心原理
人工智能·onnx
笑霸final3 天前
不用上传服务器!用 Vue3 + ONNX Runtime Web 在浏览器本地实现智能抠图
运维·前端·图像处理·ai·onnx·canva可画·web性能优化
大鹏的NLP博客5 天前
ONNX Runtime CUDA 推理优化实战:破解 C++ 比 Python 慢 28 倍的假象
c++·onnx·推理优化
AlfredZhao10 天前
在 Oracle APEX 中用 BGE_BASE 生成向量:从模型导入到历史数据更新
onnx
Lee_jerome13 天前
从 PyTorch 权重到 RK3588 板端推理:ResNet18 二分类模型完整部署教程
pytorch·边缘计算·rk3588·模型部署·onnx·resnet18·int8量化
johnny2331 个月前
ONNX生态简介与实战:ONNX Runtime
onnx
大鹏的NLP博客2 个月前
深度学习模型PyTorch与ONNX数值一致性校验通用技术报告
人工智能·pytorch·深度学习·onnx
阿钱真强道2 个月前
13 YOLOv8的ONNX输出结构——9个张量如何变成检测框
目标检测·onnx·yolov8·nms·dfl
weiwei228442 个月前
神经网络模型导出及开放标准格式ONNX
pytorch·onnx
再一次等风来3 个月前
YOLO26 实测记录:从模型下载、预测验证到 ONNX Runtime 推理部署
yolo·计算机视觉·onnx·yolo26