PaddlePaddle推理模型利用Paddle2ONNX转换成onnx模型

训练paddleocr模型,可以按照如下教程或者直接百度其他的

PaddleOCR训练自己的数据集(中英文)(全套)和C#部署(半套)_c# paddleocr-CSDN博客

将训练后的模型转换成推理模型

-c后面是你配置的det 的yaml文件 -o Global.pretrained_model=后面是你训练后的模型 latest

lobal.save_inference_dir=保存转换后的推理模型位置

python 复制代码
python tools/export_model.py -c "./configs/endet_enrec_encls/en_PP_OCRV3_det_cml.yml" -o Global.pretrained_model="./output/det/ch_PP-OCR_v3_det3/latest" Global.save_inference_dir="./models/inf_det/"

rec的转换和上方的det一样

转换后是如下

然后在命令行中pip下载paddle2onnx和onnxruntime

python 复制代码
# 安装paddle2onnx
pip install paddle2onnx -i https://pypi.tuna.tsinghua.edu.cn/simple
# 安装 ONNXRuntime,建议安装 1.9.0 版本,可根据环境更换版本号
pip install onnxruntime==1.9.0 -i https://pypi.tuna.tsinghua.edu.cn/simple

转换命令如下

python 复制代码
paddle2onnx --model_dir saved_inference_model \
            --model_filename model.pdmodel \
            --params_filename model.pdiparams \
            --save_file model.onnx \
            --enable_dev_version True

如果看不明白,下方是我的转换命令

model_dir 是你训练模型的文件夹

model_filename 是结尾是 .pdmodel文件

params_filename 是结尾是 .pdiparams文件

save_file 保存转换后的onnx模型

当然rec和det以及旋转模型也是如下,一共有三个。

python 复制代码
paddle2onnx 
     --model_dir H:\\DL\\PaddleOCR-main\\models\\ch_PP-OCRv3_rec_infer
     --model_filename inference.pdmodel 
     --params_filename inference.pdiparams 
     --save_file F:\\Desk\\159\\inference.onnx

测试推理

onnxruntime推理

python 复制代码
python tools/infer/predict_system.py --use_gpu=False --use_onnx=True \
--det_model_dir=./inference/det_onnx/model.onnx  \
--rec_model_dir=./inference/rec_onnx/model.onnx  \
--cls_model_dir=./inference/cls_onnx/model.onnx  \
--image_dir=./deploy/lite/imgs/lite_demo.png

优化模型命令

python 复制代码
python -m paddle2onnx.optimize --input_model model.onnx --output_model optimized_model.onnx
相关推荐
SHIPKING39329 分钟前
【机器学习&深度学习】什么是下游任务模型?
人工智能·深度学习·机器学习
子燕若水4 小时前
Unreal Engine 5中的AI知识
人工智能
极限实验室5 小时前
Coco AI 实战(一):Coco Server Linux 平台部署
人工智能
杨过过儿6 小时前
【学习笔记】4.1 什么是 LLM
人工智能
巴伦是只猫6 小时前
【机器学习笔记Ⅰ】13 正则化代价函数
人工智能·笔记·机器学习
大千AI助手6 小时前
DTW模版匹配:弹性对齐的时间序列相似度度量算法
人工智能·算法·机器学习·数据挖掘·模版匹配·dtw模版匹配
AI生存日记6 小时前
百度文心大模型 4.5 系列全面开源 英特尔同步支持端侧部署
人工智能·百度·开源·open ai大模型
LCG元7 小时前
自动驾驶感知模块的多模态数据融合:时序同步与空间对齐的框架解析
人工智能·机器学习·自动驾驶
why技术7 小时前
Stack Overflow,轰然倒下!
前端·人工智能·后端