paddleocr识别和推理,并用MNN进行推理

paddleocr在部署时候时,不同硬件平台兼容性做的不好,x86平台要用inference,arm用lite,为适配不同平台,采用MNN来进行推理。

1、paddlepaddle_gpu

版本非常重要,其余版本都出现转化错误,借助下面链接:

https://github.com/PaddlePaddle/Paddle/issues/77757

paddlepaddle_gpu更换为3.2.1版本

复制代码
pip install paddlepaddle-gpu==3.2.1 -i https://www.paddlepaddle.org.cn/packages/stable/cu126/ 

2、paddle2ONNX

https://github.com/PaddlePaddle/Paddle2ONNX

安装版本v2.1.0版本即可

3、PaddleOCR 3.4.0版本

采用python3.10版本,结合PaddleOCR 3.4.0,

进行训练:

复制代码
python -m paddle.distributed.launch --gpus '1'  ./tools/train.py -c ./passwd/PP-OCRv5_mobile_det.yml

进行export_model

复制代码
python ./tools/export_model.py -c ./passwd/PP-OCRv5_mobile_det.yml -o Global.pretrained_model=./output/PP-OCRv5_mobile_det/latest.pdparams Global.save_inference_dir=./output/PP-OCRv5_mobile_det/inference/

导成inference.pdiparams和inference.json

转化为onnx

复制代码
paddle2onnx --model_dir ./output/PP-OCRv5_mobile_det/inference/ --model_filename inference.json --params_filename inference.pdiparams --save_file model.onnx --opset_version 11

然后MNN进行转化

复制代码
./MNNConvert -f ONNX --modelFile /home/gzy/ocr/model.onnx --MNNModel /home/gzy/ocr/best.mnn

3、进行det和rec的推理

相关推荐
forest_094 小时前
《AI 编程 Harness 实战手册》04|审批这道门:点了一百次“允许”,还剩多少作用?
人工智能·算法·prompt·agi
火山引擎开发者社区5 小时前
当 RPA 遇上 Agent:MUA 混合执行 Workflow 深度拆解
人工智能
严肃小白兔5 小时前
第 10/24 期:深度神经网络的自动求导机制与梯度验证
人工智能·神经网络·dnn
火山引擎开发者社区5 小时前
定档12.16-12.18!FORCE原动力大会上海见!
人工智能
努力的MM1235 小时前
CAIE 二级和阿里云大模型 ACP 怎么选?企业 AI 工程与云平台开发能力对比
人工智能
老金带你玩AI5 小时前
Kling Image 4.0来了!8K和组图直出,电商人的提效神器?
人工智能
孟健6 小时前
用 unslop 拯救 AI 生成网页的塑料感,7 分钟重构落地实测
前端·人工智能·ai编程
stormzhangV6 小时前
Google 重返第一梯队
人工智能·google·aigc
十有八七7 小时前
手搓 Agent(五):学会翻书——RAG,先查资料再回答
前端·人工智能·后端