Yolov部署在Windows和Android上

Yolov部署在Windows和Android上

前言

Yolov是目标检测的利器,工业中运用得很火。尽管网上的Yolov部署资料很多,但是这块内容目前做得还算上成熟。为了将Yolov部署在Android和Windows上费了些功夫,这里稍微做一些填坑记录。

主要模块

  1. OpenCV 4.8 ,图像处理
  2. onnx runtime,微软的模型推理模块,支持onnx模型格式
  3. Yolov7,改为单类模型,用于瑕疵检测

尽管OpenCV自带DNN模块,可以加载ONNX模型,但是经过测试,能力非常有限。特别是对于端对端输出的yolov结构,基本不支持。因此这里使用微软的ONNX模型。

主要流程

训练Yolov模型,得到权重文件pt,将pt转换为ONNX模型。这里的转换参数非常重要,为了解析方便,模型直接用端对端编译输出,这样不需要额外做非极大值抑制NMS算法。但是这导致OpenCV的DNN模块无法解析模型。

转换为ONNX

bash 复制代码
python export.py --weights ./runs/train/exp6/weights/best.pt --grid --end2end --simplify --topk-all 10 --iou-thres 0.45 --conf-thres 0.25 --img-size 640 640 

https://netron.app/查看onnx模型结构,可以看到

EfficientNMS_TRT是NMS算法部分,输出结果很清晰,但是ONNX模块不支持,加载模型出错。解决方法是替换NMS模块,利用下面的方式编译

bash 复制代码
python export.py --weights ./runs/train/exp6/weights/best.pt --grid --end2end --simplify --topk-all 10 --iou-thres 0.45 --conf-thres 0.25 --img-size 640 640 --max-wh 640

新模型输出结构如图,完全符合要求。第一个维度代表了检测目标的个数,第二个维度有7个参数,分别是 batch_id,x0,y0,x1,y1,cls_id,score。需要注意的是,对于单类模型,score值是偏低的

如果模型不要求是端对端,估计OpenCV也能支持,就是需要自己准备NMS算法,不是懒人喜欢的方式。

部署代码

部署代码网上很多,这里不再赘述,需要注意的是,解析的代码要和自己的网络结构要一致。

JAVA

参考 https://gitee.com/agricultureiot/yolo-onnx-java

C++

参考 https://github.com/itsnine/yolov5-onnxruntime

里面有现成封装好的类,支持NMS,不过可能需要根据自己的网络输出调整。有好多年没拿起visual studio,感觉还相当怀旧。只是多年未见,C++仍旧是块硬骨头,各种编译问题,光是强硬的类型转换就让人望而生畏。

相关推荐
蹦蹦跳跳真可爱5892 小时前
Python----OpenCV(几何变换--图像平移、图像旋转、放射变换、图像缩放、透视变换)
开发语言·人工智能·python·opencv·计算机视觉
看到我,请让我去学习4 小时前
OpenCV 与深度学习:从图像分类到目标检测技术
深度学习·opencv·分类
jndingxin4 小时前
OpenCV 图像哈希类cv::img_hash::AverageHash
人工智能·opencv·哈希算法
Hoshino _Ai1 天前
OpenCV图像认知(三)
人工智能·opencv·计算机视觉
azoo1 天前
Canny边缘检测(cv2.Canny())
人工智能·opencv·计算机视觉
PyAIExplorer1 天前
图像梯度处理与边缘检测:OpenCV 实战指南
人工智能·opencv·计算机视觉
九章云极AladdinEdu1 天前
华为昇腾NPU与NVIDIA CUDA生态兼容层开发实录:手写算子自动转换工具链(AST级代码迁移方案)
人工智能·深度学习·opencv·机器学习·华为·数据挖掘·gpu算力
Blue桃之夭夭1 天前
基于OpenCV的实时人脸检测系统实现指南 ——Python+Haar级联分类器从环境搭建到完整部署
人工智能·python·opencv
presenttttt1 天前
用Python和OpenCV从零搭建一个完整的双目视觉系统(四)
开发语言·python·opencv·计算机视觉
jndingxin2 天前
OpenCV 人脸分析----人脸识别的一个经典类cv::face::EigenFaceRecognizer
人工智能·opencv·计算机视觉