模型部署及不同芯片使用总结

不知不觉已经工作半年了,很久没写博客了,今天汇总一下这半年所学的东西,平时工作职责主要是在RKNN3588上做模型部署和算法开发,围绕这个方面,自己用一些开源的数据做了一些项目,巩固所学。

主要介绍自己的两个仓库:

**(1)基于目标探测和外观特征的多目标跟踪算法的完整的工程实现。**这个项目你可作为你的第一个完整新手项目。其中涉及

------编译第三方库

------模块化功能封装(跟踪、kalman、推理、后处理)

------yolo探测模型c++推理及预处理后处理(基于onnxruntime)

------CMakeList的项目编译

https://github.com/xurongtang/MultiObjectTrackerhttps://github.com/xurongtang/MultiObjectTracker至于该项目中跟踪的准确性不必在意,因为未作针对优化。

(2)基于MNN框架在地平线X5上的yolo实例分割模型部署。其中涉及

------aarch64的交叉编译

------模型转换及量化

------实例分割模型的工程后处理

https://github.com/xurongtang/MNN_yolov11Seg_x86_arm64https://github.com/xurongtang/MNN_yolov11Seg_x86_arm64

后续可能会涉及地平线、高通、英伟达等专门的芯片环境下的模型部署及其工具链的使用。

相关推荐
九.九21 小时前
ops-transformer:AI 处理器上的高性能 Transformer 算子库
人工智能·深度学习·transformer
春日见21 小时前
拉取与合并:如何让个人分支既包含你昨天的修改,也包含 develop 最新更新
大数据·人工智能·深度学习·elasticsearch·搜索引擎
恋猫de小郭21 小时前
AI 在提高你工作效率的同时,也一直在增加你的疲惫和焦虑
前端·人工智能·ai编程
deephub1 天前
Agent Lightning:微软开源的框架无关 Agent 训练方案,LangChain/AutoGen 都能用
人工智能·microsoft·langchain·大语言模型·agent·强化学习
大模型RAG和Agent技术实践1 天前
从零构建本地AI合同审查系统:架构设计与流式交互实战(完整源代码)
人工智能·交互·智能合同审核
老邋遢1 天前
第三章-AI知识扫盲看这一篇就够了
人工智能
互联网江湖1 天前
Seedance2.0炸场:长短视频们“修坝”十年,不如AI放水一天?
人工智能
PythonPioneer1 天前
在AI技术迅猛发展的今天,传统职业该如何“踏浪前行”?
人工智能
冬奇Lab1 天前
一天一个开源项目(第20篇):NanoBot - 轻量级AI Agent框架,极简高效的智能体构建工具
人工智能·开源·agent
阿里巴巴淘系技术团队官网博客1 天前
设计模式Trustworthy Generation:提升RAG信赖度
人工智能·设计模式