模型部署及不同芯片使用总结

不知不觉已经工作半年了,很久没写博客了,今天汇总一下这半年所学的东西,平时工作职责主要是在RKNN3588上做模型部署和算法开发,围绕这个方面,自己用一些开源的数据做了一些项目,巩固所学。

主要介绍自己的两个仓库:

**(1)基于目标探测和外观特征的多目标跟踪算法的完整的工程实现。**这个项目你可作为你的第一个完整新手项目。其中涉及

------编译第三方库

------模块化功能封装(跟踪、kalman、推理、后处理)

------yolo探测模型c++推理及预处理后处理(基于onnxruntime)

------CMakeList的项目编译

https://github.com/xurongtang/MultiObjectTrackerhttps://github.com/xurongtang/MultiObjectTracker至于该项目中跟踪的准确性不必在意,因为未作针对优化。

(2)基于MNN框架在地平线X5上的yolo实例分割模型部署。其中涉及

------aarch64的交叉编译

------模型转换及量化

------实例分割模型的工程后处理

https://github.com/xurongtang/MNN_yolov11Seg_x86_arm64https://github.com/xurongtang/MNN_yolov11Seg_x86_arm64

后续可能会涉及地平线、高通、英伟达等专门的芯片环境下的模型部署及其工具链的使用。

相关推荐
Token炼金师23 分钟前
模型的防线:Prompt 注入防御、越狱攻击与对齐、红队测试、价值观对齐、对抗样本鲁棒性、安全评测与边界 —— 模型安全六防
人工智能·红队测试·prompt 注入防御·越狱攻击与对齐·价值观对齐·对抗样本鲁棒性·安全评测与边界
嘘神秘用37 分钟前
布:AI 驱动的 Redis 客户端,更快、更直观
数据库·人工智能·redis
黒亱中旳39 分钟前
Java AI 框架三国杀:Solon AI vs Spring AI vs LangChain4j 深度对比
java·人工智能·spring
小和尚同志1 小时前
前端 AI 单元测试思考与落地
前端·人工智能·aigc
alxraves1 小时前
医用超声远程会诊系统:会诊平台的核心架构与功能解析
java·人工智能·架构
jinggongszh2 小时前
智能硬件对接与系统落地:开发岗在制造现场的经验沉淀
大数据·人工智能
ZeekerLin2 小时前
AI 原生团队协作机制:角色、分工与工程文化变化
大数据·人工智能
城中南小2 小时前
零基础认识大语言模型(LLM)工作原理(5.Transformer的FFN模块到底是什么?)
人工智能·语言模型·transformer
碧口科技2 小时前
AI3D模型生成会不会结构不完整?判断标准与修复流程
人工智能·3d
战族狼魂3 小时前
GPT-5.6与Grok 4.5重磅发布
人工智能·算法·大模型·大语言模型