模型部署

计算机视觉实战项目4（图像分类+目标检测+目标跟踪+姿态识别+车道线识别+车牌识别+无人机检测+A*路径规划+单目测距与测速+行人车辆计数等）计算机视觉项目大集合改进的yolo目标检测-测距测速路径规划算法图像去雨去雾+目标检测+测距项目交通标志识别项目

Vitis AI 综合实践（DPU example: dpu_resnet50.ipynb）目录1. 简介2. 代码解析2.1 导入库2.2 图像预处理2.3 读取标签2.4 读取图像2.5 获取IO形状

我是陈扣题

使用RKNN在Orange Pi 5 (RK3588s) 上部署推理PPO深度学习模型本博客皆在展示如何在Orange Pi 5 上使用 RKNN C API 使用C语言来进行模型的部署，不设计以及讨论PPO网络的实现以及细节

机器学习社区

用 LMDeploy 高效部署 Llama-3-8B，1.8倍vLLM推理效率节前，我们星球组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。

【OpenBayes 官方教程】在模型训练中使用子域名访问服务本教程主要为大家讲解 OpenBayes 上如何在模型训练中使用子域名访问服务，新朋友点击下方链接注册后，即可获得 4 小时 RTX 4090 + 5 小时 CPU 的免费使用时长哦！

万里鹏程转瞬至

FastDeploy项目简介，使用其进行（图像分类、目标检测、语义分割、文本检测|orc部署）FastDeploy是一款全场景、易用灵活、极致高效的AI推理部署工具，支持云边端部署。提供超过 🔥160+ Text，Vision， Speech和跨模态模型📦开箱即用的部署体验，并实现🔚端到端的推理性能优化。包括物体检测、字符识别（OCR）、人脸、人像扣图、多目标跟踪系统、NLP、Stable Diffusion文图生成、TTS 等几十种任务场景，满足开发者多场景、多硬件、多平台的产业部署需求。

Python算法实战

用通俗易懂的方式讲解：使用 LangChain 和 LlamaIndex 从零构建PDF聊天机器人随着大型语言模型（LLM）（如ChatGPT和GPT-4）的兴起，现在比以往任何时候都更容易搭建智能聊天机器人，并且可以堆积如山的文档，为你的输入提供更准确的响应。

刘悦的技术博客

如何快速部署本地训练的 Bert-VITS2 语音模型到 Hugging FaceHugging Face是一个机器学习（ML）和数据科学平台和社区，帮助用户构建、部署和训练机器学习模型。它提供基础设施，用于在实时应用中演示、运行和部署人工智能（AI）。用户还可以浏览其他用户上传的模型和数据集。Hugging Face通常被称为机器学习界的GitHub，因为它让开发人员公开分享和测试他们所训练的模型。

改进的yolov5目标检测-yolov5替换骨干网络-yolo剪枝（TensorRT及NCNN部署）2022.10.30 复现TPH-YOLOv52022.10.31 完成替换backbone为Ghostnet

机器学习社区

大模型推理部署：LLM 七种推理服务框架总结自从ChatGPT发布以来，国内外的开源大模型如雨后春笋般成长，但是对于很多企业和个人从头训练预训练模型不太现实，即使微调开源大模型也捉襟见肘，那么直接部署这些开源大模型服务于企业业务将会有很大的前景。

模型部署之——ONNX模型转RKNN提示：这里可以添加学习目标提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档加载rknn官方提供的基于x86架构下模型转换的镜像文件，生成容器，以及执行镜像。

给算法爸爸上香

用Flask搭建简单的web模型部署服务目录结构如下：classification.pyclassification.html运行程序，在浏览器输入http://127.0.0.1:8000/classification，效果展示：

NCNN 源码学习【三】：数据处理这次我们来一段NCNN应用代码中，除了推理外最重要的一部分代码，数据处理：这一部分代码由两部分组成：先看名字，from_pixels_resize由两部分组成：

NCNN 源码学习【一】：学习顺序最近一段时间一直在做模型部署的工作，主要是利用NCNN部署到安卓端，跟着网上的博客和开源项目，做了很多工作，也学习到很多东西，但是对于NCNN的源码，并没有仔细的研究过，对我来说，仿佛是一个神秘的存在一样，接下来，将会对NCNN的源码进行研究，加深对于NCNN的理解。

Could not resolve all dependencies for configuration ‘:app:androidApis‘.android studio出现Could not resolve all dependencies for configuration ‘:app:androidApis’. 试过很多种方法，但是都不好使，不管怎么样都是提示如下报错：

人工智能模型转ONNX & 连接摄像头使用ONNX格式的模型进行推理部署之后模型的运算基本上能快5倍。本地部署之后，联网都不需要，数据和隐私不像在网上那样容易泄露了。各大厂商都有自己的推理工具。训练的归训练，部署的归部署，人工智能也分训练端和部署端，每一个端操心自己事就好了。

简单点好不好

2023-简单点-什么是onnx?open neural network exchange 开放神经网络交换mother: 微软和fb是一种模型的开放格式，跨平台兼容格式

爱听歌的周童鞋

9.3.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-车道线检测杜老师推出的 tensorRT从零起步高性能部署课程，之前有看过一遍，但是没有做笔记，很多东西也忘了。这次重新撸一遍，顺便记记笔记。

爱听歌的周童鞋

9.1.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-道路分割分析杜老师推出的 tensorRT从零起步高性能部署课程，之前有看过一遍，但是没有做笔记，很多东西也忘了。这次重新撸一遍，顺便记记笔记。

爱听歌的周童鞋

9.4.tensorRT高级(4)封装系列-使用pybind11为python开发扩展模块杜老师推出的 tensorRT从零起步高性能部署课程，之前有看过一遍，但是没有做笔记，很多东西也忘了。这次重新撸一遍，顺便记记笔记。