模型部署

Thanks_ks14 天前
深度学习·docker·tensorflow·模型部署·容器化技术·模型训练·flask 应用
利用 TensorFlow 与 Docker 构建深度学习模型训练与部署流水线在深度学习领域,构建、训练和部署模型是一个复杂且耗时的过程。本文将介绍如何利用 TensorFlow 构建深度学习模型,并通过 Docker 容器化技术实现模型的训练与部署,从而简化整个流水线,提高开发效率。我们将通过实战代码,展示从模型构建到部署的全过程。
阿利同学2 个月前
目标检测·计算机视觉·分类·模型部署·计算机视觉实战项目·人工智能实战项目
计算机视觉实战项目4(图像分类+目标检测+目标跟踪+姿态识别+车道线识别+车牌识别+无人机检测+A*路径规划+单目测距与测速+行人车辆计数等)计算机视觉项目大集合改进的yolo目标检测-测距测速路径规划算法图像去雨去雾+目标检测+测距项目交通标志识别项目
hi943 个月前
人工智能·深度学习·模型部署·pynq
Vitis AI 综合实践(DPU example: dpu_resnet50.ipynb)目录1. 简介2. 代码解析2.1 导入库2.2 图像预处理2.3 读取标签2.4 读取图像2.5 获取IO形状
我是陈扣题3 个月前
人工智能·深度学习·rk3588·强化学习·模型部署·ppo·orangep
使用RKNN在Orange Pi 5 (RK3588s) 上部署推理PPO深度学习模型本博客皆在展示如何在Orange Pi 5 上使用 RKNN C API 使用C语言来进行模型的部署,不设计以及讨论PPO网络的实现以及细节
机器学习社区7 个月前
深度学习·算法·大模型·llama·模型部署·模型微调·模型推理
用 LMDeploy 高效部署 Llama-3-8B,1.8倍vLLM推理效率节前,我们星球组织了一场算法岗技术&面试讨论会,邀请了一些互联网大厂朋友、参加社招和校招面试的同学,针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。
OpenBayes8 个月前
数据库·人工智能·机器学习·语言模型·数据集·模型部署·模型训练
【OpenBayes 官方教程】在模型训练中使用子域名访问服务本教程主要为大家讲解 OpenBayes 上如何在模型训练中使用子域名访问服务,新朋友点击下方链接注册后,即可获得 4 小时 RTX 4090 + 5 小时 CPU 的免费使用时长哦!
万里鹏程转瞬至10 个月前
深度学习·目标检测·模型部署
FastDeploy项目简介,使用其进行(图像分类、目标检测、语义分割、文本检测|orc部署)FastDeploy是一款全场景、易用灵活、极致高效的AI推理部署工具, 支持云边端部署。提供超过 🔥160+ Text,Vision, Speech和跨模态模型📦开箱即用的部署体验,并实现🔚端到端的推理性能优化。包括 物体检测、字符识别(OCR)、人脸、人像扣图、多目标跟踪系统、NLP、Stable Diffusion文图生成、TTS 等几十种任务场景,满足开发者多场景、多硬件、多平台的产业部署需求。
Python算法实战10 个月前
算法·langchain·大模型·模型部署·llamaindex
用通俗易懂的方式讲解:使用 LangChain 和 LlamaIndex 从零构建PDF聊天机器人随着大型语言模型(LLM)(如ChatGPT和GPT-4)的兴起,现在比以往任何时候都更容易搭建智能聊天机器人,并且可以堆积如山的文档,为你的输入提供更准确的响应。
刘悦的技术博客10 个月前
huggingface·模型部署
如何快速部署本地训练的 Bert-VITS2 语音模型到 Hugging FaceHugging Face是一个机器学习(ML)和数据科学平台和社区,帮助用户构建、部署和训练机器学习模型。它提供基础设施,用于在实时应用中演示、运行和部署人工智能(AI)。用户还可以浏览其他用户上传的模型和数据集。Hugging Face通常被称为机器学习界的GitHub,因为它让开发人员公开分享和测试他们所训练的模型。
阿利同学10 个月前
人工智能·yolo·目标检测·剪枝·模型部署·改进的yolo目标检测·如何 改进yolo
改进的yolov5目标检测-yolov5替换骨干网络-yolo剪枝(TensorRT及NCNN部署)2022.10.30 复现TPH-YOLOv52022.10.31 完成替换backbone为Ghostnet
机器学习社区1 年前
大模型·llm·模型部署·算法工程师
大模型推理部署:LLM 七种推理服务框架总结自从ChatGPT发布以来,国内外的开源大模型如雨后春笋般成长,但是对于很多企业和个人从头训练预训练模型不太现实,即使微调开源大模型也捉襟见肘,那么直接部署这些开源大模型服务于企业业务将会有很大的前景。
Ceri1 年前
yolo·模型部署
模型部署之——ONNX模型转RKNN提示:这里可以添加学习目标提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档加载rknn官方提供的基于x86架构下模型转换的镜像文件,生成容器,以及执行镜像。
给算法爸爸上香1 年前
前端·人工智能·python·flask·模型部署
用Flask搭建简单的web模型部署服务目录结构如下:classification.pyclassification.html运行程序,在浏览器输入http://127.0.0.1:8000/classification,效果展示:
豫州刺史1 年前
模型部署·ncnn
NCNN 源码学习【三】:数据处理这次我们来一段NCNN应用代码中,除了推理外最重要的一部分代码,数据处理:这一部分代码由两部分组成:先看名字,from_pixels_resize由两部分组成:
豫州刺史1 年前
模型部署·ncnn·腾讯优图
NCNN 源码学习【一】:学习顺序最近一段时间一直在做模型部署的工作,主要是利用NCNN部署到安卓端,跟着网上的博客和开源项目,做了很多工作,也学习到很多东西,但是对于NCNN的源码,并没有仔细的研究过,对我来说,仿佛是一个神秘的存在一样,接下来,将会对NCNN的源码进行研究,加深对于NCNN的理解。
豫州刺史1 年前
android-studio·模型部署·ncnn
Could not resolve all dependencies for configuration ‘:app:androidApis‘.android studio出现Could not resolve all dependencies for configuration ‘:app:androidApis’. 试过很多种方法,但是都不好使,不管怎么样都是提示如下报错:
晨同学03271 年前
人工智能·模型部署·onnx
人工智能模型转ONNX & 连接摄像头使用ONNX格式的模型进行推理部署之后模型的运算基本上能快5倍。本地部署之后,联网都不需要,数据和隐私不像在网上那样容易泄露了。各大厂商都有自己的推理工具。 训练的归训练,部署的归部署,人工智能也分训练端和部署端,每一个端操心自己事就好了。
简单点好不好1 年前
python·模型部署·onnx
2023-简单点-什么是onnx?open neural network exchange 开放神经网络交换mother: 微软和fb是一种模型的开放格式,跨平台兼容格式
爱听歌的周童鞋1 年前
tensorrt·模型部署·cuda·高性能
9.3.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-车道线检测杜老师推出的 tensorRT从零起步高性能部署 课程,之前有看过一遍,但是没有做笔记,很多东西也忘了。这次重新撸一遍,顺便记记笔记。
爱听歌的周童鞋1 年前
tensorrt·模型部署·cuda·高性能
9.1.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-道路分割分析杜老师推出的 tensorRT从零起步高性能部署 课程,之前有看过一遍,但是没有做笔记,很多东西也忘了。这次重新撸一遍,顺便记记笔记。