db-gpt部署问题

  1. 默认安装cpu版torch,可重新安装为gpu版

教程:本地安装torch2.3.1,cuda12.1,python3.10-CSDN博客

2.安装vllm失败,不支持window系统

首次安装缺少dll文件,下载并放到win32目录下解决

PyTorch之loading fbgemm.dll异常的解决办法_pytorch fbgemm-CSDN博客

下载速度超级慢,最后还是下载完了,但把torch对应的版本升级为2.4,还是cpu版的,运行失败,现在项目缺少vllm引擎

卸载vllm,重装gpu版本torch,重新安装了vllm0.5.1版本,显示vllm不支持window

pip install VLLM_VERSION=0.5.1

相关推荐
OAFD.5 分钟前
机器学习之线性回归:原理、实现与实践
人工智能·机器学习·线性回归
SHIPKING3932 小时前
【机器学习&深度学习】LMDeploy的分布式推理实现
人工智能·深度学习
mit6.8242 小时前
[RestGPT] docs | RestBench评估 | 配置与环境
人工智能·python
CareyWYR3 小时前
每周AI论文速递(250818-250822)
人工智能
门思科技3 小时前
LoRaWAN 的网络拓扑全解析:架构、原理与应用实践
服务器·网络·人工智能·科技·物联网·架构
兔子的倔强3 小时前
Transformer在文本、图像和点云数据中的应用——经典工作梳理
人工智能·深度学习·transformer
lxmyzzs5 小时前
【图像算法 - 21】慧眼识虫:基于深度学习与OpenCV的农田害虫智能识别系统
人工智能·深度学习·opencv·算法·yolo·目标检测·计算机视觉
Gloria_niki5 小时前
机器学习之K 均值聚类算法
人工智能·机器学习
AI人工智能+5 小时前
表格识别技术:通过图像处理与深度学习,将非结构化表格转化为可编辑结构化数据,推动智能化发展
人工智能·深度学习·ocr·表格识别
深圳多奥智能一卡(码、脸)通系统5 小时前
智能二维码QR\刷IC卡\人脸AI识别梯控系统功能设计需基于模块化架构,整合物联网、生物识别、权限控制等技术,以下是多奥分层次的系统设计框架
人工智能·门禁·电梯门禁·二维码梯控·梯控·电梯