db-gpt部署问题

  1. 默认安装cpu版torch,可重新安装为gpu版

教程:本地安装torch2.3.1,cuda12.1,python3.10-CSDN博客

2.安装vllm失败,不支持window系统

首次安装缺少dll文件,下载并放到win32目录下解决

PyTorch之loading fbgemm.dll异常的解决办法_pytorch fbgemm-CSDN博客

下载速度超级慢,最后还是下载完了,但把torch对应的版本升级为2.4,还是cpu版的,运行失败,现在项目缺少vllm引擎

卸载vllm,重装gpu版本torch,重新安装了vllm0.5.1版本,显示vllm不支持window

pip install VLLM_VERSION=0.5.1

相关推荐
martian66520 分钟前
深度学习核心:神经网络-激活函数 - 原理、实现及在医学影像领域的应用
人工智能·深度学习·神经网络·机器学习·医学影像·影像大模型
Apache Flink44 分钟前
Apache Flink 2.1.0: 面向实时 Data + AI 全面升级,开启智能流处理新纪元
人工智能·flink·apache
用户47949283569151 小时前
mcp是怎么和大模型进行交互的,有哪些交互方式
前端·人工智能
WeiJingYu.1 小时前
机器学习—逻辑回归
人工智能·机器学习·逻辑回归
AI导航猿1 小时前
Manus 上线 Wide Research:别再用一个 AI 干活了,现在流行“数字打工团队”
人工智能
一直在努力的小宁1 小时前
Diffuse and Disperse: Image Generation with Representation Regularization
大数据·人工智能·计算机视觉·diffuse
zl_vslam2 小时前
SLAM中的非线性优化-2D图优化之零空间实战(十六)
人工智能·算法·机器学习·计算机视觉·slam se2 非线性优化
SugarPPig2 小时前
(二)LoRA微调BERT:为何在单分类任务中表现优异,而在多分类任务中效果不佳?
人工智能·分类·bert