db-gpt部署问题

  1. 默认安装cpu版torch,可重新安装为gpu版

教程:本地安装torch2.3.1,cuda12.1,python3.10-CSDN博客

2.安装vllm失败,不支持window系统

首次安装缺少dll文件,下载并放到win32目录下解决

PyTorch之loading fbgemm.dll异常的解决办法_pytorch fbgemm-CSDN博客

下载速度超级慢,最后还是下载完了,但把torch对应的版本升级为2.4,还是cpu版的,运行失败,现在项目缺少vllm引擎

卸载vllm,重装gpu版本torch,重新安装了vllm0.5.1版本,显示vllm不支持window

pip install VLLM_VERSION=0.5.1

相关推荐
Moutai码农2 分钟前
大模型-提示词(Prompt)技巧
人工智能·语言模型·prompt
Moutai码农6 分钟前
大模型-提示词(Prompt)最佳实践
人工智能·语言模型·prompt
阿巴阿巴拉6 分钟前
Scala简介与基础语法学习总结
人工智能
zxsz_com_cn25 分钟前
风电行业预测性维护解决方案:AIoT驱动下的风机健康管理革命
大数据·运维·人工智能
Y1nhl2 小时前
搜广推校招面经六十四
人工智能·深度学习·leetcode·广告算法·推荐算法·搜索算法
禁默2 小时前
智能体开发基础:从概念到实现
人工智能·大模型·智能体
Y1nhl3 小时前
Pyspark学习一:概述
数据库·人工智能·深度学习·学习·spark·pyspark·大数据技术
简简单单做算法5 小时前
基于mediapipe深度学习和限定半径最近邻分类树算法的人体摔倒检测系统python源码
人工智能·python·深度学习·算法·分类·mediapipe·限定半径最近邻分类树
就决定是你啦!6 小时前
机器学习 第一章 绪论
人工智能·深度学习·机器学习