ubuntu 25 安装vllm

之前在网上查过很多资料,没有一个可以完整安装下来的,包括deepseek给出的方案也不行,自己亲测安装记录一下。

安装驱动 & CUDA

复制代码
sudo apt update
sudo apt install -y nvidia-driver-550 
sudo reboot

安装curl

复制代码
sudo apt install curl

使用包管理器(如 apt, yum, dnf 等)

复制代码
sudo apt update
sudo apt install libuv1-dev  # 安装开发库

安装后重启终端或运行

复制代码
source ~/.bashrc

为了避免安装时出现设备空间不足,修改缓存路径

清理/tmp目录

复制代码
sudo rm -rf /tmp/*

创建一个新的文件夹

复制代码
mkdir tmp

添加行

复制代码
export TMPDIR=/home/vlm/tmp

确保系统已更新

复制代码
sudo apt update && sudo apt upgrade -y

安装node.js

复制代码
curl -sL https://deb.nodesource.com/setup_14.x | sudo -E bash -
sudo apt-get install -y nodejs

然后,你可以使用 npm 来安装 uv 或任何相关的 Node.js 包:

复制代码
npm install uv

安装其他语言的库

复制代码
sudo apt-get install python3-pip
pip3 install uvloop  # 例如,安装 uvloop,这是一个 Python 的异步库

安装pipx

复制代码
sudo apt install pipx

安装uv工具

复制代码
pipx install uv

安装 astral-uv Snap 包

复制代码
sudo snap install astral-uv --classic

查看uv版本

复制代码
uv --version

安装 Python 3.12 和相关工具

复制代码
curl -Ls https://astral.sh/uv/install.sh | bash
uv venv vllm-env --python 3.12 --seed
source vllm-env/bin/activate

查看python版本

复制代码
python3.12 --version

安装pip

复制代码
sudo apt install python3-pip

更新pip版本

复制代码
pip install --upgrade pip

不缓存vllm安装

复制代码
pip install --no-cache-dir vllm -i https://pypi.tuna.tsinghua.edu.cn/simple

验证

复制代码
pip show vllm
相关推荐
Configure-Handler2 小时前
buildroot System configuration
java·服务器·数据库
津津有味道2 小时前
易语言TCP服务端接收刷卡数据并向客户端读卡器发送指令
服务器·网络协议·tcp·易语言
Fᴏʀ ʏ꯭ᴏ꯭ᴜ꯭.3 小时前
Keepalived VIP迁移邮件告警配置指南
运维·服务器·笔记
Genie cloud3 小时前
1Panel SSL证书申请完整教程
服务器·网络协议·云计算·ssl
一只自律的鸡3 小时前
【Linux驱动】bug处理 ens33找不到IP
linux·运维·bug
17(无规则自律)3 小时前
【CSAPP 读书笔记】第二章:信息的表示和处理
linux·嵌入式硬件·考研·高考
!chen3 小时前
linux服务器静默安装Oracle26ai
linux·运维·服务器
莫大3303 小时前
2核2G云服务器PHP8.5+MySQL9.0+Nginx(LNMP)安装WordPress网站详细教程
运维·服务器·nginx
REDcker4 小时前
Linux 文件描述符与 Socket 选项操作详解
linux·运维·网络